朱家驊由大陸流亡台灣，由於派系傾軋，加之與大權在握、日見走紅的台灣省主席陳誠不和，朱氏漸漸失去了蔣的信任，原來擔負的行政院副院長等要職被革掉，只保留了「中央研究院」代院長一職。而此時所謂的「中央研究院」只有史語所與數學所一部分遷到台灣，基本屬於一個有名無實的空架子，如同一隻被拔掉毛的老母雞，徒有其形——且是一個不怎麼光鮮明亮的外形而已。1954年前後，位於南港的「中央研究院」院址具初步規劃時，朱家驊有擴院建所的打算，並於史語所以外尋找其他人文研究所成立的可能，最先被考慮的是近代史研究所與民族學研究所兩機構的組建。之所以如此考慮，一方面，鑒於國民黨政權遷台不久，對民國成立以來的種種盤根錯節、迷亂紛呈的歷史轉變因素的認識和理清，頗有緊迫感和反思指導意義；另一方面，國民黨政權既以台灣為盤據點，就不能做水中浮萍和無根之花，必須對台灣本地的種種現象有所探究，否則，很容易在不經意間於政治等各方面栽跟頭、吃大虧，甚至被當地台獨勢力擠垮，失掉政權，難以立足。因了這兩項重要原因和緊迫的現實問題，1955年，兩個研究所的籌備計畫順利得到當局批准並得以開辦。
當兩個新辦的研究所如同新生嬰兒般，在動蕩不安的台灣孤島上晃晃悠悠站立起來時，學政兩界人心振奮。於是，一系列的物理所、化學所、植物所等研究所相繼組建，其風頭之強悍，完全可與抗戰前蔡元培主持工作時的銳勢匹敵。正在這個由衰轉盛的關鍵時刻，接到了胡適要買地蓋房的消息。朱家驊同樣不敢隱瞞和擅自做主，便直接向蔣介石稟報。蔣聞訊，當場表示在「中央研究院」旁撥一塊地為胡氏置地建房，所需費用由自己的稿費中開銷，以示對胡的照顧與敬重。此諭一下，搞得朱家驊和李濟都有些尷尬，但又不能推辭。在美國的胡適聞訊甚感不安，認為自己受主公之重託出來「看看」，結果什麼也沒看到，無尺寸之功則要受賂，實感愧疚，便寫信明確表示不能接受介公如此盛情厚意，堅持要自己出錢購置地皮。就在雙方為幾間房子或真或假地你來我往拖拍之時，針對朱家驊的一件禍事發生了。
據石璋如回憶：「四十六年（1957年）夏天，由於天氣炎熱，又沒有外人。尤其在星期六快下班和星期天的時候，同仁常穿著拖鞋、汗衫上班。在八月四日星期六，是個悶熱的陰天，下午五點多蔣總統突然偕蔣夫人、帶著隨扈來到院里，大概是要找朱家驊院長的麻煩。蔣一行人抵院時，院方已經下班了，多處門房深鎖，衛隊直接到所上，就碰到還沒回家的嚴耕望先生。嚴先生先請一行人至會議室暫坐，隨即來找我告知此事。我才剛到家脫下衣服，馬上穿回衣服出來。我到所時只見到蔣總統一行人已出所的背影，無法對他們有所招待，誰知道這樣就出錯了。『中央研究院』有固定的上班時間，『蔣總統』來所時已屬下班時間，不能說『中央研究院』偷懶不上班。後來不知道有誰說了什麼話，朱家驊院長就在十一月辭職。」
朱家驊突遭橫禍，廟堂與坊間滋生了許多說法，但沒有一件能擺到桌面上的鐵證。有人說，在1948至1949年國民黨大勢已去的重要歷史轉折關頭，李宗仁、白崇禧等桂系軍閥聯合閻錫山輩趁機擁兵自重，逼蔣介石下野。蔣於萬般無奈中只得屈從，由李宗仁代總統。蔣回到老家浙江奉化溪口暫時隱居後，李、白等軍閥集團開始拉閻錫山、朱家驊、王世傑、張治中、吳鐵城等各色官僚合作，並以「卧榻之側，豈容他人鼾睡」的霸王姿態，逼蔣出洋流亡，永遠在中國地盤上消失。蔣於1949年3月3日接到張治中親自上門敦促其出國的要求，甚感悲憤，勃然大怒曰：「他們（南按：李宗仁、白崇禧）逼我下野是可以的，要逼我亡命就不行！下野後我就是個普通國民，哪裡都可以自由居住，何況是在我的家鄉。」
3月4日，吳鐵城再次派李惟果前往溪口，轉達李宗仁集團希望其儘快出洋之意，蔣更為盛怒，除大罵一頓「娘希匹」和李宗仁「不仁」之外，還差一點將李惟果抓起來「斬立決」。蔣介石背運至此，李、白等輩逼宮至此，世道無常，政客無情由此可見。再後來，隨著國民黨軍棄守南京，李宗仁統率政府人員流竄到廣州。6月12日，由閻錫山出任行政院長兼國防部長，朱家驊出任行政院副院長，以新任內閣掣肘蔣的國民黨總裁權力。蔣介石把朱家驊這一做法看作是對自己的叛逆，遂懷恨在心，伺機發難。
1950年3月1日，已逃往台灣剛喘過一口氣的蔣介石，在「國大代表」及各界人士「勸進」下，一腳踢開以治病為名滯留美國，怕遭到像張學良一樣軟禁待遇而不敢回台的李宗仁（南按：桂系軍隊幾乎全軍覆滅，李已失去依靠），在台北「總統府」正式「復職視事」，履行「總統職權」。從此偏安一隅，成為終身「總統」，且把其位傳諸其子蔣經國。蔣介石在台灣「登基」後，遠在美國紐約、不明事理的李宗仁聞訊，對外發表講話，稱自己仍是中華民國的「代總統」，正準備回國復職，想不到蔣氏竟違背憲法，擅自宣布令人驚異云云。蔣介石見報，立即實施反制，公開致電李宗仁，以「總統」身份令其「代表中正訪問美國朝野從速回國」。李宗仁搞了個灰頭土臉，四年後終於被蔣介石以憲法的名義，正式罷免早就已經被國人拋入九霄雲外的所謂「副總統」職位。在美國的李宗仁聞訊跺腳罵娘，但已沒有多少人有興趣聽這個敗軍失國之將和不成器的官僚政客瞎吵嚷了。
同不識大體的李宗仁相比，老奸巨猾的閻錫山聰明乖巧得多。蔣介石復職後，閻深感不妙，主動向蔣介石辭去「行政院長」（南按：1950年1月－1950年3月，由顧祝同接替閻出任「國防部長」），蔣虛意挽留，終獲准許，由陳誠繼任「行政院長」。從此，台灣的蔣氏政權開始形成了「蔣陳體制」，陳誠一躍成為台灣僅次於蔣氏的二號實權人物。閻錫山辭職後，獲得「總統府」資政和國民黨中央評議委員兩個虛銜，而後一頭鑽入台北市金山之麓自己蓋的窯洞中，不問世事，埋頭著述，過起了隱士生活。
與閻錫山在廣州一道組閣並出任行政院副院長的朱家驊，自國民政府一幫孤臣敗將遷台後，「總統府」與「行政院」均在台北介壽館辦公。因「代總統」李宗仁仍在美國，不能抵台視事，自1950年2月19日起，由朱家驊代行「總統」職權，此為朱氏一生權力達到巔峰的短暫時刻。據李宗仁回憶說：「朱家驊在當時黨人中算是比較識大體的一位……為著維持『銀元券』，他曾兩度飛台，向蔣請示，擬運一批銀元來穗。此舉可說純為大局著想，遠非陳果夫、陳立夫兄弟所能及。然朱家驊可能因此而觸蔣氏之忌，嗣後在台幾度遭蔣的為難。」李宗仁所言大體不差，蔣介石早就把朱視為異己分子而有收拾之心。蔣復任「總統」後，深知一朝天子一朝臣的朱家驊同閻錫山一樣，頗有自知之明地辭卻「行政院」副院長之職，專任「總統府」資政與「中央研究院」代院長，以避鋒芒。但是，蔣介石並沒有忘記在自己最倒霉的時候，朱氏所做的落井下石的前朝舊事，總是耿耿於懷，待機而發。1950年6月，朝鮮戰爭爆發，美國第七艦隊駛入台灣海峽阻止解放軍進攻，岌岌可危的國民黨小朝廷穩住了陣腳。在這種急轉直下的局面下，一直忍而不發的蔣介石開始對前朝的「叛逆」予以外科手術式打擊和肅清。當王世傑的「總統府」秘書長被以「矇混舞弊，不盡職守」罪名整肅掉之後（南按：有人說王在蔣面前說了一句「我是鞠躬盡瘁，死而後已」，惹得蔣大怒，意即王氏把蔣氏父子看成阿斗之類的人物，王遂被撤職），便把目標轉向了朱家驊。此時的朱家驊與炙手可熱、大權在握的陳誠關係越來越糟，遂加快了其被從國民黨權力圈中掃地出門的步伐。在各方權貴陰謀與陽謀的合力夾擊、施壓下，朱家驊心有不甘但又無可奈何地於1957年10月22日辭去「中央研究院」代院長一職，1958年1月11日辦理移交手續，只剩一個新聘的「總統府國策顧問」空冠戴回家中高掛於牆壁之上，以發思古之幽情，嘆世事之無常了。
朱氏辭職後，蔣屬意胡適回台繼任，在胡一時不能回歸之前，指令由李濟暫代「中央研究院」院長職。未久，「中央研究院」按照慣例召開評議會推選新任院長，眾評議員推舉了三人，即胡適、李濟、李書華，由「總統」圈點，胡適當然地進入圈內。據石璋如說：「做過駐美大使、北大校長的胡適先生，抗戰中幫了中國不少忙，政治上堅決反共，（民國）四十幾年大陸清算胡先生，台灣眼見大陸批胡，於是就捧胡，使台灣與胡先生合拍。若非大陸清算胡先生，以他的自由派立場，總統也不太放心的。當局既然有心安排胡先生出任中央研究院院長，自然就要虛位以待，朱先生必須辭職。」
石氏的回憶再次印證，蔣介石早就想收拾朱家驊，只是沒有一個適當的借口而遲遲未能得手，恰好這時胡適提出回台蓋房著書立說，蔣氏決意要拿自己的稿費予以成全，看似違反常規，實則是一個倒