在國民黨退守台灣之際，因台灣大學原校長庄長恭離職，國民政府決定由傅斯年接任台大校長。經朱家驊和傅斯年多次晤談，傅勉強表示從命，欲「跳這一個火坑」。
傅斯年曾在「去留之間兩徘徊」。據史語所研究人員陳槃回憶：自三十八年冬（實應為三十七年），首都告急，群情惶急，不知何以為計。一日，師（傅斯年）召集同人會議，慘然曰：「研究所生命，恐遂如此告終矣！余之精力遂消亡，且宿疾未愈，雖欲再將研究所遷入適當地區，使國家學術中心維持得以不墜，然余竟不克荷此繁劇矣。今當籌商遣散。雖然如此，諸先生之工作，斯年仍願盡最大努力，妥為介紹安置。」同人此時，以學術自由之環境已受威脅，於多年生命所寄託之研究所，亦不勝其依戀可惜。一時滿座情緒，至嚴肅悲哀，有熱淚盈眶者。師於是不覺大感動，毅然曰：「諸先生之貞志乃爾，則斯年之殘年何足惜，當力命以付諸先生之望耳。」本所遷移之議，於是遂決。
1949年元旦之夜，胡適與傅斯年在南京共度歲末。是夜，師徒二人置酒對飲，相視凄然，兩位書生不禁潸然淚下。午夜的鐘聲響過，二人打起精神，一邊喝酒，一邊背誦陶淵明《擬古》第九：「種桑長江邊，三年望當采。枝條始欲茂，忽值山河改。柯葉自摧折，根株浮滄海。春蠶既無食，寒衣欲誰待。本不植高原，今日復何悔！」待把此詩吟過數遍，二人酒勁上來，倒在桌旁昏睡過去。
隨著陳布雷自殺身亡，傅斯年也產生了繼之而去的念頭。這個念頭存在他的心中已有時日，早在1932年他就說過：「國民黨曾為民國之明星者若干年，而以自身組織紊亂之故，致有今日拿不起，放不下之形勢。於是一切殘餘的舊勢力蠢蠢思動，以為『彼可取而代之』。」又說：「平情而論，果然共產黨能解決中國問題，我們為階級的緣故，喪其性命，有何不可。我們雖不曾榨取勞苦大眾，而只是盡心竭力忠其所職者，一旦『火炎昆岡，玉石俱焚』自然當與壞東西們同歸於盡，猶之乎宋朝亡國時，若干好的士人，比貪官污吏還死得快些一樣子。一從大處設想，即知如此命運真正天公地道，毫無可惜之處。」
陳槃回憶：「當首都倉皇之日，時有陳佈雷、段錫朋二氏之歿，師（傅斯年）因精神上大受刺激，悲觀之極，頓萌自殺之念。而師未於此時殉國者，賴傅夫人愛護防範之力也。」當時傅斯年的夫人俞大綵正準備陪母親去廣州、香港就醫，傅斯年的弟弟傅斯嚴（孟博）暗中勸俞不要離開。俞大綵說：「我略整行裝，準備隔日啟程，當夜孟博趕來痛哭流涕，責備我不該離開孟真。他說：『你難道不知道哥哥隨身帶著一大瓶安眠藥，一旦匪軍攻入，他便服毒自盡么？那時，你將何以自處？』骨肉情深，感人肺腑，我們相對涕泣，我便放棄了廣州之行。」幸得夫人看護，傅斯年未自殺赴死。
在傅斯年徘徊不定之時，台灣有關人士函電催促其迅速到台大上任。陳誠也致電傅斯年說：「弟已於今日先行接事，介公深意及先生等善意，恐仍須有識者之共同努力，方能有濟。弟一時不能離台，希先生速駕來台，共負鉅艱。」接到電報後，傅斯年將自己關在一個房間，三日三夜未出房門，繞室踱步，反覆吟詠、書寫陶淵明《種桑長江邊》的詩句，考慮去留問題，最後決定暫且去台灣就職。他原想帶全家去台灣，並且已買好了機票，臨時決定，把部分親屬留下，退掉了機票，對他們說：共產黨對文人還是要用的，我可能很快就回來。臨行又把許多圖書、家產留了下來。
1949年1月19日，傅斯年飛赴台灣。這天晚上，在慘淡的星光照耀下，傅斯年攜夫人走出了史語所大院中的家門，胡適與傅氏夫婦在前，秘書那廉君殿後，一行人在漆黑寒冷的夜色中悄無聲息地走著。沉沉的夜幕中，看門的老工友接過傅斯年手中的行李，在送向汽車的同時，嗚咽著道：「傅先生，今日一別，還能相見嗎？」傅聽罷，悲不自勝，熱淚奪眶而出：「好兄弟，等著我，我會回來的。」傅說著，握住老工友的手作了最後道別，然後登車倉皇離去。當夜，傅斯年飛抵台北。