西晉的滅亡，是中國封建史上一件堪稱奇恥大辱的事，無意之中，也開創了中國封建社會的許多「第一次」：西晉是中國封建王朝歷史上第一個滅亡在異族之手的大一統國家政權；西晉末代晉懷帝和晉愍帝，是中國封建王朝歷史上第一個和第二個被異族政權俘虜的中國皇帝。這樣的第一次，對那個時代晉王朝的每一個人來說，都是一種奇恥大辱。
西晉滅亡後的中國北方，內遷的各個少數民族紛紛建立政權，雖然他們打出了各種國號，但客觀上說，這時候的北方少數民族政權，還處於從游牧奴隸制經濟向封建制經濟轉化的階段，對於以農耕為主的中原漢地來說，他們主要的角色還是破壞者。事實也確實如此，五胡十六國時代開始後，北方的經濟遭受了沉重打擊，長江以北原本繁華無比的中原地區，赤地千里，餓殍遍野。對於當時的中國來說，這是一場由西晉政權內耗引發的，卻由整個中國北方各民族百姓來承受的災難。
在這樣的災難面前，東晉政權遷移到了南方，對於這樣的奇恥大辱，當時遷到南方的東晉權貴們，無論是身為皇帝的司馬睿，還是那些如喪家犬的世家大族們，回想著這災難的一切，自然是悲從心頭起。一次在一個叫新亭的地方，東晉的君臣眼望北方，想起西晉滅亡前北方和平的時光和當年的繁華，一個個不禁潸然淚下，這就是歷史上著名的「新亭對泣」事件。然而哭是解決不了問題的，晉朝的危機，並沒有因為他們的南遷而緩解。長江雖可以暫時保證晉朝的安全，但這個時期，北方的戰亂在繼續，大量的百姓南逃在繼續，沒有人知道，未來等待他們的會是什麼樣的命運，難道是南方繼續淪陷，百姓繼續遭到屠殺？沒有人願意這樣，而且，在遭受亡國之恥的東晉人心中，也都有一個簡單而共同的夢想：收復北方，光復河山。這不僅是東晉鞏固政權統治，整合難民的口號，也是當時東晉老百姓們的願望。這是中國封建王朝第一次面臨半壁江山淪陷的局面。
然而，也正是這麼多的「第一次」，激發了中華民族最珍貴的風骨：堅忍。眾所周知，擁有五千年文明的中華民族，是世界上最堅忍的民族，在每一次災難威脅面前，都會有勇敢的人挺身而出，帶領這個民族走出陰霾。在西晉滅亡，東晉建國的公元316年前後，當時在江南苦苦支撐的東晉王朝政權，確實到了一個「最危險的時候」。北方各政權持續南進，南方東晉王朝立足未穩，局面危急，北方的百姓正遭到戰爭的肆虐和野蠻的屠殺，呻吟在侵略者的鐵蹄下，如果只知道在新亭邊上哭，晉朝的亡國，或許是很快就會發生的。
東晉最終渡過了這個最危險的時期，主流的說法是因為江南地區世家大族王家的支持，幫助東晉司馬睿政權穩固了統治。但是，就在那些腦滿腸肥的士族階層還在相互觀望，尋求這個非常時期最大利益時，卻另有一些純粹而勇敢的人，堅決地站了出來，召集起不願意做亡國奴的軍民們，向著戰火連天的北方，肆虐中原的「五胡」敵人們，舉起了復仇的馬刀。當大批難民南逃避難，成為這個時期「主流情景」的時候，他們卻逆流而上，雖然明知不敵，雖然強敵在北，卻以一顆慷慨忠義之心，明知不可為而為之的勇氣，戰至流血凝肘而不退，只為一個那時代所有掙扎在戰爭鐵蹄下的人們一個共同的願望：收復國土，光復山河。
事實上，正是因為在這個時代里，有這樣一群人存在，早期立足不穩的東晉政權，才最終能夠頂住北方敵人的進犯，穩定自己的統治，並且成為萬千淪陷區軍民心中的希望。這些以弱小的力量，挺身而出抗擊侵略的民族英雄們，雖然大多數都遭到了失敗的命運，但是他們的奮鬥與犧牲，即使經過千百年歲月的跌宕，也足夠在今人心中，繼續激蕩起壯闊的波瀾。
這其中最傑出的兩個人，是祖逖與劉琨。
在東晉立國的早期，祖逖是一個極其重要的人，重要的程度超乎想像，他沒有崇高的官位，卻是整個東晉政權得以穩定發展的關鍵人物。因為那時，經歷無數次戰火逃生的人們，正紛紛奔往南方的時候，他卻掉頭向北，望著淪陷的山河青鋒出鞘，發出一聲當時東晉政權已經集體失語的吶喊：北伐。
祖逖，生於西晉時代的公元265年，河北淶水縣人，他的出身也不差，家族世代都是兩千石的高官。他的父親祖武做過上谷的太守，可以說，他出生在北方的一個軍人世家。這種家庭出身的人，身上自然帶有漢族武人慷慨好義的性格，年輕時候的祖逖就是如此。他年輕時最喜歡做的事情，就是練武，並且經常拿著錢財周濟鄉里，性格也豁然大度，屬於當地非常有名望的世家子弟。但和類似家庭里的「富二代」不同，祖逖從小就極其刻苦，不但精心研究兵法，更勤練武藝，有關他年輕時期一段最著名的典故就是「聞雞起舞」。公元289年，24歲的祖逖，結識了同樣是世家軍人家庭出身，遊歷到此的劉琨，兩個性格直爽的鐵漢一見如故，很快成了無話不說的好友，之後的許多時日里，他們同榻而眠，縱談時事。這個時期，還是西晉的繁榮期，但是危機已經到來，當時的河北地區，已經「豪傑並起」。所謂的「豪傑」，大部分都是山賊草寇，也包括許多進入當地的少數民族部落，西晉王朝繁榮的外表下，已經隱隱洶湧著暴亂的暗流。這種情況，自然讓兩個年輕人憂心忡忡，終於有一天，祖逖提議，以後每天早晨，只要雞叫了，就要起床練武，從此之後，兩個年輕人結伴練武，度過了人生中最快樂最充滿磨練的一段時光。也有說法是，當時的兩個人，同在當地司州處做主薄，屬於工作上的同事。但無論哪種說法成立，兩位後來魏晉南北朝早期最傑出的民族英雄，就是因為相同的對國家前途的憂心走到了一起，並且一道經歷了年輕時代的成長磨練。
祖逖命運的改變，發生在漫長的八王之亂中。這場持續在中國北方的戰亂，消耗掉了強大的西晉帝國大部分的兵力，西晉政權對於全國的控制力大幅度下降，外加常年戰爭導致階級矛盾激化，就像兩個年輕人當年所擔憂的那樣，動亂很快發生了。祖逖的家鄉河北，主要活動著羯族人石勒的羌族武裝，以及當地鮮卑等部落勢力，很快河北地區就陷入了大規模戰爭之中。在這場戰爭里，作為正統的西晉政權，他們在北方的首都洛陽，於公元311年淪陷，後來建立的首都長安，於公元316年淪陷，匈奴人建立的「漢」政權，將西晉徹底滅亡。與之同時發生的，就是戰亂中大批北方漢人的南逃，以祖逖的家鄉為例，當時的淶水地區，按照史書記載，大約有十分之七的百姓向南方逃亡，他們之中的大部分人，都死在了逃難的路上。祖逖也在這群難民之中，他率領親族鄉黨幾百人一路南下，歷盡千辛萬苦。這一段的逃亡路，讓祖逖錘鍊多年的軍事才華，有了試驗的機會，他作為家族的領頭人，一路負責斷後。從河北到江南的沿途，經常會遇到各少數民族政權的游牧騎兵，但凡見到逃難的漢人，不但格殺勿論，財物也被席捲一空。在這次逃亡旅途上，祖逖帶著家族裡的300多個青年，多次保護家族中的老幼婦孺逃難，與敵人浴血奮戰。等他們這一支難民隊伍抵達南方時，祖逖率領的斷後青年們，只剩下30多人。當時大部分的漢人南遷，就是這樣的悲壯。
逃到江南之後，祖逖因為一路上的英勇表現，得到了難民們的擁戴，因為他不只保護了自己的家人，還多次挺身而出，解救了許多逃難的百姓。一路之上，他也經常開動腦筋，繳獲敵人的馬匹，比如在路過山東的時候，面對追擊的敵人騎兵，他故意將對手引進山中，用弓弩射殺，截獲了他們的馬匹為自己所用。因為這些，他被當地的難民推舉為「行主」，一番輾轉，他們最後到達了江蘇鎮江，並在當地定居。
祖逖到達鎮江的時候，是公元317年，當時東晉司馬睿政權已經稱帝開國。祖逖的英雄事迹，在當時被人們廣為傳頌，這樣的人才，正是東晉開國早期最需要的。在拜見了司馬睿之後，祖逖被封為徐州刺史。得到任命的祖逖，給司馬睿提出的第一個建議，就是北伐。但這卻是當時司馬睿不能接受的，第一，當時的東南地區，東晉的統治並不穩固，好多當地士族對東晉政權持觀望態度；第二，司馬睿本人也不是一個有進取心的人。比較著名的一個典故是，司馬睿有一次問他的兒子，是北方遠還是太陽遠，兒子回答說，是北方遠。司馬睿問為什麼，兒子說，因為我們看得見太陽，卻看不見北方。司馬睿聽了很高興，誇獎兒子聰明。也就是說，司馬睿本人的願望，只是要偏安東晉，至於光復河山，他不會想太多。
祖逖雖然看不到北方山河，卻無時無刻不在想著北方山河，當時居住在京口地區的，主要是南下的北方難民，中國人從古到今的一大特點，就是戀家。離鄉背井，永遠是不得已的選擇，所以，收復河山，重回家園，是每一個難民心中的願望。而對於祖逖來說，他是軍人家庭出身，從小就有匡扶社稷的願望，北方山河的淪陷，對一個軍人來說，自然是奇恥大辱，所以北伐，是不用動員的。
北伐不用動員，但東晉政府