燕主慕容俊滅掉冉魏之後，繼續在華北四處出擊，攻城略地。先把佔據魯口自稱安國王的王午給滅了，然後又攻到了并州，最後將黃河以北的地方全部佔領。
這時黃河以南地區，大部分為各國已經投降晉國的降將所佔有。佔領陳留的是段氏鮮卑首領段蘭之子段龕。段蘭原來投奔了後趙，病亡後其子段龕繼職。後趙滅亡後，段蘭又從陳留遷到廣固（今山東青州西北）並自稱齊王，向東晉稱臣，封為鎮北將軍。還有前面提到過的洛陽守將周成，則是從冉魏投奔過來的。
慕容俊還想取山東、河南之地。他先看上了段龕的地盤，於是派人去招降段龕。段龕罵道：「我乃晉臣，豈降燕賊？」
燕使威脅道：「你不降，我們便要派兵來打。到時候你別後悔。」
段龕道：「慕容俊算什麼東西，也敢稱帝？我正準備向朝廷請命北伐呢，既然你們要來，也省得我費事了。」
雙方談判決裂，接下來就是戰爭了。慕容俊以慕容恪為帥，以陽騖為副帥，鮮於亮為前鋒，帶兵五萬渡過黃河去攻打段龕。
段龕嘴上說得厲害，但知道自己並不是燕國的對手，趕緊閉城不出，並派段薀向晉國求救。
這時，桓溫正在洛陽討伐姚襄，根本沒時間去救段龕。徐、兗二州刺史荀羨倒是從下邳（今江蘇睢寧西北處）聚集軍隊後出兵去救。但由於太遠，兵到琅琊（今安徽省滁州市西南）時，段龕已經敗降於燕。荀羨便打算退兵。軍司郗曇說，咱們不能白白出兵一次啊。雖然段龕敗了，可這時候燕國剛剛佔領了陽都（今山東省東南部沂南縣）和汴城（今河南開封），守兵並不多。不如趁這個時候攻下這兩個城池。
荀羨遂向西進攻，先後攻破汴城和陽都，殺死守將慕容蘭和王騰，留下大將諸葛攸、戴遂、劉庄守城，然後還軍。
這次燕晉之戰，算是各有得失，不過燕國占的便宜稍大一些。
段龕投降燕國之後，慕容俊對他還不錯，封為伏順將軍。慕容俊覺得自己的首都設在薊城（今北京）對於爭奪中原很不方便，遂將首都遷到鄴城。
桓溫聽說燕都南遷，不由大驚道：「河南必危矣！」遂又上疏朝廷，再請移都洛陽，並請北伐。這時候東晉的望族大臣們都過慣了江東安逸的日子，並不想遷都，更不想北伐，於是紛紛以遷都會造成國家混亂等理由反對遷都，又以桓溫功高震主為由，不許桓溫北伐。
相王司馬昱便再次拒絕遷都，而北伐的事則交給徐、兗二州刺史荀令。
荀羨率軍北伐，先攻山茌（今山東長清縣東北四里），守將賈堅不敵，城破自刎而亡。這時慕容塵率援軍趕來，晉軍出城迎擊，荀羨親自指揮。正在大戰的時候，荀羨突然頭疼，大叫一聲掉下馬去，昏迷不醒。副帥郗曇急忙收兵，燕軍趁勢進攻，晉軍敗退，失掉山茌。慕容塵以賈堅的兒子賈活為山茌太守，然後帶兵北歸。
晉軍回去後不久，荀羨就病死了，郗曇被任命為徐、兗二州刺史。司馬昱又派郗曇北伐，又命豫州刺史謝奕也帶一支軍隊策應。哪知道軍隊尚未出發，謝奕就病卒了。司馬昱連折兩員大將，也覺得喪氣，但北伐仍然要繼續。於是以吳興太守謝萬為西中郎將，監司、豫、冀、並四州諸軍事，豫州刺史；郗曇為北中郎將，都督徐、兗、青、冀、幽五州諸軍事，徐、兗二州刺史。兩軍東西齊出，兩路伐燕。
謝萬是謝奕之弟，好談軍事，和當年的趙括一樣，也是個紙上談兵的人物，而且為人很是清高，不善於和下屬打成一片。他的三哥謝安當時還沒有做官，在謝萬的軍營里幫著做些事，見到謝萬一副瀟洒名士的樣子，擔憂地說：「你現在是元帥，不是藝術家。所以應當經常和手下部將們談談話什麼的，既拉攏人心，又建立威信。這樣才好指揮他們。像你這樣孤傲，可不是一個元帥的樣子。」謝萬於是召集諸將訓話，可是又不知道說什麼，乾脆用手中的鐵如意伸到前面隨便指了指，然後道：「諸將都是勁卒。」下面那些將校們見他指手畫腳的樣子，並稱大家為「勁卒」，反而都看不起他。
謝萬率軍駐紮下蔡（今安徽省西北部鳳台縣），又派征虜將軍劉建駐軍馬頭城（今湖北公安縣東北）；郗曇率軍駐紮高平，以泰山太守諸葛攸為前鋒，攻打東郡（今河南省東北部和山東省西部部分地區）。不料，諸葛攸正與燕軍大戰於東阿時，郗曇又生重病，無法指揮軍隊，遂沒有進兵增援諸葛攸。諸葛攸沒有了後援，被燕軍數倍於己的軍隊擊敗，退回泰山。謝萬聽說諸葛攸打了敗仗，還以為燕國大軍要朝自己方向殺來，急忙退兵。底下諸將本就瞧不起謝萬，一聽要退兵，沒有一個人去提醒謝萬，都帶兵亂鬨哄地向南逃跑。謝萬沒有威信，整束不住軍隊。本來是後撤，結果成了敗逃。最後，謝萬隻帶著幾個親兵逃了回去。
慕容俊見晉軍不戰而逃，便派慕容恪、慕容評、陽騖、慕輿根等分率數路燕軍，渡河南下攻城，奪到了許昌、潁川、譙沛等淮河北岸的城市。晉廷非常憤怒，這是打仗么？簡直是放羊嘛，連放羊都不如！於是將謝萬廢為庶人，郗曇雖事出有因，但也有罪，降職為建武將軍。
謝萬廢為平民之後，他的三哥謝安（謝奕是老大）開始步入仕途。謝安在兄弟中排行第三，自幼聰明多智。四歲時，當時的尚書吏部郎桓彝（即桓溫的父親）看到他，大發讚歎：「這孩子風俊神清，以後肯定不啻於王東海（王東海即王承，是晉朝一代名臣）！」稍大一些，謝安更是氣宇非凡，甚至連被譽為「王與馬，共天下」的著名丞相王導都知道他，以至於當時的學童連他的讀書音韻都競相仿效，一時成為時尚。
謝氏渡江後，寓居在會稽（今浙江紹興）的東山。謝安年輕時無意仕途，每天跟支道林、王羲之、許詢、孫綽、李充等名士一起談文論詩，暢談玄理，還經常與他們一道游賞山水，藉以自娛。書法與文章的著名代表作《蘭亭集序》就是王羲之於永和九年（353）三月三日與這班朋友雅會蘭亭時所作。當時謝安也吟詩作文，以盡雅興。
在謝安盤桓東山，放情山水的時間裡，還發生過這樣一件事：有一次，他和孫綽等人相約泛舟海上，不料後來起了風浪，一時間波濤洶湧，浪捲雲翻，同伴們都大驚失色，想要馬上返回。只有謝安一個人遊興正濃，吟嘯詩文，若無其事。划船的老頭看他相貌安閑，神色愉悅，便繼續向遠方划去。這時更加風急浪猛，小舟像一片樹葉在驚濤駭浪間翻轉，其他人驚恐萬狀，站起來喊叫，謝安卻從容地說：「如果都這樣亂成一團，我們就回不去了。」大家這才平靜下來，船得以平安駛回。從這件事上，大家才認識到謝安的心胸膽量，足以鎮安朝野。
青年謝安以名士風度聞名於當時，就在他流連於會稽山水的時候，也曾多次被舉薦出來做官。第一次是他年僅弱冠時，揚州刺史庾冰聽到他的聲名，幾次下郡縣敦請逼迫他做自己的屬下。在萬不得已的情況下，謝安只好告別自己喜愛的家園前去赴召。可是才過了一個多月，他便打道回府了。另一次是在七年後，大將軍桓溫征伐蜀漢時也關注到謝安的盛名，就上報朝廷讓謝安做他的司馬。謝安這回更加乾脆，以世道難行為由，婉言拒絕了桓溫的好意。
當時謝氏家族中，謝安的從兄謝尚等兄弟輩有很多人已做了高官。謝家門前經常是車水馬龍，門庭若市。有一次，謝安的夫人劉氏指著那些富貴的本家兄弟悄悄地跟他開玩笑：「大丈夫難道不應該這樣嗎？」謝安聽罷，手掩鼻口悄悄對夫人說：「恐怕我以後也不免要這樣。」
儘管謝安知道自己為了家庭的崛起不免要出仕，卻仍舊屢次拒絕朝廷的徵召。當時有人感慨地說：「安石不肯出，天下百姓可怎麼辦呢？」但也有人認為謝安不尊重朝廷，竟連續幾次彈劾他，並要朝廷對他施加禁錮，限制活動自由。面對外界的種種反應，謝安依舊穩如泰山，淡若池水，對此根本不屑一顧，直到他的弟弟謝萬兵敗遭到廢黜後，謝安為了保持家族地位，更為了使其經略得以致用，才決定步入仕途。不久後，謝安受桓溫之邀，擔任征西大將軍府的司馬。
燕國攻取淮北之後，慕容俊十分高興，雄心大發，決定實行他吞併天下的志向，開始在全國大規模徵兵，命令每戶百姓家只能留一名男丁，其餘都徵召入伍。後來因為老百姓受不了，農田無人耕種，又改為三丁抽二，五丁抽三。同時廣備糧草，打造兵器。正在躊躇滿志的時候，慕容俊卻得了大病，一病不起，到第二年正月病亡，時年四十二歲。
太子慕容繼位，只有十一歲。遂以慕容恪為監國太宰，總領朝政。以上庸王慕容評為太傅，副贊朝政；以陽騖為太保，慕輿根為太師，參輔朝政。
東晉朝廷因為丟了兩淮的大片土地，一直耿耿於懷，得知慕容俊已死，又想北伐，但卻選不出可以統兵的大帥，最後還是不得不命桓溫北伐。桓溫卻道：「燕國最可懼的不是慕容俊，而是慕容恪，有他在，不可伐。」東晉朝廷這才極不甘心地暫時放棄收復兩淮的打算。