「王與馬共天下」政治格局的形成，既是琅邪王與琅邪王氏的地域結合，又有其歷史原因。王馬結合的歷史淵源，可以追溯到西晉八王之亂後期即東海王司馬越與成都王司馬穎對峙期間司馬越與王衍的關係。
八王之亂後期，惠帝子孫全都死亡，惠帝兄弟成為其時司馬皇統中血統最近的親屬。成都王穎搶得了皇位繼承權，稱皇太弟，居鄴城遙制洛陽朝政。東海王越是八王之中最後參與亂事的藩王。按血統關係說，東海王越是司馬懿弟東武城侯司馬馗之孫，高密王司馬泰之子，於武帝、惠帝皇統是疏而又疏，同成都王穎居於惠帝兄弟地位者大不一樣。按食邑數量說，成都王本食四郡，東海王只食六縣，大小輕重迥不相同。永興元年（304年）七月盪陰戰後，惠帝被劫入鄴，成都王穎更成為決定性的政治力量。但是不久，黨於東海王越的幽州刺史王浚發兵攻鄴，成都王穎和惠帝以及皇室其它近屬逃奔洛陽，被河間王顒部將裹脅入關。這時候，惠帝兄弟輩二十五人中，只剩下成都王穎（原來的皇太弟，入關後被廢）、豫章王熾（入關後新立的皇太弟，後來的晉懷帝）和吳王晏（後來的晉愍帝司馬鄴之父） 。惠帝和宗室近屬悉數入關，廣大關東地區沒有強藩控制，這是東海王越填補空缺、擴充勢力的大好時機。東海王越的勢力就是趁這個機會擴充起來的。
盪陰敗後，司馬越回東海國，又收兵下邳，取得徐州，控制江淮，進行了大量的活動 。從此，徐州地區成為他的廣闊後方。他部署諸弟司馬騰、司馬略、司馬模分守重鎮以為形援。然後他移檄征、鎮、州、郡，自為盟主，並於光熙元年（306年）把惠帝從長安奪回洛陽。接著，惠帝暴死，成都王穎、河間王顒相繼被害，繼立的晉懷帝完全在司馬越的掌握之中。司馬越在皇族中已沒有強勁的對手，八王之亂至此告終。勝利的司馬越贏得了瘡痍滿目的山河，也獨吞了八王之亂的全部惡果。匈奴劉淵、羯人石勒的軍隊動輒威脅洛陽，使司馬越不遑寧處。
司馬越並不具備皇室近屬的名分，號召力有限。因此他力求聯絡關東的士族名士，利用他們的社會地位和實際力量來鞏固自己的統治。關東是士族比較集中的地方，他們的向背，在很大程度上影響著司馬越統治的命運。但是關東士族同宗室王公一樣，在十幾年的大亂中受到摧殘。有些人鑒於政局朝秦暮楚，盡量設法避禍自保。名士庾敳見王室多難，害怕終嬰其禍，乃作《意賦》以寄懷，宣揚榮辱同貫，存亡均齊思想。還有一些人逃亡引退，如吳士張翰、顧榮辭官南歸，穎川庾袞率領宗族，聚保於禹山、林慮山。這種種情況，反映了很大一部分士族名士的避世思想和政治動向。司馬越必須在星散的士族名士中找到有足夠影響的人物列於朝班之首，才能號召儘可能多的士族名士來支持他的統治。夙有盛名的琅邪王衍被司馬越看中，他們密切合作，共同經營一個風雨飄搖的末代朝廷。
王衍郡望雖非東海，但是是東海的近鄰。王衍家族的社會地位，高於東海國的任何一個家族。王衍是其時的名士首領，以長於清談為世所宗。據說此人終日揮麈談玄，義理隨時變異，號曰「口中雌黃」，朝野翕服。《世說新語》一書，記載了清談家王衍的許多佚事。不過王衍的玄學造詣，聲大於實，史籍中除了記他祖述何晏、王弼「貴無」思想和反對裴的「崇有」之說等寥寥數語以外，不言他對玄學究竟有什麼貢獻。清人嚴可均輯《全晉文》，竟找不到王衍談玄內容的任何文字材料。王衍死前曾說：「嗚乎！吾曹雖不如古人，向若不祖尚浮虛，戮力以匡天下，猶可不至今日。」 從此，王衍就以清談誤國受到唾罵，至於千百年之久。
王衍主要是一個政治人物。他口頭上雖說「不以經國為務」，自稱「少不預事」，但青年時代就「好論縱橫之術」。以後除了一個短時間以外，王衍始終居於朝廷高位。王衍之女，一為愍懷太子妃，一適賈充之孫賈謐。可見他在西晉末年宮廷傾軋這一大事中既結後黨，又結太子，兩邊觀望，期於不敗。王衍另一女為裴遐妻，而裴遐是東海王司馬越妃裴氏從兄。王衍通過裴遐，又同東海王越增加了一重關係。以上種種，都是王衍所結的政治婚姻，反映王衍在政界活動的需要。他被石勒俘獲，臨死猶為石勒「陳禍敗之由」，並且「勸勒稱尊號」。他戀權而又虛偽，服膺名教與自然「將無同」的信條。他和司馬越作為西晉末代權臣，除了操縱皇帝，翦除異己，羈縻方鎮，應付叛亂以外，沒有推行過任何有積極意義的措施。
司馬越與王衍，是一種各有圖謀的政治結合。司馬越以其宗王名分和執政地位，為王衍及其家族提供官位權勢；王衍則為司馬越網羅名士，裝點朝堂。當時北方名士團聚在王衍周圍的，數量很多，其中的王敦、謝鯤、庾敳、阮修，號為王衍「四友」 。由於王衍的引薦，諸王、諸阮以及謝鯤、庾敳、胡母輔之、郭象、衛玠等名士都被司馬越所延攬，南士也有辟司馬越府者，所以史稱越府「多名士，一時俊異。」 這些人祖尚玄虛，多半沒有政治能力，在司馬越的卵翼之下醉生夢死，等待著命運的安排。他們之中多數人陸續過江，庇托於江左政權；有些名士則同王衍一起被石勒俘殺。
東海王越妃出河東裴氏。西晉時裴氏與王氏齊名，時人以兩家人物逐個相比，以八裴方於八王。裴妃兄裴盾、裴邵，都是司馬越的重要助手，也是司馬越聯繫士族名士的又一橋樑。不過裴盾、裴邵沒有來得及過江。裴邵隨司馬越出項，死於軍；裴盾後降匈奴，被殺。裴氏與司馬越個人關係雖密，但其家族不出於河南，與司馬越府椽屬多出於河南士族者，畢竟有所不同。這種河北河南的畛域之見，當淵源於昔日司馬穎居鄴、司馬越居洛陽而相互對立的歷史。所以裴氏家族重要人物與其他河北士族一樣，罕有過江者，因而裴氏家族沒有在東晉政權中取得相應的地位，以繼續發揮象王氏家族那樣的政治作用。
由上可知，惠帝末年和懷帝時的西晉朝廷，以司馬越、王衍為核心操持政局，由士族名士裝點其間，實質上就是司馬越與王衍「共天下」。可以說，這是「王與馬共天下」最早的一種組合，一個形態。
在司馬越、王衍操縱之下，另一個王與馬相結合的政治中心正在形成，這就是晉琅邪王司馬睿與琅邪王導在徐州開啟的局面。
王氏家園所在的琅邪國，是司馬睿的封國。司馬睿的琅邪國與司馬越的東海國相鄰，都在徐州。司馬睿的祖父司馬伷曾出為鎮東大將軍、假節、都督徐州諸軍事，鎮下邳，《晉書》卷三八本傳稱其「鎮御有方，得將士死力。」後來，當司馬越收兵下邳，準備西迎惠帝時，起用琅邪王司馬睿為平東（後遷安東）將軍監徐州諸軍事，留守下邳，為他看管後方。司馬睿受命後，請王衍從弟、參東海王越軍事的王導為司馬，委以重任。由司馬越、王衍在洛陽的關係，派生出司馬睿和王導在徐州下邳的關係，王導在司馬睿軍府中的重要地位，可想而知。
司馬越物色司馬睿，還有歷史淵源。司馬越與司馬穎對峙之時，司馬睿與其從父東安王司馬繇先居洛陽，後居鄴城。那時司馬越已通過辟于越府的王導對司馬睿施加影響。盪陰戰後，司馬繇被司馬穎殺害，這更堅定了司馬睿在成都王穎和東海王越之爭中投向東海王越一邊的決心。司馬睿在王導勸誘下南逃洛陽，轉回琅邪國，在那裡接受了司馬越的號令。從種種跡象看來，司馬睿、王導同蒞徐州下邳，不是偶然的組合，而是司馬越、王衍精心的策劃與安排。洛陽司馬越與王衍的組合，下邳司馬睿與王導的組合，都是日後建康「王與馬共天下」的前奏。
不過，情況還是有區別的。洛陽司馬越、王衍的組合，掌握實權的是司馬越；而徐州下鄧司馬睿、王導的組合，王導卻起著主導作用。那時，司馬睿還是一個「恭儉退讓」，「時人未之識」 的一般宗室成員，而王導已經具有政治閱歷和名望，可以把司馬睿置於自己的影響之下。《王導傳》敘述這一段關係時說：「〔導〕參東海王越軍事。時元帝為琅邪王，與導素相親善。導知天下已亂，遂傾心推奉，潛有興復之志。帝亦雅相器重，契同友執。帝之在洛陽也，導每勸令之國。會帝出鎮下邳，請導為安東司馬，軍謀密策，知無不為。」透過這一段夾雜著攀附之辭的敘述，我們可以看出，司馬睿在北方所經歷的大事，幾乎全出王導的主動籌謀。王導在鄴城、洛陽、下邳，早已發現了司馬睿「奇貨可居」，很像當年呂不韋在邯鄲發現了秦國的子楚一樣。子楚曾約定分秦國與呂不韋共之，而司馬睿後來實際上與王導共享東晉天下。
永嘉政局，紛亂異常。劉淵等交侵於外，懷帝、司馬越構嫌於內，州郡征鎮叛服不常，流民暴動此伏彼起。司馬越、王衍力圖在政治上、軍事上加強控制，搶據要衝，以維持殘破局面。在這種形勢下，永嘉元年（307年）九月，司馬睿受命以安東將軍都督揚州江南諸軍事，偕王導南渡建鄴。這是司馬睿、王導同鎮下邳兩年以後的事。其時，王衍為門戶自全之計，「說東海王越曰：『中國（案指