1920年當鄧離開中國去歐洲時中國正在醞釀著建立共產黨。中國封建帝制的解體，迅速導致了中國中央政府的垮台，由此越來越多的權力集中到了地方軍閥的手裡。中國在第一次世界大戰中支持了協約國，但是在簽訂《凡爾賽條約》時，該條約規定把德國以前在山東的殖民地不是歸還給中國，而是轉讓給日本，於是在1919年5月4日爆發了由北京學生舉行的一次反對《凡爾賽條約》的民族主義的遊行示威運動，後來這場運動被稱之為「五四運動」。正是在這場運動中，一些中國人不可避免地向新成立的共產主義國家蘇聯尋求救國之路。另外，更主要的原因是俄國的布爾什維克奪取政權後，立刻就開始鼓動「東方被壓迫的民族」團結起來反對帝國主義的侵略和殖民主義。俄國人許諾歸還中國從前被沙皇割讓的全部土地，與中國共同享有橫貫西伯利亞鐵路的使用權，該鐵路其中有一條幹線經過蒙古直達北京。他們還通過共產國際給中國人民提供組織上、經濟上和思想上的幫助。（共產國際是列寧為在全世界建立共產主義政權而創建的。）
在中國也相繼出現了各種馬克思主義討論小組，其中北京大學的小組是最重要的小組。北京大學曾是「五四」運動的策源地。在各種救國會、自救會、研究學會等組織的基礎上，在共產國際的組織者的幫助下，1921年7月建立了中國共產黨。開始，共產黨和孫中山領導的強大的國民党進行了密切的合作，這兩個黨實際上都是由十九世紀和二十世紀初期新發生的事件激發起來的民族主義黨派，兩黨的目的都要恢複國家的主權和尊嚴。因此，兩黨優先考慮的首要任務都是重新統一全國和結束軍閥割據。此外，共產國際在孫中山的邀請下在20年代初期也擔負起把國民黨重新組建成為一個革命政黨的重任。
國民黨和共產黨的關係一度有點緊張，後來，中國共產黨和共產國際之間的關係也變得緊張起來。國共兩黨之間衝突的起因是意識形態上的不同，當孫中山在世時，他設法使兩黨保持聯盟，但1925年他去世後，他的接班人蔣介石越來越認為共產黨是個威脅，同時，他還尋求和大軍閥和解。原來國共兩黨並沒有組成兩黨的聯盟，而是中共黨員以個人身份參加國民黨，這種安排不僅使中共能在國民黨的保護傘下擴大它自己的影響和組織，而且能有效地從內部瓦解國民黨，鄧小平1927年的回國就是這個戰略的一部分，因為他去了西安為北方的軍閥馮玉祥做事。國民黨在和共產黨合作的問題上變得越來越極端化了，1927年，蔣和國民黨中的右派人物對共產黨開始了公開宣戰。
中共和共產國際衝突的起因是由於在斯大林領導下的共產國際把它和中國共產黨的作用都看作是蘇聯外交政策的一個延伸，這是引起衝突的一個方面；另一方面是因斯大林在與托洛茨基爭奪蘇共領導權的鬥爭中他想向托洛茨基表明他領導的共產國際指示中國共產黨要不惜一切代價維持與國民黨的聯盟，當中共在上海的黨員遭圍捕時，他們應該把武器藏起來逃跑而不是抵抗。命令共產黨搞土地革命的農民組織不要侵犯國民黨黨員和他們的家庭。在西安，以鄧希賢的名字在馮玉祥的部隊（國民黨）工作了一段時間，後來他離開西安轉赴中共中央所在地漢口，留在中共中央機關工作，後來到了上海從事地下工作，在這種情況下，鄧希賢改名為鄧小平是很必要的。 1927年，開始是國民黨中的右派，然後是國民黨左派都把矛頭對準了共產黨，由此證明了斯大林政策的失敗。
斯大林為中國共產黨急需在中國獲得成功，指示當時已與國民黨決裂的共產黨在中國城市舉行一系列武裝起義，起義的目的是攻取城市推翻國民黨政權。然而當時中共的軍隊大部分是在農民協會基礎上組建的又沒有受過任何軍事訓練的農民。這些起義中最成功的是在八月初攻佔了江西省會南昌的那次起義，但起義軍在南昌僅僅佔領了4天時間，其他地方的起義都遭到了失敗。而共產國際仍堅持他的觀點，迫使中共在廣州舉行了一次起義，結果又遭到失敗，這次起義使中共在城市的力量受到了威脅。當時中共中央設在上海，鄧也在那裡，他們都處於地下。到1927年底，中共的力量或者說是它的剩餘力量，逐漸地聚集到了農村的游擊地區，也就是被稱之為「蘇維埃」的地區。
中共一時很難從1927年的失敗中恢複過來。從1927年到1935年，黨內發生了一系列爭權的鬥爭，再加上國民黨蔣介石三番五次的圍剿，毛吸取了已往的教訓，認為依靠農民革命，游擊戰和運動戰，用社會和經濟改革的手段來提高農民的政治覺悟是十分重要的。作為共產黨當時所採用的發動農民起義政策的一部分，鄧被派往廣西，支持那些農村的蘇維埃，但工作並不一帆風順，黨內的其它人繼續堅持黨的無產階級革命的觀點，在1930年又進行了一次城市起義的嘗試。另外，鄧也受命離開了他在廣西的農村根據地，去了包括廣州的許多城市搞武裝鬥爭，這是完全不現實的一著棋，所以沒有達到預期的目標，於是很快就放棄了這著棋。其他一些地方也試著搞奪取城市的鬥爭，結果都遭到了和1927年同樣慘重的失敗。
中共的領導權現在轉到了「三十八個半布爾什維克」或「留俄學生集團」手中。這些中國學生在莫斯科受教育後，遵照共產國際的指示被送來領導中國的革命，他們承認中共工作的重點必須從城市轉到農村，然而他們不準備把中共領導權讓給在江西建立並發展了農村蘇維埃根據地的毛和毛的支持者們。1931年他們把中共中央機關從上海轉移到了江西蘇維埃的首府—瑞金，鄧也去了瑞金。整個這些年，反對毛的那些人三番五次地批評毛從實際出發的觀點，但由於毛的成就和他的威望，他們不可能徹底清除毛的影響，但他們試著通過攻擊毛的支持者和與毛持同樣觀點的人來達到他們的目的。1933年在一場主要針對毛但由於某些政治原因而又不能直接攻擊毛的運動中，鄧小平成了受害者之一，解除了他的職務並受到黨的紀律處分。
同時，蔣介石也對中共造成極大威脅。他把頑固的軍閥和日益嚴重的日本對華侵略問題擱在一邊，欲集中力量對中共的農村蘇維埃政權發起一系列軍事「圍剿」。在1934年之前，中共能依靠游擊戰術粉碎蔣的「圍剿」，另外，也由於蔣的一些其它問題，使中共能堅守住江西蘇維埃根據地。但在1935年國民黨軍隊採取了一種新的更有成效的「步步為營，堡壘推進」的封鎖戰術，同時，中共在共產國際顧問的指揮下，放棄了游擊戰而採取了陣地戰，結果造成了慘重的損失，由於面臨著又一個慘重的失敗，所以中共選擇了戰略撤退，最後終於開始長征。
長征以其無可非議的英雄主義精神而舉世聞名。用埃德加·斯諾的話來說，它是「人類戰勝差異人類戰勝自然」的最偉大的勝利之一。 中央紅軍開始出發大約9萬人，他們也不知道在哪兒能找到避難所，經過一年多的長途跋涉，行進了1萬多公里，擊退了國民黨軍隊，穿過了山脈、沙漠、沼澤等世界上最荒涼的地帶，最後剩下大約5000人，終於到達成為他們終點的陝北。
對於共產黨來說，長征取得了三個重要的政治結果，首先是基本上結束了共產黨內部的衝突和鬥爭，在毛和他的支持者的政策指引下，黨比以前更團結了。長征的轉折點，實際上是1935年1月在遵義召開的政治局擴大會議。大家不再信任共產國際的顧問了，許多以前反對毛的人現在都改變了觀點，那些和鄧一起支持毛的人都得到提升。長征的第二個結果是它的終點陝北為中共提供了一個較安全的根據地，一開始在保安，後來又遷到更著名的延安，從這裡向全國輻射。到1935年，蔣介石又一次忙於應付軍閥和處理因日本侵略所引起的各種問題。第三個結果是長征後倖存下來的紅軍，不僅創造了驚人的團結友愛的集體主義精神，而且創造了中國共產黨和紅軍是不可戰勝的神話。
在中共奪取政權的道路上，另一個決定性的轉折點是1937年日本對華的侵略。1936年，面臨日本人侵略的威脅，蔣介石手下的將領們強迫他又一次和共產黨合作。當日軍最後打進來時，他退到西部的重慶，留下共產黨在華北抵抗日軍。這樣一來，不僅鞏固了共產黨的地位，而且還擴大了共產黨在日軍後方的農村抗日根據地，並被廣大民眾認為是一支有效的民族抗日力量。隨著動員農民群眾的政策之後，中共盡其所能地建立了許多根據地和邊區政府。比如，鄧在抗日戰爭中的大部分時間不是在延安，而是在以太行山為中心的山西、河南和河北省交界的邊區度過的。截止抗日戰爭結束時，在共產黨控制下的人口，已超過全國人口的四分之一。
抗日戰爭結束後，國共兩黨曾試圖避免發生對抗。但這些努力很快就失敗了。在隨後的內戰中，中共的成功，不僅因為他們在抗日戰爭期間發展形成了一個穩固的根據地，贏得了極好的聲譽和廣大民眾的信賴，而且還由於國民黨的許多弱點：軍隊士氣的日益低落，嚴重的通貨膨脹