南昌起義保留下來的部隊，在朱德、陳毅的率領下，通過「贛南三整」（天心圩整頓、大余整編、上堡整訓）後，「部隊走向統一團結了，紀律性加強了，戰鬥力也提高了」。但是，給養問題一直沒有解決。隆冬即將到來，部隊戰士還穿著單衣單褲，糧食、薪餉、彈藥、醫藥等更是嚴重的問題，亟待解決。
怎麼辦？朱德想起過去雲南講武堂的同班同學范石生。范石生現任國民黨第十六軍軍長，駐防廣東的韶關和湖南的汝城、資興一帶。
起義軍能否與范石生部合作呢？這個問題當時在起義軍幹部中引起激烈爭論。一部分人認為可行，這不僅可解決給養問題，還可相機爭取范石生往左轉；一部分人擔心會掉進軍閥部隊的大染缸，難以自拔。朱德針對這些不同看法，提出了自己的見解。他認為：搞合作不是右傾投降，只要我們堅持組織上獨立、政治上自主、軍事上自由的原則，利用好合作關係，對革命還是大有好處的。朱德的這一正確主張，得到了起義軍黨組織的批准。
於是，朱德即與范石生寫信，表示願意就合作事宜與他談判。11月中旬，范石生回信表示：請朱德到汝城談判。經過兩天磋商，范石生接受了朱德的條件，同意：（一）朱德部暫用十六軍四十七師一四零團番號；張子清、伍中豪率領的部隊，暫用十六軍四十七師一四二團番號。朱德化名王楷（朱德字玉楷，故稱王楷），名義上任一四零團團長兼四十七師副師長和十六軍總參議。（二）同意朱德部提出的組織上獨立、政治上自主、軍事上自由的原則。（三）先發給一個月軍餉，並配以一定數量的槍支、彈藥、服裝等軍需用品。
起義部隊終於解脫了困境。隨後，朱德、陳毅率部移至韶關。在南下抵達韶關時，傳來了廣州起義失敗的消息，原定部隊前去參加廣州起義的計畫遂成了泡影。於是，部隊便在韶關西北的犁鋪頭駐紮下來，藉以休息訓練。
在韶關，受毛澤東派遣與湖南省委及衡陽特委聯絡，並相機打聽南昌起義部隊下落的何長工，獲悉朱德部在犁鋪頭的消息，於是急忙趕至犁鋪頭，見到了朱德、陳毅、王爾琢等人，溝通了毛澤東部與朱德部的相互聯繫。
朱德部與范石生部建立合作關係的消息，不久即為蔣介石所知。蔣介石急電令廣東軍閥李濟深轉告范石生，即將朱德部隊「就地解決」。范石生得悉後，將消息透露給朱德，讓他趕緊脫離，並給朱德部送來萬元銀洋和10箱子彈，以示友好。朱德召集部隊領導人陳毅、王爾琢、龔楚等緊急商議，決定將部隊開往群眾基礎較好、易於隱蔽的湘南宜章山區，然後再從長計議。1928年1月3日夜晚，部隊以「野外演習」為名，冒著滂沱大雨，切斷了敵人的電線，從仁化改道西進，直奔湘南。
從此，南昌起義余部肩負起新的使命，踏上了新的征途。
朱德見到何長工之後知道毛澤東率領秋收起義部隊活動在湘贛邊界的消息，非常高興，希望能與毛澤東相會。於是，當即派出毛澤東的胞弟毛澤覃前往井岡山聯絡。毛澤覃受命後化名覃澤，以國民革命軍第十六軍副官的身份，身穿國民黨軍的服裝，帶著國民革命軍的證件，由崇義、上猶地區往桂東、茶陵、酃縣直奔井岡山區，在茶陵與寧岡交界的坑口，碰上陳伯鈞率來的袁文才部戰士，由陳伯鈞派人將他送到寧岡茅坪，見到了毛澤東。從而，實現了朱毛兩部的聯絡。
朱德部進入湘南後，來到了宜章縣境的莽山洞作短期的休整。中共宜章縣委獲悉朱德、陳毅部隊進入莽山後，縣委書記、湘南特委委員胡世儉和縣委委員高靜山、毛科文等即前來聯繫，並召開了一次聯席會議。會議決定攻打宜章，但不是硬攻，而是採取智取的辦法。即：由胡少海以范石生第十六軍一四零團副團長的名義，寫信給宜章縣長，說是奉范軍長命令由家鄉抵抗從廣東北上的共軍，藉以麻痹敵人，爾後率兩個加強連，進城控制局面，並邀請以縣長為首的反動頭目赴宴，來個「一鍋端」，最後由朱德率主力進城，解決縣團防武裝。
胡少海，原名胡鰲，是宜章縣城一個富豪子弟。北伐革命時，他曾在北伐軍任過營長；北伐失敗後，他堅持革命，一直隱藏在樂昌一帶打游擊。這些情況，多年來一直未暴露。所以，朱德挑選他來唱主角。
1928年1月11日，打著范石生部十六軍一四零團旗號的胡少海率先遣部隊來到了宜章城邊。聽說「胡五少爺」（胡少海排行第五）帶隊到來，城內的政府官員及土豪劣紳欣喜異常，一個個出城迎接。隨後，朱德、陳毅率主力也大搖大擺地進入宜章城。
進城後，朱德、陳毅迅速地以布防名義指揮部隊悄悄地包圍了縣政府、警察局、團防局所在地——養正書院，當晚宴席上一舉擒獲了敵縣長等反動官紳，解決了警察局、團防局的武裝，繳獲槍支近400支，俘虜警察、團丁400餘人。接著，起義軍砸開了監獄，救出了被關押的革命者和群眾，並打開糧倉，把糧食分給窮苦工農。一時，宜章城內，歡聲笑語，人們高呼：「起義了！」「勝利了！」
智取宜章的勝利，拉開了湘南起義的序幕。
1月13日，工農革命軍和宜章縣委在城西門廣場召開了群眾大會。朱德在會上發表了熱情洋溢的講話，並宣布組建工農革命軍第一師，師長朱德、黨代表陳毅、參謀長王爾琢、政治部主任蔡協民。宜章到會群眾無不熱烈稱慶。
智取宜章，是在舊曆年前10天，所以又稱「年關暴動」。宜章年關暴動的勝利，有力地推動了宜章的革命鬥爭，一時震動整個湘南。
「農奴聚義起宜章，晃晃梭鏢刺大天。」蕭克詩句。在朱德、陳毅部智取宜章城後，革命浪潮在宜章洶湧澎湃。隨即，又先後爆發了粟源、石、白沙等地的農村暴動，出現了從城鎮到農村的一派大好形勢。
宜章暴動勝利後，朱德、陳毅等根據南昌起義勝利後沒有深入開展工農群眾鬥爭的教訓，決定軍隊和地方黨組織立即赴郴縣、耒陽、永興、資興等縣發動各地的群眾鬥爭。
南昌起義軍在宜章的勝利，驚動了蔣介石。他立即命令許克祥「即日進剿，不得有誤」。於是，急於報復的許克祥，親率6個團的兵力，向宜章撲來。
為了保存力量，朱德、陳毅指揮著這支僅1200人的工農革命軍第一師，在當地群眾的配合下，與敵人展開了游擊戰和運動戰。從1月31日起，先後取得了岩永、粟源堡、坪石戰鬥的勝利，共俘敵1000餘人，繳獲槍支1000餘支，迫擊炮、山炮30餘門，子彈無數，重創了敵人的銳氣，武裝了宜章獨立第三團。尤其是坪石大捷給敵人以殲滅性的打擊，是起義軍進入湘南後取得的第一個大勝利。它極大地振奮了整個湘南工農群眾的革命情緒，對推動湘南起義具有決定性的作用。對此，朱德說：「我們軍隊起來就靠那一仗。」朱德：《從南昌起義到井岡山》。
坪石大捷後，部隊立即揮師北上郴州、耒陽，發動湘南總暴動。
2月4日至16日，朱德、陳毅率領工農革命軍第一師，在湘南各縣黨組織和起義農軍的配合下，相繼攻佔了郴縣、永興、資興、耒陽，組建了工農革命軍第三師（師長鬍少海，黨代表龔楚）；第四師（師長鄺庸，黨代表鄧宗海）；第七師（師長鄧允庭，黨代表蔡協民）；永興赤衛警衛團（團長尹子韶，黨代表黃克誠）；資興獨立團（團長李奇中，黨代表黃義藻）；起義隊伍發展到一萬餘人。在起義中，還先後建立了中共祁陽、資興、安仁縣委，成立了郴縣、永興、耒陽、資興、桂陽、安仁等縣蘇維埃政府。
在這大好形勢下，3月16日至20日，湘南工農兵政府代表會議在永興縣召開，選舉產生了以陳佑魁為主席，朱德、陳毅、何長工等21人為執行委員的湘南工農兵蘇維埃政府。
與此同時，湘南各縣的工會、農會、婦運會、青運會（包括少先隊、兒童團）、商運會等群眾組織也紛紛恢複、重建，掀起了一場大規模的群眾武裝暴動，並開展了轟轟烈烈的插牌分田的土地革命。
湘南蘇維埃運動的興起，震撼了國民黨反動派的組織基礎，威脅了湘粵兩省敵人的安全。
湘南起義初期，湘桂軍閥混戰正酣。桂系軍閥李宗仁、白崇禧組織的「西征軍」與湖南軍閥唐生智相互交手狗咬狗，但隨著「西征軍」進攻長沙，唐生智被迫下野東渡日本，至3月上旬，一場鬧劇趨於收場。於是，在蔣介石的調度下，湘粵軍閥又把槍口對準湘南革命力量。為了撲滅這團革命烈焰，敵人組織了近9個師的兵力，對湘南革命力量進行南北夾擊。
面對著這一嚴重局勢，本應保持清醒的頭腦，採取正確的策略，堅持鬥爭。但是，這時的湘南特委卻滋長著強烈的復仇情緒和小資產階級的急性病，極力推行中央領導人的「左」傾錯誤思想，提出「以赤色恐怖來對付白色恐怖」的指導方針，實施大燒大殺及強迫命令農民和小資產階級破產的錯誤政策，即所謂的「焦土戰略」，燒毀從耒陽到宜章的「湘粵大