南昌起義的主力部隊在潮汕兵敗，朱德率領的這支部隊頓時變成了孤軍。
來不得半點猶豫，茂芝會議後，朱德等率領部隊立即穿插北上，衝破國民黨反動派的包圍圈，向湘粵贛邊界轉移。
起義軍北上行動，很快被國民黨反動派發現了。在三河壩地區沾了些便宜的錢大鈞連忙調集一個師的兵力緊緊尾追而來。當起義軍經福建的大埔、永定、焦嶺、峰市，於10月16日進抵閩贛交界的武平縣城時，錢大鈞率領的第十八師就追上來了。
起義部隊原預備在這裡休整一天後再向西行。不料，全軍將士剛剛在城內安頓下來，錢大鈞部已抵達城外。
一場惡戰在所難免！
由於起義軍毫無準備，倉促應戰，加之缺糧少彈，士氣也不太高，實在不便與敵人持久地硬拼硬打。所以，在激戰了兩個小時後，朱德便下令部隊撤出戰鬥，向武平西北方向轉移。
當部隊退到城西北5里外的石徑嶺一個地勢十分險要的隘口時，預先埋伏在這裡的當地反動民團已佔據有利地形，攔住了起義軍去路。後面又有錢大鈞的重兵追上來了，部隊陷在一條窄窄的小山道上。敵人前後夾擊，情形極為險惡。如果不儘快從隘口衝出去，後果不堪設想。
就在這個危急的關頭，身為最高指揮官的朱德挺身而出，出現在部隊的前面。他命令開路的部隊先疏散隱蔽起來，以減少傷亡，自己則帶領身邊幾個警衛人員，從長滿灌木的懸崖陡壁上攀登而上，突然出現在隘口上的民團後面。遭此突然襲擊的民團武裝，頓時驚慌失措，在沒有弄清楚到底有多少人的情況下，已紛紛逃散。這樣就給部隊讓出了衝出險境的道路。
當部隊官兵急速地從隘口通過時，都清楚地看到朱德手執一支駁殼槍站在一塊斷壁上進行指揮的情景。這一情景深深地刻在了起義軍戰士的腦海中、心坎里。幾十年後，當時擔任班長並在戰鬥中負傷的粟裕這樣深情地回憶道：「這次戰鬥，我親眼看到朱德同志攀陡壁、登懸崖的英姿，內心裡油然產生了對他無限欽佩和信賴之情。經過這次石徑嶺隘口的戰鬥，我才發覺，朱德同志不僅是一位寬宏大度、慈祥和藹的長者，而且是一位英勇善戰、身先士卒的勇將。」
確實，通過這次戰鬥，不僅使粟裕而且使其他絕大多數人都重新認識了朱德。他以英勇善戰的形象開始贏得官兵們的敬佩和信賴，為他日後得心應手地指揮這支部隊打下了最初的基礎。
衝出隘口後，起義部隊進入贛南山區，總算擺脫了強敵的尾追。此時，起義軍「尚存實力約1500人左右，槍支在1000以下，機槍兩挺」。
10月中下旬的贛南山區，天氣已逐漸轉涼，但部隊官兵仍穿著單衣短褲，甚至赤著腳。寒冷、飢餓、疾病折磨著大家，使大家思想很混亂，離隊的越來越多，行軍路上遇到岔道，便有人不辭而別。
就在這時，一些黃埔軍校出身的軍官，其中包括第七十三團七連連長林彪，找到陳毅，表示要離開隊伍，另尋出路。他們動員陳毅一起走：「你是個知識分子，你沒有打過仗，沒有搞過隊伍，我們是搞過隊伍的，現在隊伍不行了，碰不得，一碰就垮了。與其當俘虜，不如穿便衣走。」
陳毅搖了搖頭：「我不走。現在我拿著槍，我可以殺土豪劣紳，我一離開隊伍，土豪劣紳就要殺我。隊伍存在，我們也能存在。你們要走你們走，把槍留下，我們繼續幹革命。」
見勸不動陳毅，那些軍官們只好自己「溜號」。據人回憶，當時林彪也曾自行離隊，但幾天後又自動地回到了部隊，跟著部隊轉戰湘南並上了井岡山。
假如當時林彪沒有回心轉意，就這樣一走了之，也就不會有後來威震敵膽的共和國元帥林彪，也就不會有折戟沉沙的「副統帥」林彪。不過，歷史不能假設！
10月下旬，部隊抵達安遠縣的天心圩時，已不足900人。師團級政工幹部就只有陳毅一人了。中國共產黨獨立領導的這支革命武裝已處於崩潰的邊緣，面臨著生死攸關的嚴峻考驗。
在這異常艱難的時刻，朱德、陳毅挺身而出。他們在一個山坳中召開了全體軍人大會。
朱德首先宣布：「同志們！你們的師長團長我派他們去執行任務去了，從今天起，這支隊伍就由我和陳毅來領導。」
接著，他大義凜然地說：「要革命的，跟我走。不願繼續奮鬥的，可以回家，不勉強。只要有十支八支槍，我還是要革命的。」他拿俄國十月革命所走過的曲折道路作比喻：「俄國革命1905年失敗後是黑暗的，但黑暗是暫時的，到了1917年革命終於成功了。中國革命現在是失敗了，中國現在也是黑暗的，但黑暗遮不住光明。只要保存實力，革命就有辦法，就能成功。」
陳毅也在會上講了話。他說：南昌起義是失敗了。但南昌起義的失敗不等於中國革命的失敗。中國革命還是要成功的。我們大家要經得起失敗局面的考驗，在勝利發展的情況下，做英雄是容易的。在失敗退卻的局面下，就困難得多了。只有經過失敗考驗的英雄，才是真正的英雄。
這些鏗鏘有力的話語，極大地鼓舞和教育了部隊官兵。正是從這次軍人大會開始，朱德才真正成為了這支隊伍的領袖，陳毅也才有了威信。
在此危急關頭，還有一個為輔佐朱德掌握住這支隊伍立下汗馬功勞的人，他就是第七十四團參謀長王爾琢。
在南昌起義後曾立下「革命不成功，就不剃鬍子和頭髮」誓言的王爾琢，雖然只有二十幾歲，卻是滿面鬍鬚，長發披肩。他畢業於黃埔軍校第一期，為人十分忠厚，在第二十五師中向來有「黃埔老大哥」之稱，很受那些比他晚畢業的營、連長的敬重。特別是當師、團兩級軍官差不多都離隊後，他便成為這支部隊中資格最老、地位最高的「本地戶」。他的一言一行在部隊中都有著舉足輕重的作用。開完軍人大會後，他以黃埔老大哥的身份一個個地找營、連軍官們談話，要大家堅決服從朱德的領導，他本人也真心實意地為朱德在軍事上出謀劃策，當好參謀。
可以說，在以後的日子裡，朱德能夠順利地把南昌起義剩餘下來的這支部隊帶上井岡山，政治上主要靠的是陳毅，軍事上主要靠的就是王爾琢。
為了鞏固部隊，保存好革命的火種，10月底到達粵贛邊界的大庾後，朱德、陳毅適時地領導部隊進行了有名的大庾整編。撤消了已成空架子的軍師建制，將餘下的800多人統一編成一個縱隊，為了隱蔽，對外號稱「國民革命軍第五縱隊」，朱德化名「王楷」，任縱隊司令，陳毅任指導員，王爾琢任參謀長。下轄7個步兵連、1個迫擊炮連和1個重機槍連。
與此同時，在陳毅主持下，對黨團組織也進行了整頓，重新登記黨團員，成立黨支部，把一部分黨團員派到連隊中去，加強黨在基層的工作。
經過這次整編，「部隊走向統一團結了，紀律性加強了，戰鬥力也提高了」。
11月上旬，在朱德、陳毅率領下，恢複了生機和活力的南昌起義軍余部進入湘粵贛三省交界的崇義、上猶山區，開展打擊土匪惡霸、宣傳發動群眾的活動，並在崇義的上堡再次進行了軍事整訓，首先強調紀律，規定募款、繳獲全部歸公；其次開展軍事訓練，提出新戰術，由正規戰開始向游擊戰方向轉變。
時近隆冬來臨之際，氣候一天天惡化，部隊戰士卻還穿著單衣單褲，糧食、彈藥、醫藥等更是嚴重缺乏。如何解決給養，成為擺在這支部隊面前的首要問題。
正當朱德等領導人為此事發愁之時，駐防廣東韶關和湖南汝城一帶的國民黨第十六軍軍長、朱德過去在雲南講武堂的同班同學范石生派人前來聯繫，希望與朱德率領的南昌起義軍余部合作。為了解決部隊給養問題，朱德、陳毅經過研究後決定，在確實保持共產黨武裝獨立自主的原則下，願意與之合作。
11月下旬，朱德率部來到距離上堡90多華里的湖南汝城，並在少量武裝人員的護送下，親自與范石生進行了談判。經過兩天的磋商，范石生接受了朱德的條件，同意：（一）朱部是共產黨的隊伍，一切行動聽從共產黨的調動，組織上獨立，政治上自主，軍事上自由。（二）朱德部改稱國民革命軍第十六軍第四十七師第一四零團，朱德仍以王楷名義任第十六軍總參議、第四十七師副師長兼一四零團團長。（三）先發給一個月軍餉，並配以一定數量的槍支、彈藥、服裝等軍需用品。
通過與范石生部建立合作關係，起義部隊得到了衣食彈藥的補充，暫時擺脫了困境。
在汝城談判期間，經范石生部的中共地下黨員介紹，朱德、陳毅與由汝城、宜章農軍組成的工農革命軍第二師第一團200多人取得聯繫，並於11月26日至28日在汝城召開了湘南、粵北各縣黨組織負責人聯席會議，討論布置了舉行湘南年關暴動的問題。
12月上旬，朱德、陳毅率部隨第十六軍軍部向韶關轉移。途經仁化時，與中共北江特委取得聯繫，