井岡山，地處湘贛邊界羅霄山脈中段，介於湖南酃縣和江西寧岡、遂川、永新四縣之交，總面積約四千平方公里。大革命時期，這幾個縣都建立了黨的組織和農民自衛軍，群眾基礎比較好；山上的茨坪、大小五井等地都有水田和村莊，周圍各縣農業經濟可供部隊籌措給養；這裡離中心城市較遠，交通不便，國民黨統治力量薄弱；崇山峻嶺，地勢險要，森林茂密，只有幾條狹窄的小路通往山內，進可攻，退可守。陳伯鈞回憶說：「敵人在山的周圍轉一圈要一個星期，我們只要一天時間，就能由東到西，由南到北的打擊敵軍。」在敵我力量懸殊的條件下，這裡確實是一塊理想的落腳點。
這裡過去長期有「山大王」，現有袁文才、王佐兩支綠林式的農民武裝，各有一百五六十人、六十支槍。王佐部駐在山上的茨坪和大小五井等處，袁文才部駐在井岡山北麓的甯岡茅坪，互相配合，互相呼應。
袁文才、王佐雖早年就參加綠林組織，但大革命時期都受過革命風暴的洗禮。一九二六年，袁文才擔任甯岡縣農民自衛軍總指揮，並在同年加入中國共產黨；王佐同袁文才是拜把兄弟，也將所部改為遂川縣農民自衛軍。一九二七年七月，他們曾會同永新、永福、蓮花的暴動隊伍一度攻克永新縣城，組成贛西農民自衛軍，由王興亞任總指揮，賀敏學、王佐、袁文才任副總指揮。這是王興亞不久後在安源會議上發言談到這兩支隊伍的由來。自衛軍佔領了永新縣城二十多天，因為國民黨軍隊有五個團來攻，袁、王兩部就退回寧岡、遂川境內的井岡山。剛擔任中共永新縣委書記的永新縣農民自衛軍總指揮賀敏學，是袁文才在永新禾川中學的同學。他和一批共產黨員（其中有賀敏學的妹妹賀子珍），率領一部分農民自衛軍攜槍隨同退到井岡山麓的茅坪。永新縣委也到了山上。這是袁、王能夠歡迎毛澤東率領的工農革命軍上山的思想基礎。袁文才、王佐是當地人，他們的隊伍在這一帶有著不小的影響。
工農革命軍要在井岡山落腳，不得到袁文才、王佐的允許是根本不可能的，而事情並不那樣簡單。他們兩人雖然參加過大革命，袁文才還是共產黨員。但他們對前來的這支工農革命軍畢竟沒有多少了解，還擔心這支比他們力量大得多的部隊上山會不會「火拚山寨」，奪取他們原有的地盤，心中難免存有疑慮。在古城會議期間，袁文才的代表曾表示：可以接濟工農革命軍一些給養，但請工農革命軍「另找高山」。據何長工回憶，當時工農革命軍中，「有人曾提議，解除他們的武裝，把他們解決，他們那幾十支槍，一包圍繳械就完了。毛澤東同志說，談何容易，你們太狹隘了，度量太小啦。我們不能採取大魚吃小魚的吞併政策，三山五嶽的朋友還多呢！歷史上有哪個能把三山五嶽的土匪消滅掉？三山五嶽聯合起來總是大隊伍。毛澤東同志說服我們，不能只看到幾十個人、幾十桿槍的問題，是個政策問題；對他們只能用文，不能用武，要積極地爭取改造他們，使他們變成跟我們一道走的真正革命武裝。」這是關係到工農革命軍能不能在井岡山地區站住腳跟的關鍵性決策。袁、王部隊的人數雖不多，但在當地有相當的社會基礎，許多群眾擁護他們。儘管他們存在一些弱點，仍是能接受教育和改造的。如果當時採取了有些人所主張的那種狹隘和魯莽的做法，而不取得他們的支援，就很難設想能在井岡山建立起鞏固的革命根據地來。
怎樣說服和爭取這兩支農民武裝？毛澤東選定先從已加入中國共產黨的袁文才入手，再通過他去做王佐的工作。
他從袁文才的代表陳慕平的談話中已經知道，他們最看重槍，人可以少一個，槍卻不能少一支。袁部有一百五六十人，只有六十支槍。於是，毛澤東向前委提議，準備一下子送他們一百支槍，將袁文才的全部人員都武裝起來。前委成員聽到這個大膽的設想，有的人表示懷疑，余灑度堅決反對。經過毛澤東反覆說明，才以多數通過。（余灑度脫離工農革命軍後，到湖南省委告了狀，說毛澤東不執行中央打長沙城市的指示，逃避鬥爭，到山區同綠林為伍，並送了大批槍支。所以，這年年底湖南省委代表何資深到中共中央彙報時說，「潤之在贛時曾有一大錯誤」。）
古城會議後，毛澤東從綠林重義氣、多猜疑的特點出發，只帶幾個隨員到甯岡大倉村去會見袁文才。那是十月六日。袁文才原來還有些怕，預先在林家祠堂埋伏下二十多人，二十多條槍。見到毛澤東只來幾個人，他就比較放心了，埋伏的人始終沒有出來。見面後，毛澤東說明是由江西省委介紹來找他們的，充分肯定他們「劫富濟貧」的革命性，同時說到工農革命軍目前的困難。雙方談得很投機。毛澤東當場宣佈送給他們一百支槍，這很出袁文才的意料，也使他很受感動。袁文才向毛澤東表示，一定要竭盡全力幫助工農革命軍解決各種困難，隨即回贈給工農革命軍六百塊銀元，並同意革命軍在茅坪（這是一個有六十多戶人家的村子）建立後方醫院和留守處，答應上山做王佐的工作。
當然，問題並不是在一次見面中就能全部解決的。袁文才當時對毛澤東說：「你們既然來了，就有福同享，有難同當，傷患和部隊的糧油我管，但錢寧岡有限，還需要到酃縣、茶陵、遂川一帶去打土豪。」話講得很客氣，但顯然又包含著推託的意思。至於王佐的態度如何，那時還不知道。解決這些問題，需要一些時間而不能操之過急。因此，毛澤東決定工農革命軍主力在井岡山周圍盤旋打遊擊，先向湘南的酃縣方向挺進，籌些款子，熟悉周圍環境，探聽南昌起義軍進入廣東後的情況，而把留守部門和傷病員安置在茅坪，請袁文才代管。不久，又應袁文才的要求，派游雪程、徐彥剛、陳伯鈞等黨員軍事幹部到袁文才部隊裡幫助他們進行政治和軍事訓練，工農革命軍和袁、王部隊的關係一天天密切起來了。
十月十三日，毛澤東率領工農革命軍主力抵達酃縣水口村，在這裡發展了一批黨員，開展社會調查。他從得到的報紙上看到南昌起義軍在廣東失敗的消息，放棄了準備退往湘南的想法，堅定了在羅霄山脈中段建立革命根據地的主張。余灑度和蘇先俊在這裡脫離了工農革命軍。不久，毛澤東得知湘軍正從茶陵分兩路前來進攻工農革命軍，就派第一營黨代表宛希先率第一營的兩個連到茶陵遊擊擾亂湘軍後方，打破它的進攻；毛澤東自己率團部、第三營和第一營的一個連在二十二日轉入江西遂川縣境。途中休息時，他同副連長張宗遜交談說：中國革命離不開農民，武裝鬥爭一定要與農民運動相結合，把農民武裝起來。
在遂川的大汾鎮，部隊在清晨突然遭到遂川縣地主武裝靖衛團三四百人的襲擊，因為人地生疏，倉促應戰，前衛的第三營同團部失去聯繫而輾轉南下，以後同朱德率領的南昌起義軍餘部會合；毛澤東率領團部和特務連撤退，一直退到井岡山南麓的黃坳，最初收集到的失散人員共四十多人，部隊狀況十分狼狽。當時擔任連指導員的羅榮桓後來回憶說：大家又饑又餓，無精打采，稀稀落落地散坐在地上。要吃飯時，炊事擔子也跑丟了，沒有辦法，幾個戰士從老百姓家裡找來一點剩飯和泡菜辣椒。沒有碗筷，毛澤東和大家一起伸手從飯籮裡抓著吃。飯後，毛澤東站起身來，朝中間空地邁幾步，雙腳併攏，身體筆挺，精神抖擻地對大家說：「現在來站隊！我站第一名，請曾連長喊口令！」這種堅強鎮定的精神，立刻強烈地感染了戰士們，提著槍站起來，向排頭看齊。
毛澤東率領這一部分隊伍繼續向井岡山轉移。他的腳被草鞋帶子磨爛，行動很困難，但仍堅決不坐擔架，堅持拄著棍子步行。隨後第一營第一連趕了上來。隊伍行進到井岡山西南的荊竹山下，還有一百多人，在一個小村子裡宿營。陳士矩回憶說：「我們知道今天要上山了，當時心裡說不出有種什麼味道，一方面感覺到我們原來人數就不多，加上三營被隔斷，顯得更少了；另一方面，看樣子只有上井岡山，能得個地方休息休息，感到高興。」這時王佐派人接應他們上山，部隊在十月二十七日到了茨坪。接著，第一營的兩個連也從茶陵趕到茨坪，部隊的人多了。毛澤東等送了七十支槍給王佐部隊。王佐資助工農革命軍五百擔稻穀和一些銀元。他們在茨坪住了幾天，又回到北麓的茅坪，開始創建以寧岡為大本營的井岡山根據地。在井岡山革命根據地的創建上，袁文才、王佐是有很大功勞的。
工農革命軍到了井岡山後的第一件事，就是抓軍隊和地方的建黨工作。沒有一個堅強有力的黨組織形成核心，軍隊也好，根據地也好，都會鬆散無力，難以鞏固和發展。所以，毛澤東把這件事看作一切的根本。
在三灣改編時，一個重要內容便是軍隊要在黨的領導之下，並且確定了「支部建在連上」的原則。但那時時間匆促，許多措施還來不及落實。部隊到酃縣水口村後，十月十五日，毛澤東在葉家祠主持了六名新黨員入黨宣誓儀式，各連黨代表都來參加。會場的牆上掛著一塊寫有「CCP」的紅布。他詳細地解釋了入黨誓詞的意思，然後帶著六名新黨員舉起右手宣讀入黨誓詞：