濠州缺糧，兵力也缺。元璋想法子弄了幾引鹽，到懷遠賣了，換了幾十石糧食，獻給子興。 又回到鍾離，豎起紅軍招兵大旗，少年夥伴和鄉里徐達、周德興、郭興、郭英、張龍、張溫、張興、顧時、陳德、王志、唐勝宗、吳良、吳禎、費聚、唐鐸、陸仲亨、鄭遇春、曹震、張冀、丁德興、孫興祖、陳桓、孫恪、謝成、李新、何福、邵榮以及耿君用、炳文父子，李夢庚、郁新、郭景祥、胡泉、詹永亨等人，聽說元璋做了紅軍頭目，都來投效。其中徐達比元璋小三歲，生得長身高顴，性格剛毅武勇，和元璋十分契合。比元璋先來的湯和比元璋大三歲，身高七尺，倜儻有智謀，雖然已經做了軍官，卻對元璋格外尊重。邵榮打起仗來，英勇出眾，和周德興等人以後一直跟著元璋，衝鋒陷陣，出生入死，成為元璋部下基本隊伍。又都是淮西人，有著鄉里、宗族關係，到了元璋的軍事力量日益擴大的時候，這些淮西老將便都分別做了領兵將帥，成為軍中的骨幹。以後元璋做了皇帝，淮西諸將和幕府僚屬都成了開國功臣，他們不但有汗馬功勞，也有了政治地位，在明朝初年的政治局勢中，淮人自然而然地形成了很突出的地位。
徐達等人投效紅軍以後，來投軍的人便越發多了，不上十天工夫，招募了七百人，子興大喜。至正十三年六月，升元璋做鎮撫，從此，元璋就一躍成為帶兵官了。 一年以後，又以軍功升作總管。
彭、趙二王的部隊缺乏訓練，紀律不好。元璋看出老是侷促待在濠州，不但不能發展力量，遲早還會鬧事，便把新兵交代了，稟准主將，帶領貼身夥伴徐達、費聚等二十四人，往南到定遠掠地，又招收了一些人馬。聽說張家堡驢牌寨有「民兵」三千人，孤軍無援，又斷了糧，處境很困難。決定親自去驢牌寨，那裡的主帥原是郭子興的相識，元璋告訴他，你孤軍缺糧，附近有一支軍隊要來打你，你是頂不住的。為今之計，要就跟我們走，保全力量，否則就趁早轉移，別的辦法是沒有的。那主帥答應了，說過幾天就來。元璋留下騎士費聚等候。不料過了三天，費聚來報，變了卦了，他們要轉移了。朱元璋立刻帶了三百人又去，左說右說，不得要領，只好使計，派一個勇士去請那主帥議事。主帥剛一到，幾百人就把他重重圍住，邊嚷嚷邊走，走了十幾里，再派人去傳主帥的命令，就說是移營了，三千人就都跟著來了。朱元璋得到這支軍隊，就指揮它向東襲擊橫澗山。
橫澗山有「民兵」二萬，主帥是定遠人繆大亨。他糾集了一大批地主武裝力量，進攻濠州沒有佔到便宜，元兵潰走，他率眾二萬退守橫澗山，元朝封為義兵元帥，派軍官張知院監軍。元璋令勇將花雲帶了隊伍，趁黑夜敵人不防，四面包圍，鼓聲、吶喊聲震天動地，張知院嚇慌了，隻身逃走。元璋部下有人和繆大亨交好，元璋派他勸繆大亨投降。繆大亨想想沒有出路，只好答應。元璋得了當地七萬人口，選出精壯二萬，組成一支浩浩蕩蕩的大隊伍，用元璋自己的話來形容，真是：「赤幟蔽野而盈崗。」
元璋得了這支生力軍，立刻重新編製，加緊訓練。他最看重紀律，在檢閱新軍時，特別指出這一點，懇切地訓誡將士說：「你們原來是很大的部隊，可是毫不費事就轉到我這邊來了。原因在哪裡呢？一是將官沒有紀律，二是士卒缺乏訓練。現在我們必須建立嚴格的紀律，做到嚴格的訓練，才能建功立業，大家都有好處。」三軍聽了，無不喜歡。 就這樣，元璋不但有數量眾多的驍將，也有了幾萬人的經過訓練的大部隊，為此後的軍事活動打下了堅強的基礎。
定遠人馮國用、馮國勝（後來改名勝，又名宗異）兩兄弟，家裡有幾百畝田地，幾十家佃戶，是個中小地主。兩兄弟都喜歡讀書，通兵法。國用深沉有計謀，國勝慓勇多智略。紅軍兵起，他們團結地方上的地主和鄉民，結寨自保。只是力量單薄，怕被別的「民兵」大隊伍吃掉。繆大亨一投降，越發自危，多方打聽，知道元璋軍隊紀律好，便帶領部隊來投效，甚見親信。元璋問以攻敵方向，國用以為建康（元集慶路，今南京）形勢險要，古書上說是「龍盤虎踞」，是歷代帝王建都的地方。如今應該先取作根據地，以後逐步發展，擴充地盤。不貪子女玉帛，多做好事，取得人民的支持，建功立業不是難事。元璋大喜，任用為幕府參謀。
在南下攻滁州（今安徽滁縣）的路上，定遠人李善長到軍門求見。善長是地方上有名人物，讀書有智謀，善於料事，治法家學問。從他的經歷，年輕時便能夠一意讀書，不必操心生活來看，出身於地主家庭是沒有問題的。他和元璋談得很投機。元璋問他四方兵起，什麼時候才能太平？善長勸他學漢高祖，說漢高祖也是平民出身的，為人氣量大，看得遠，也看得寬。善於用人，也不亂殺人，五年工夫，便平定了天下。元朝不得人心，上下不和，已到土崩瓦解地步。濠州和沛相去不遠，你如能學習這位同鄉的長處，天下太平也就快了。元璋連聲叫好，留下做幕府的掌書記（秘書長），囑咐他：「如今群雄四起，天下糜爛，仗要打好，最要緊的是要有好參謀人員。我看群雄中管文書和做參謀的幕僚，總愛說左右將士的壞話，文武不團結，將士施展不了才能，自然非失敗不可。將士垮了，好比鳥兒去了羽翼，主帥勢孤力單，也非滅亡不可。你要替我做一個橋樑，調和和幫助將士，不要學那些幕僚的壞樣子。」從這時候起，元璋心目中時時有個老百姓出身的皇帝同鄉在做榜樣，說話，辦事，打仗，事事都刻心刻意向他學習。 善長也一心一意當好幕僚長，溝通將士、幕僚和主帥，以及將士間的意見。建議提拔有功和有能力的，處分不稱職的將吏，使得部下都能人盡其才，安心做事。 但是，他也有致命的缺點，鄉里觀念是他很重的包袱。在戰爭年代，這個缺點還不很明顯，到了南北統一以後，他對用人行政還是從淮西人的利害出發，朱元璋雖然倚靠淮西人的力量起家，卻比李善長看得寬些、大些，他要倚靠全國各個地方可以倚靠的力量，因此，他們兩人之間，在戰爭全局取得勝利之前，互相信任，利害是一致的，但在勝利以後，矛盾便逐步展開了，儘管關係很久很深，最後還是免不了徹底決裂。
滁州守軍力量單弱，元璋的前鋒長身黑面綽號黑先鋒的花雲單騎衝破敵陣，在如雷的戰鼓聲中，全軍跟著進攻，把滁州佔了。元璋親侄文正、姐夫李貞帶著外甥保兒（後起名文忠）得到消息，奔來投靠。說起家鄉情況，才知道二哥三哥都已去世了，免不得大家哭了一場。又傷心又歡喜，傷心的是偌大一家人只剩了這幾口，歡喜的是處在這樣亂世，還能團聚。「一時會聚如再生，牽衣訴昔以難當。」 還有定遠人沐英，父母都已死去，孤苦可憐。元璋把三個孩子都收養作義子，改姓為朱。原來收養義子是當時軍隊中流行的風氣，帶兵的將領要培養心腹幹部人才，都喜歡收養俊秀勇猛的青年在身邊，不但打仗時肯拚死命，在緊要關頭，還可以用來監視諸將，起耳目心腹的作用。沐英在軍中稱為周舍，又叫沐舍，舍是舍人的簡稱（文武官員的兒子叫舍人）。元璋義子除朱文正、李文忠、沐英以外，還有二十幾個，後來所佔城池，專用義子做監軍和將官同守：如得鎮江用周舍，得宣州用道舍，得徽州用王附馬，得嚴州用保兒，得婺州用馬兒，得處州用柴舍、真童，得衢州用金剛奴、也先。此外還有買驢、潑兒、朱文遜等人。柴舍即朱文剛，後來在處州死難；道舍即何文輝，馬兒即徐司馬，保兒即平安，朱文遜小名失傳，在太平陣亡，王駙馬、真童、金剛奴、也先、買驢、潑兒、老兒，複姓後的姓名也都失傳了。 至正十八年胡大海、李文忠佔領嚴州後，兩人意見不和，元璋派帳前都指揮使首領郭彥仁告誡李文忠說：「保指揮（保兒）我之親男，胡大海我之心腹，前者曾聞二人不和。且保指揮我親身也，胡院判（大海官銜行樞密院判官的簡稱）即我心腹也，身包其心，心得其安，心若定，身自然而定。汝必於我男處丁寧說知，將胡院判以真心待之，節制以守之，使我所圖之易成。」李文忠代表元璋監視大將胡大海，並有節制之權。這一個例子說明了義子的作用，也說明了元璋駕馭將士的策略。
除用義子監軍以外，另一辦法是規定將士家眷必須留在後方居住。這法子在剛渡江時便實行了。元璋統兵取集慶，馬夫人和諸將家屬留在和州（今安徽和縣） 。取集慶後，定下制度：「與我取城子的總兵官，妻子俱要在京住坐，不許搬取出外。」「將官正妻留於京城居住，聽於外處娶妾。」這樣，將官顧慮妻子安全，自然不敢投敵以至反叛，平時徵調差遣，也方便得多了。可是，也有相反的情況，後來驍將邵榮的怨望以至圖謀暗殺朱元璋，正是因為常年征戰，不能和家人團聚的緣故。
此外，他還提防將官和讀書人勾結，規定：「所克城池，令將官守之，勿令儒者在左右議論古今，止設一吏，管辦文書，有差失，罪獨坐吏。」凡是元朝的官吏和儒士，都要由他自己選用，逃者處死，不許將官擅用。
元璋進攻滁州時，彭大、趙均用率領濠州紅軍主力