和州都元帥府三個元帥，依軍中階級說，郭天敘是主帥，張天祐和朱元璋是副職，一切軍務都應該由都元帥發號施令。但是，一來郭天敘年輕，沒有軍事經驗，出不了主意，張天祐一勇之夫，逢事無決斷；二來朱元璋不但有大批勇猛善戰的貼身夥伴——徐達、邵榮、湯和等戰將，更重要的是他有自己系統的軍隊，這支軍隊占郭子興軍事力量的很大比重；第三，元璋處心積慮，要自立門戶，又有李善長、馮國用等一幫弄文墨的做助手，越發施展得開。以此，元璋雖然在軍中坐的是第三把交椅，卻做得主，辦得事，儼然是事實上的主帥。
虹縣人鄧愈，十六歲就跟父兄參加紅軍，父兄都陣亡了，鄧愈帶著部隊，每戰挺身當前，先登陷陣，軍中都服其勇武。懷遠人常遇春，勇猛過人，精於騎射，世亂沒活路，跟人做了些時候強盜，眼看那些頭目只會打家劫舍，沒出息，不成氣候，決心自找出路。兩人都來投奔，鄧愈有隊伍，命為管軍總管；常遇春以勇猛命做前鋒。
和州東南靠長江，城子小，屯駐的軍隊多。元兵幾次圍攻之後，雖然堅決頂住，卻又鬧糧荒了。跨過長江，正對面是太平（今安徽當塗）。太平南鄰蕪湖，東北達集慶（今江蘇南京），東倚丹陽湖。湖周圍的丹陽鎮、高淳、溧水、宣城都是產米區。部隊沒飯吃，卻眼看著對岸有成倉成庫的糧食，只是被長江隔斷了，怒濤洶湧，浪花起伏，沒船隻如何過得去？即使有船，少了也不濟事，總得上千條才行，一時又怎麼打造得起來？即使有了那麼多船，沒有水手又怎麼駛得過去？元璋和文武將佐晝夜商量，也沒個主意。
正好巢湖水軍頭目李扒頭（國勝）派部將俞通海來商量軍事。原來從潁上紅軍起義以後，巢湖周圍地區彭瑩玉的門徒金花小姐、趙普勝、李扒頭等人紛起響應。至正十二年李扒頭據無為州，雙刀趙（普勝）據含山寨，聯結各地起義頭目俞廷玉、通海、通源、通淵父子，廖永安、永忠兄弟，趙仲中、仲庸兄弟，桑世傑、張德勝等人，和元軍力戰。在一次大戰中，金花小姐戰死，李扒頭、雙刀趙退屯巢湖，建立水砦，有一千多條大小船，萬多人水軍，因為都是彭瑩玉的門徒，這水砦就稱為彭祖家，也叫彭祖水寨。大夥推李扒頭做大頭目，雙刀趙坐二把交椅。他們和廬州（今安徽合肥）頭目左君弼結下怨仇，吃了好多回敗仗，勢孤力單，三次派人來求救兵。元璋大喜，親自到巢湖連絡，勸以與其死守挨打，不如兩家合力，一起渡江，尋謀出路。正好五月間梅雨季節，一連下了二十幾天雨，大小河流都漲滿了水，毫不費事，船隻魚貫出了巢湖。雙刀趙不願和元璋合夥，半路上率領所部逃歸彭瑩玉，餘下大小船隻掃數到了和州。
龍鳳元年（元順帝至正十五年，公元1355年）六月初一日，元璋率領徐達、邵榮、馮國用、湯和、常遇春、鄧愈、耿君用、毛廣、廖永安、李善長諸將分領水陸大軍乘風渡江，直達採石。常遇春跳上岸，揮戈奔向元軍，諸軍鼓勇續進，元兵驚潰，緣江堡壘，一齊歸附。紅軍將士餓了多時，一見糧食牲口，歡天喜地，搶著搬運，打算搬回和州慢慢享用。元璋和徐達商量，退守和州，過些日子還得鬧饑荒，不乘勢打開局面，更待何時？決計乘勝直取太平。下令把船纜都砍斷了，把船推入急流，霎時間大小船隻順流東下，江面上空空如也，片帆不見，諸軍慌亂叫苦。元璋使人喊話，前面就是太平府，子女玉帛，無所不有，打下了隨意搬回家。軍士聽了，飽餐後徑奔太平城下，一鼓攻克。正要大殺大搶，元璋事先叫李善長寫了禁約：「不許虜掠，違令按軍法處置。」四處張貼，還派一班執法隊沿街巡察。軍士看了只得住手。有一小兵犯法，立時斬首。太平一路的百姓頓時安定下來。又怕軍心不穩，勒令當地大財主獻出些金銀財帛，分賞將士，大小三軍無不歡喜。
從和州渡江是巢湖水軍的功勞，李扒頭起了野心，打算吞併元璋的軍隊，在船上擺酒慶功，陰謀殺害。桑世傑不以為然，勸阻不住，便暗地告知元璋，元璋推病不去。隔幾天，元璋設宴回請，李扒頭不防，被灌醉捆住手腳，丟在江里。扒頭手下諸將，全部投降。元璋從此又有了水軍。
太平地方儒士李習、陶安率領地方父老出城迎接紅軍。陶安建議：「如今群雄並起，攻城奪邑，互相雄長。他們眼裡只看見子女玉帛，燒殺搶掠，成不了氣候。將軍若能一反群雄所為，不殺人，不擄掠，不燒房子，東取集慶，據其形勢，出兵以臨四方，是可以平定天下的。」元璋很以為然，留陶安在元帥府做令史。下令改太平路為太平府，以李習為知府。置太平興國翼元帥府，元璋自任元帥，以李善長為帥府都事，潘庭堅為帥府教授，汪廣洋為帥府令史。點鄉下老百姓精壯的做民兵，居民積蓄掃數運進城來，命諸將分守各門，修城浚濠，準備固守。
元兵分兩路包圍太平：水路以大船封鎖採石，堵住紅軍的歸路；陸路由「義兵」元帥陳埜先率軍數萬進攻，形勢急迫。元璋親自率領壯士拚命拒守。新討的二夫人孫氏，勸他把府庫的金銀抬到城上，分給有功將卒，鼓舞士氣。徐達別出一軍、繞到敵人背後，前後夾擊，元軍大敗，生擒陳埜先。元璋勸他投降，宰白馬、烏牛祭告天地，結為兄弟。第二天埜先全軍歸降，合軍進攻集慶。
埜先的妻子被留在太平做質，部下被張天祐領去攻集慶。他家是大地主，極恨紅軍，暗地裡囑咐部下，只裝作打仗的樣子，千萬別認真打，三兩日內自己脫了身，就回來打紅軍。七月間，紅軍進到集慶城下，元朝守將福壽力戰，張天祐帶的人只有小半人在打，大半人在看，結果吃了一個大敗仗，回來好生沒趣。
九月間，郭天敘、張天祐和陳埜先合軍再攻集慶，把集慶團團圍住，打了七天，埜先早已和元將福壽約好，城內外表裡夾攻。他備宴請兩個元帥吃酒，席間伏下壯士，生擒郭天敘、張天祐，送給福壽，即時殺了。元軍乘機反攻，紅軍大敗，死了兩萬多人。陳埜先一鼓作氣，追擊紅軍到溧陽，當地元朝「民兵」不明底細，只聽說他投降了紅軍，設下埋伏，也把他殺了。部隊由從子兆先接管。
郭、張二帥死後，子興的舊部就全歸元璋指揮了。他現在是名實一致的都元帥，小明王麾下的大將。子興的三子天爵，後來小明王命為中書右丞，在元璋底下做官，無兵無權，不免發牢騷，和子興一部分老部下合謀，想除掉朱元璋，自立門戶，被發覺後處死。
元璋率領大軍渡江，馬夫人和將士的家眷仍留在和州。和州是後方基地，得有親人鎮守，將士家眷有人照看，也可以使將士安心作戰。和州和太平的交通只有水路，雖然七八個月來，陸續佔領了溧水、溧陽、句容、蕪湖一些城子，集慶孤立，三面被包圍，可是水路卻被元軍切斷了，消息不通。一直到龍鳳二年二月，元璋大敗元水軍，盡俘其舟艦以後，兩地的交通才完全楊通，軍心也安定了。
三月初一，元璋自太平親率水陸大軍並進，三攻集慶。城外屯兵陳兆先戰敗投降，得兵三萬六千人。集慶城破，守將福壽戰死，水寨元帥康茂才和軍民五十餘萬歸降。元璋入城後，召集官吏軍民大會，剴切宣告：「元朝政治腐爛，到處起兵反對它，老百姓吃夠了苦頭。你們困處危城，成天擔心害怕，生命沒有保障。我帶兵到這裡是為你們除亂的。大家都要各安職業，不要疑懼；賢人君子願意跟我建功立業的，以禮任用；做官的不許橫暴，作踐百姓；舊制度對百姓不好的立刻改掉。」一番話安定了人心，建立了正常的秩序。老百姓高興極了，互相慶賀。當下改集慶路為應天府，設天興建康翼統軍大元帥府，以廖永安為統軍元帥，以趙忠為興國翼元帥守太平。儒士夏煜、孫炎、楊憲等十幾人進見，先後錄用。小明王得到捷報後，升元璋為樞密院同僉。不久又升為江南等處行中書省平章，李善長為左右司郎中，以下諸將都升元帥。
元璋得應天后，他的地盤以應天作中心，西起滁州，畫一直線到蕪湖。東起句容到溧陽。西邊長，東線短，是一塊不等邊形，橫擺著恰像個米斗，西線是斗底，東線是鬥口。四面的形勢是：東邊元將定定扼守鎮江；東南張士誠已據平江，破常州，轉掠浙西；東北面青衣軍張明鑒據揚州（今江蘇江都）；南面元將八思爾不花駐徽州（今安徽歙縣），另一軍駐寧國（今安徽宣城）；西面池州（今安徽貴池）已為徐壽輝所據；東南外圍則元將石抹宜孫守處州（今浙江麗水），石抹厚孫守婺州（今浙江金華），宋伯顏不花守衢州（今浙江衢縣）。元璋局面小，兵力不強，處境四面受敵，雖然有了糧食，部隊不致挨餓，軍事形勢卻十分不利。
幸虧這時元軍正用全力和小明王作戰，顧不上朱元璋這地區的軍事。前一年十二月元將答失八都魯大敗劉福通於太康，進圍亳州，小明王奔安豐。察罕帖木兒和紅軍轉戰河南，一時分不出力量來打南面。紅軍主力軍的威力暫時消沉，張士誠的兵鋒又活躍起來了，徐壽輝也在湘漢流域攻城掠地，元軍處於兩線作戰的危境，非常被動。龍鳳二年秋天，小明王的紅軍主力經過整頓補充