朱元璋在出兵征服方國珍的同時，決定了南征北伐的大計。
吳元年九月間，元璋統治的疆土，大體上據有現在的湖北、湖南、河南東南部和江西、安徽、浙江，包括漢水下游和長江下游，是全中國土地最肥沃，物產最豐富，人口密度最高，最繁榮富庶的地區。
中國南部除元璋所佔地區以外，分裂成幾個軍事割據地區：以四川為中心的是夏國明昇，雲南有元宗室梁王鎮守，兩廣也是元朝的勢力，福建陳友定雖然跋扈，仍然對元朝效忠。
元璋見夏國主幼兵弱，不會有所作為，雲南太遠，暫時可以不問，決定首先進軍目標是福建和兩廣。
中國北部在表面上屬於元朝政府統治，但情況十分複雜：山東是黃軍（地主軍）王宣的防地；河南屬擴廓帖木兒；關內隴右則有李思齊、張良弼諸軍；孛羅帖木兒一軍鎮大同。擴廓帖木兒和李、張二將不和，孛羅帖木兒又和擴廓帖木兒對立。當元璋進兵江浙的時候，元朝這幾個將軍正在爭軍權，搶地盤，一心一意打內戰，拼個死活，誰也不管整個戰局。和軍事領袖內部衝突的同時，元朝統治階級最上層宮廷的內部矛盾，也日益深化、激化了。宮廷的陰謀政變和軍事領袖的公開內戰相結合，並且互相利用，元朝統治階級分裂成為兩個互相傾軋、殘殺的集團，雙方都要奪取政權，都有貴族官僚支持，都有武裝力量，勢均力敵，爭得熱鬧，殺得熱鬧，造成「鷸蚌相爭，漁翁得利」的局面。元璋趁著元朝內部打得火熱的有利形勢，乘機東征南伐，擴大地盤，充實軍力。等到元璋北伐大軍兵臨城下，元朝的軍事領袖們才著了慌，停止互相殘殺，卻又不肯也不甘心和別人合作，聽別人指揮，仍然是各保地方，各自為戰，為朱元璋造成集中強大軍力進行個別殲滅的良好戰機。元朝政府分散的軍事力量一股接著一股被消滅的結果，長期進行階級壓迫和民族壓迫的蒙漢地主聯合政權，也隨之被消滅了。
元朝軍事領袖內部鬥爭的歷史可以追溯到幾年以前。
紅軍起義後，元朝正規軍隊抵抗不住，四處打敗仗。堅決頑強地和紅軍作戰的是「義軍」。這是由地主土豪所組織的保衛私家生命財產的地方「民兵」，也叫作「鄉軍」。紅軍要推翻地主階級的統治，地主們卻要保衛自己的統治，這是你死我活的階級鬥爭，旗幟十分鮮明，鬥爭自然非常激烈。「義軍」中最強大的有兩支：一支是起自沈丘（今河南沈丘）的察罕帖木兒和李思齊。察罕帖木兒的祖先是元初徵佔河南的蒙古軍人，子孫在沈丘落戶，至正十二年和羅山地主李思齊率領鄉里子弟襲破紅軍所佔領的羅山，元朝政府授官汝寧府達魯花赤，各地的地主武裝聞風先後參加，組成一支萬人的地主軍，幾年來連敗紅軍，重占河北、關陝，陷汴梁，取河南，號令達江浙，屯重兵於太行山。正準備大舉進攻山東時，和另一支「義軍」發生了內戰。 一支是元朝世將答失八都魯所招募的襄陽官吏和流亡土豪的兩萬「義丁」，和劉福通作戰有功，重占襄陽、亳州。 答失八都魯死，子孛羅帖木兒代之掌兵，移鎮大同。山西晉冀之地原本是察罕帖木兒的部隊進佔的，察罕帖木兒大軍東出，孛羅帖木兒就進軍晉冀，強佔察罕帖木兒的防地，察罕帖木兒自然不甘心，兩軍就大打特打，交戰幾年，元朝政府無力制止，屢次派人調停講和。察罕帖木兒被刺死後，孛羅帖木兒又領兵來爭晉冀，內戰又起。
和軍事領袖公開內戰的發展同時進行的是元朝宮廷的陰謀政變。
脫脫丞相貶死後，哈麻代為丞相。哈麻陰謀廢元順帝而立皇太子，事泄被殺。皇太子生母高麗奇皇后和皇太子仍舊陰謀廢立，使宦官朴不花和丞相太平商量，太平不肯，太子憤恨，把太平害死了。宮廷里分作兩派，丞相搠思監和朴不花幫太子，貴臣老的沙幫皇帝。太子派靠擴廓帖木兒作外援，皇帝派就拉攏孛羅帖木兒來對抗。
老的沙得罪於皇太子，逃入孛羅帖木兒軍中。皇太子怨恨孛羅帖木兒收容他的仇人，搠思監、朴不花就誣害孛羅帖木兒圖謀不軌，至正二十四年四月元朝政府下詔數孛羅帖木兒罪狀，解其兵權，削其官爵。孛羅帖木兒也不客氣，竟自帶領大軍進向大都。元順帝慌了，縛送搠思監、朴不花謝罪，孛羅帖木兒才回師大同。太子失敗了，不甘心，逃出大都，再征擴廓帖木兒出兵打孛羅帖木兒。孛羅帖木兒又舉兵進攻大都，太子戰敗，逃到太原。孛羅帖木兒入都，做中書左承相。二十五年太子調擴廓帖木兒和諸路兵進攻，孛羅帖木兒戰敗，被刺死於宮中，擴廓帖木兒入都代為丞相。
太子奔太原時，要仿效唐肅宗靈武故事，自立為皇帝，擴廓帖木兒不贊成。擴廓帖木兒入都時，奇皇后又要他帶重兵擁太子進宮，逼順帝讓位。擴廓帖木兒又不肯，離京三里就命大軍駐下，只帶數騎入朝。以此，奇皇后和太子深恨擴廓帖木兒。元順帝也疑忌他兵權太重，朝中大臣嫌他不是根腳官人（世代貴族），另眼相看。擴廓帖木兒在軍中日子久了，不習慣於爾詐我虞的宮廷陰謀鬥爭，兼之上下都對他嫌忌，自己知道站不住腳，就請求出外帶兵。元順帝便封他為河南王，統率全國軍馬，代皇太子出征。
至正二十六年二月，擴廓帖木兒回到河南軍中，調度各處軍馬，用檄文調關中四將軍會師。李思齊得調兵劄，勃然大怒，罵說：「乳臭小兒，黃髮還沒有退，敢來調我！我跟你父親同鄉里，同起義兵，你父親進酒，還三拜才喝，你在我面前連站腳處都沒有，居然稱總兵，敢來調我！」下令各部，一戈一甲不許出武關，王保保來見，則整兵殺之。張良弼、孔興、脫列伯三軍也不受節制。擴廓帖木兒軍令不行，只好把南征一事暫且放下，派一部分軍隊屯駐濟南，防禦南方進攻，親自帶領大軍入關攻李思齊。李思齊等四將軍也會兵長安，盟於含元殿舊基，合力抵抗。兩軍軍力相差不多，整整打了一年，大小几百戰，分不出勝負。元順帝再三命令擴廓帖木兒停戰，一意南征，擴廓帖木兒不聽。二十七年七月擴廓帖木兒抽調部下最精銳的貊高一軍，渡河從背後直搗鳳翔，貊高部將中有一部分是孛羅帖木兒的舊將，半路上計議：「朝廷調我們打妖賊，如今卻去打李思齊，李思齊是官軍，官軍殺官軍，為什麼來？」逼貊高倒戈聲討擴廓帖木兒。元順帝本來疑忌擴廓帖木兒，又恨他不聽命令，正在想法奪去擴廓帖木兒兵權，貊高的報告一到，他十分高興，升貊高為知樞密院兼平章，總河北軍馬；並下詔書解除擴廓帖木兒統帥權，只領本部兵馬，肅清江淮。李思齊等部分兵進取。特設大撫軍院，以皇太子總制天下兵馬，專防擴廓帖木兒。
西吳偵探得上面所說的一切情況，元璋決心利用元軍忙於內戰，主要軍力自相抵銷的有利時機，南征北伐同時並進。吳元年十月，以徐達為征虜大將軍，常遇春為副將軍，率甲士二十五萬，由淮入河，北取中原。中書省平章胡廷瑞為征南將軍，江西行省左丞何文輝為副將軍，由江西取福建。湖廣行省平章楊璟、左丞周德興率湖廣諸衛軍取廣西。
取福建兵分三路：胡廷瑞、何文輝率步騎從江西度杉關為正兵，湯和、廖永忠由明州以舟師取福州為奇兵，李文忠由浦城攻建寧（今福建建甌）為疑兵。陳友定的根據地延平（今福建南平）和福州犄角，建寧則為延平外線據點，駐有重兵。元璋三路大軍分頭進攻，正兵使敵人以主力應戰，奇兵使敵人不測所以，疑兵分散敵人兵力。
陳友定福建福清人。出身僱農，做富農的上門女婿，做買賣總是賠錢，投充驛卒。至正十二年紅軍進攻福建，友定投效做了「民兵」，立了戰功，升為小軍官，佔領很多城池，積官到福建行省平章，鎮守閩中八郡。在地方雖然跋扈專行，對元朝政府卻極為恭順，年年運糧到大都。朱元璋占婺州後，和友定接境。至正二十五年二月，友定進攻處州，為西吳大將胡深所敗，深乘勝追擊，元璋調發江西駐軍南下，準備兩路會師，一舉攻下延平。不料胡深部隊進展太快，孤軍深入，中伏被俘，為友定所殺，平閩計畫受了挫折，暫時擱起。
到方國珍投降後，西吳水師乘勝南下，友定轄境和元朝本部隔絕，孤立無援。福州、建寧先後失去，延平被圍。洪武元年正月城破，友定和僚屬訣別，服毒自殺不死，被俘到應天。元璋責備他攻處州、殺胡深的罪狀，友定厲聲回答：「國破家亡，死就算了，何必多說！」父子同時被殺。
西吳從出兵到克服延平，費時四月，從克服延平到平定全閩，又費了八個月工夫。
平定兩廣的部署，也是分兵三路：第一路楊璟、周德興由湖南取廣西；第二路陸仲亨由韶州（今廣東曲江）搗德慶；第三路是平閩的水師，由海道取廣州。第一路軍於吳元年十月出發，第二、三路軍於洪武元年二月出發，所遇抵抗以第一路軍為最大。從衡州推進到廣西，第一座名城永州（今湖南零陵），第二全州（今廣西全縣），都是經過激烈血戰才佔領的，進圍靖江（今廣西桂林）。第二路軍用三個月時間平定北江和西江三角地帶，切斷了廣州和靖江的交通線。第三路軍廖永忠遣使向元