朱元璋以洪武元年稱帝，建立新皇朝，但是大一統事業的完成，還得花二十年的時期。
元順帝北走之後，元朝遺留在內地的軍力，還有兩大支：一支是雲南的梁王，一支是東北的納哈出。都用元朝年號，秉承元順帝命令，雄踞一方。雲南和蒙古本部距離極遠，勢力孤單，比較容易解決，所以朱元璋的注意力先集中在西南方面。從洪武四年消滅了割據四川的夏國以後，便著手經營雲南，先後派遣使王褘、吳雲招降，都被梁王所殺。到洪武十四年，決意用軍力進取，派出傅友德、沐英、藍玉三將軍分兩路進攻。
這時雲南在政治上和地理上分作三個系統：一是直屬元朝皇帝，以昆明為中心的梁王；二是在政治上隸屬於元朝，但享有內部主權以大理為中心的白族土酋段氏。以上所屬的地區都被區分為路、府、州、縣；三是在上述兩個系統以外和南部思普一帶的許多少數民族，就是明代叫作土司的地區。現代貴州的西部，在元代屬於雲南行省，東部設八番順元軍民宣慰使司，管理彝族及苗族各土司。元至正二十四年，元璋平定湖廣，和湖廣接界的貴州思南宣慰和思州（今思縣）宣撫先後降附。到平定夏國後，四川全境都入版圖，和四川接境的貴州宣慰和普定府總管也聞風歸附。貴州的土司大部分先後歸順明朝，雲南在東北兩面便失去屏蔽了。
明兵從東北兩面進攻，一路由四川南下取烏撒（今雲南鎮雄、貴州威寧等地），這地方是四川、雲南、貴州三省接壤處，犬牙突出，是一個軍事據點，和在昆明的梁王主力軍互相呼應，並且是彝族的集中居住區；一路由湖廣西取普定（今貴州安順），進攻昆明。從明軍動員那天算起，不過一百多天工夫，東路軍便已打到昆明，梁王兵敗自殺。東路軍再北上和北路軍會攻烏撒，把元軍消滅了。附近東川（今雲南會澤）、烏蒙（今雲南昭通）、芒部（今雲南鎮雄）諸彝族全部降附，昆明附近諸路也都以次歸順。洪武十五年二月設置貴州都指揮使司和雲南都指揮使司，建立了軍事統治機構。閏二月又設置雲南布政使司，建立了政治領導機構。 分別派官開築道路，寬十丈，以六十里為一驛，置驛站，設置驛夫、馬匹，把四川、雲南、貴州的交通聯接起來。在要害地區，屯兵駐守，建立衛、所，責成當地土司供給軍食，控扼糧運、交通系統的安全。 布置好了，再以大軍西向攻下大理，經略雲南西北和西南地方，招降摩些、彝、撣、僰諸少數民族，分兵戡定各土司。分雲南為五十二府、六十三州、五十四縣。因為雲南太遠，交通不便，特派義子沐英統兵鎮守，沐家子孫世世承襲，在雲南將近三百年，竟和明朝相始終。
納哈出是元朝世將，太平失守被俘，元璋放他北還。元順帝北走後，納哈出擁兵蟠踞金山（在今遼寧開原東北，遼河北岸），養精蓄銳，等候機會南下，和元順帝的中路軍、擴廓帖木兒的西路軍互相呼應，形成三路箝制明軍的軍事形勢。在東北，除金山納哈出一軍外，遼陽、瀋陽、開元一帶都有元軍屯聚。洪武四年元遼陽守將劉益來降，建遼東指揮使司，接著又建立遼東都指揮使司，總轄遼東軍馬，以次平定瀋陽、開元等地。同時，又從河北、陝西、山西各地出兵大舉深入沙漠，擊破擴廓帖木兒軍主力，進攻應昌（今內蒙古自治區經棚縣西境，捕魚兒海〔達爾泊〕旁）。明軍破應昌，元主遠逃漠北。到洪武八年擴廓帖木兒死後，元中路和西路的軍力日漸衰弱，不能再深入內地抄掠了。朱元璋乘機經營甘肅、寧夏一帶地區，招撫西北各羌族和回族部落，分別給以土司名義或王號，使其個別接受政令，利用諸部族軍力，阻止元軍的入侵。在長城以北今河北和內蒙古自治區地方，則就各要害地方建立軍事據點，逐步推進，用強大軍力壓迫元軍退到更北的蒙古大沙漠，不使靠近邊塞，採取以攻為守的軍事策略。西北方面的問題完全解決了，再轉回頭來收拾東北。
洪武二十年，馮勝、傅友德、藍玉諸大將奉命北攻納哈出。大軍出長城松亭關，築大寧（今河北平泉）、寬河（今河北寬城）、會州（今河北平泉）、富峪（今河北平泉之北）四城，儲糧供應前線，留兵屯守，切斷納哈出和元中路軍的呼應。明主力軍東向從北面包圍金山，納哈出勢窮力蹙，孤軍無援，只好投降，遼東全部平定。 於是立北平行都指揮使司於大寧，東和遼陽，西和大同應援，作為北邊邊防前線的三大要塞。又向西和開平衛（元上都，今內蒙古自治區多倫縣地）、興和千戶所（今內蒙古自治區張北縣地）、東勝城（今內蒙古自治區托克托縣及茂明安旗之地）諸軍事據點，聯結成長城以外的第一道邊防線。從遼河向西幾千里地方，都設衛置所，屯駐軍馬，建立了保衛長城的長城。 兩年後，元主脫古思帖木兒被殺，部屬分散。以後蒙古內部又連續發生政變、叛亂，實力更加衰弱，明朝北邊的邊防，也因之而獲得幾十年的安定。
東北的元軍雖然降附，還有女真族的問題急待解決。女真這一少數民族原是金人的後裔，依地理分布，大致分為建州、海西、野人三種。朱元璋採取軍事和政治雙管齊下的政策，軍事上封韓王於開原、寧王於大寧，控扼遼河兩頭，封遼王於廣寧（今遼寧北鎮），建立三個軍事中心，作為阻止元軍和女真族進攻的重鎮。政治上採取羈縻政策，對東北地區諸女真部族，遣使用金帛個別招撫，分立為若干羈縻式的衛所，使其自成單位，分而治之，給予各部族酋長以衛所軍官職銜，許其秉承朝命世襲，並各給璽書，作為進貢和互市（做買賣）的憑證，滿足他們物資交換的經濟要求。這樣，女真族就依地理分布成為若干衛、所，不相隸屬，任何一個單位都沒有力量單獨進攻內地了。 到明成祖時代，越發積極推行這個政策，轄地到現在的黑龍江以北，直到庫頁島和以北地方，增置的衛所連同舊有的共有一百八十四衛，並設立奴兒干都指揮使司，由朝廷派遣軍官鎮守。
遼東平定後，大一統的事業完全成功了。和前代一樣，這大一統的皇朝和許多鄰國建立了交往關係。從東面算起，洪武二十五年高麗發生政變，大將李成桂推翻親元的王朝，自立為王，改國號為朝鮮，成為明皇朝最親密的鄰國。其他有政治、文化和經濟交往的國家，東南有琉球國，西南有緬甸、安南、真臘、占城、暹羅和南洋群島諸島國。內地和邊疆則有許多羈縻的部族和土司。
明皇朝對周圍鄰國的友好關係的建立，是通過使臣的互相聘問，土產物資的互相贈送來進行的。各國的內政都是自主的。為了和海外各國進行物資交換，在沿海地區特開通商口岸，主持通商和接待外國商船的衙門是市舶司。洪武初年指定了三個通商口岸，寧波市舶司通日本，泉州市舶司通琉球，廣州市舶司通占城、暹羅和南洋諸島國。
元朝初期多次對日本、安南、緬國、占城、爪哇等國的侵略戰爭，所招致的失敗和嚴重後果，給了朱元璋以深刻的教訓。他總結了前朝的失敗經驗，制定了外交政策，那就是外國來犯我邊，就要吃苦頭；他不來犯，我也不可興兵輕犯。他把外國分作兩類：一類是不征之國，就是不和他們打仗的國家；一類是必須謹備的敵人，必須區別對待。他特別在《皇明祖訓》中鄭重告誡說：
四方諸「夷」皆限山隔海，僻在一隅，得其地不足以供給，得其民不足以使令。若其不自揣量，來撓我邊，則彼為不祥。彼既不為中國患，而我興兵輕犯，亦不祥也。吾恐後世子孫倚中國富強，貪一時戰功，無故興兵，殺傷人命，切記不可。但「胡戎」（指蒙古）與中國邊境密邇，累世戰爭，必選將練兵，時謹備之。
今將不征諸國名列於後：
東北 朝鮮國
正東偏北 日本國（雖朝實詐，暗通姦臣胡惟庸謀為不軌，故絕之）
正南偏東 大琉球國 小琉球國
西南 安南國 真臘國 暹羅國 占城國 蘇門答刺國
西洋國 爪哇國 湓亨國 白花國 三弗齊國 渤泥國
這些國名的列舉，顯示了當時人對世界的認識，除了亞洲以外，其他各大洲的國家，在明初人的眼光中，都是不存在或者不認識，很少認識的。就當時情況說，中國是一個大國，是一個農業國，工商業不很發達，不需要海外市場；土地面積大，也不需要向外侵略領土；人口眾多，也不缺乏勞動力，這是朱元璋堅決反對向外侵略政策的經濟根據。歷史教訓是，向海外諸國侵略，「得其地不足以供給，得其民不足以使令」，沒有什麼好處。而且對外打仗，還得花錢、死人，打勝仗既然沒有好處，打敗仗就越發划不來了。因之，朱元璋反覆告誡他的子孫，不可倚中國富強，貪一時戰功，無故興兵，殺傷人命。所謂「無故」，就是「彼既不為中國患」，反過來，假如有的國家，不自揣量，膽敢侵犯皇朝邊境，那就堅決予以打擊，對於這個國家是不祥的，沒有好結果的。他一方面堅持反對無緣無故發動對外戰爭，另一面也不容許別國的侵略，主張保境安民。 從整個歷史的發展來說，他的外交政策是進步的，有遠見的，應該肯定的。但是從他