洪武十三年(1380)三月十一日，燕王朱棣帶領兩護衛將士五千七百七十人，離開南京前往他的封地北平(今北京)。這年朱棣整整二十一歲。
這年正月，發生了一件舉國震動的大事。左丞相胡惟庸被誅殺，罪名是「私構群小，夤緣為奸，或枉法以惠民，或撓政以誣賢」，如果像詔書中所說是中書省「任非其人」，那麼再選擇一個稱職的人接替胡惟庸便可以了。結果並不如此，朱元璋就此廢除了中書省，並將大都督府改為五軍都督府。顯然這是謀劃已久的一次剷除權臣、集權於皇帝的措施。朱元璋所宣布的胡惟庸的罪名，不過是採取這一行動的借口。朱元璋剷除權臣和分封親王都是為了同一個目的，即維持朱姓皇室的獨尊地位。隨著親王的成長和逐漸就藩，朱元璋越來越覺得可以無所顧忌地對威脅皇帝的權臣採取措施。反過來，胡惟庸這樣的治國能臣被誅殺後，朱棣和各位藩王身上的擔子便更為沉重了。
朱棣背負著「慎固邊防、羽翼皇室」的重任，來到北方重鎮北平。這裡曾經是大元帝國的首都，被稱為大都。蒙古騎兵的鐵蹄一度無敵於天下，所到之處莫不降服，成吉思汗、忽必烈和他的子孫們就從這裡出發，統治著廣袤的疆土。蒙古人、漢人、色目人彙集在這裡，東方人、西方人彙集在這裡，不同的膚色、不同的語言、不同的服裝、不同的風俗，這裡曾是一個真正的世界性的城市。如今那鮮衣怒馬的蒙古人哪裡去了？那黃髮碧睛的色目人哪裡去了？連勾欄瓦舍中的百戲雜劇也失去了原來的喧闐紅火。只有那冷落的皇城宮殿依然顯示出昂處挺身的雄姿，那太液池邊的春柳依然嬌媚地拂撫著水面。十三年過去了，這蜿蜒的紅牆裡終於迎來了它新的主人。
這裡雖然已不是全國統治中心了，但軍事、政治上仍然佔有重要地位。蒙古人要東山再起，這裡是首先要覬覦的目標。元朝近百年來的統治在這裡還留有很深的影響，懷戀故國的勢力盤根錯節，表面上俯首屏息，而暗中仍心懷不滿。不是洪武初年在西直門瓮城門洞的牆壁上還有人在表達他故國之思嗎？朱元璋改「大都」為「北平」，就是要鎮壓這裡的「王氣」。
早在元順帝放棄大都，北退塞外時，就派駐守在太原的擴廓帖木兒率軍北上，經保安(今涿鹿)反攻大都，結果明大將軍徐達乘虛攻克太原，又擊破擴廓回援之軍。洪武二年二月，元丞相也速率軍攻通州，紮營白河，再窺大都，為明守軍擊潰。六月也速乘明師進攻陝西之際，再攻通州，被常遇春回師擊敗。明師乘機進攻開平，元順帝再北走，明軍大勝，生擒其親王慶生、平章鼎住，得將士萬人、車萬輛、馬三萬匹、牛五萬頭，薊北悉平。明軍挺進西北，偏將軍李文忠率軍行抵太原，正值元將脫列伯、孔興奉元順帝之命進攻大同，情勢甚急。李文忠引軍北上救援大同，大敗元軍。脫列被俘，其眾萬餘人投降，孔興遁走陝西，被部將所殺。這是元朝妄圖恢複的最早兩次企圖，雖然都被明軍擊敗，但元軍所擁有的實力並未被消滅。
明軍於洪武二年八月攻克慶陽，十二月擴廓帖木兒乘徐達還師，自甘肅襲擊蘭州，明軍苦戰，雖免於陷落，但西北已呈危急之勢。同時，北方邊塞要地朔州(今河北蔚縣)、武州(今宣化)、雲州(今大同)地區、野狐嶺(今萬全北)、大興(今欒平北)等仍為元軍所盤踞。在這種形勢下，朱元璋派明軍進行了一次又一次的北征：
洪武三年，以徐達為征虜大將軍，李文忠、馮勝、鄧愈、湯和等為副將軍分道北征。徐達敗擴廓帖木兒，擒無郯王、濟王及國公平章以下文武所屬一千八百六十五人，將校士卒八萬四十五百餘人，獲馬一萬五千二百八十餘匹，擴廓攜其妻子從者數個北遁奔和林，李文忠乘元順帝之喪，攻克應昌，俘獲元宗室嫡子買的里八臘及后妃、宮人、諸王、將相等數百人，元嗣君愛猷識理達臘率數十騎遁去。李文忠回師途中又俘獲元國公汪文清等，降其兵民五萬餘人，這次北征使元朝近塞勢力遭到沉重打擊。
一年多以後，元朝勢力在近塞再趨活躍。明軍在平定四川之後，於洪武五年，派徐達、李文忠、馮勝率師十五萬，分三路再次北伐。這次北征，明軍受挫，出師不利。中路徐達軍為元所敗，死者數萬人，東路軍李文忠殺傷相當，不得已旋師，僅西路馮勝略獲小勝。
此後七年中，朱元璋斂兵自守，不再輕易北征，而元朝勢力卻屢有南侵，元主愛猷識理達臘任國政以擴廓帖木兒，圖謀恢複，數為邊患。洪武六年寇武、朔州(今句注山北)及寧夏河州(今甘肅臨夏)等地。七年寇白登(今大同東)、蘭州；八年寇蘭東；九年以後，連年騷擾陝北，又西連吐番為邊地之患。十一年，愛猷識理達臘死，其子脫古斯帖木兒繼位，為患仍然不已。面對這種局勢，明朝加緊練兵，嚴守邊關，並送還洪武六年在應昌被李文忠所俘獲的愛猷識理達臘之子買的里八臘，始北元降人以官爵衛士賞賜，加以攏絡。這時明與北元之間差不多是相持的態勢，北元雖南下為患，但無法造成對明的重大威脅，明師雖偶有出擊，但也難於給北元造成致命的打擊。
這就是朱棣就國時的北方邊境的形勢。
大概是朱元璋認為朱棣不夠成熟吧，並沒有讓他立刻參加直接的軍事行動。就在他就藩的這一年和第二年，朱元璋又發動了兩次北征。第一次洪武十三年二月，朱元璋得知北元國公脫火赤、樞密知院愛足率眾萬餘屯兵和林，恐為邊患，便派西平侯沐英前往征討，沐英至靈州(今寧夏靈武)，偵知脫火赤等已進兵亦集乃，便率兵渡黃河，經賀蘭山，穿過沙漠，西進亦集乃，明軍兵分四路合圍脫火赤營帳，盡俘其部曲以歸。沐英又練兵西涼、進襲元柳城王，俘獲柳城王及人口一千三百餘，馬匹三千餘。十四年正月，元平章乃兒不花入寇永平(河北盧龍），朱元璋再命徐達及左右副將湯和、傅友德北征，同時命沐英出古北口以為應援。明軍出塞，襲灰山，明軍再北上，元軍北遁，傅友德追擊，俘獲平章別里不花、太史文通等，沐英出古北口，略公主山長塞，盡獲全寧四部而還。從這以後，明軍每年春出冬歸，對北元採取了以攻為守的策略。
其後，洪武二十年正月，朱元璋命宋國公馮勝為大將軍，潁國公傅友德、永昌侯藍玉為左右副將軍率師二十萬征北元納哈出。納哈出據有遼河流域，擁有部眾十餘萬，是北元最後的重要軍事力量之一。在明軍的強大壓力下，納哈出被迫投降。北元失去了遼東，與朝鮮的聯繫也被割斷，力量更加衰弱。洪武二十一年，朱元璋以永昌侯藍玉為大將軍，延平侯唐勝宗、武定侯郭英為左右副將軍，率兵十五萬「肅清沙漠」。明軍至捕魚兒海，襲元主脫古思帖木兒大營，殺其太尉蠻子，降其眾，脫古斯帖木兒等僅以數十騎遁走。明軍獲其子地保奴等六十四人，故太子必里禿妃等五十九人，吳王朵兒只等兩千九百九十四人。車士男女七萬七千三十七口，得寶璽圖書金印及駝馬牛羊車輛無數。明軍大勝而還。次年，脫古斯帖木兒被也速帖木兒所殺，坤帖木兒被立為元主，從此元室「部屬奔散，元裔日微」，不能復振。
朱棣正式登上軍事舞台一顯身手，是在洪武二十三年。朱元璋為肅清沙漠，準備再次進行北征。為此他做了充分的準備。
洪武二十二年九月二十六，他命令河南都指揮使司和直隸各衛所加緊訓練軍士，以待征討之令，並賞給每個軍士鈔三錠。十二月初十，又命令定遠侯王弼往山西、雄武侯周武往河南、全寧侯孫恪往陝西，分別訓練兵馬，隨時聽征漠北；遣使命遼東都指揮使胡旻、朱勝訓練精銳馬步官軍各一萬人隨時聽候調遣。二十二日，他又派儀禮司丞古里哥、舍人火兒忽答孫等到塞外尋訪他要打擊的主要對象——故元丞相咬住、太尉乃兒不花等人的蹤跡。為了保證遠征有充足的馬匹，在二十三年正月又下令製作一批文綺衣衾往漠北交換馬匹。
在一切準備就緒後，朱元璋就下達了北征的命令。
這次北征的統帥是燕王朱棣和晉王朱棡。他們分別統帥北平和山西的兵馬。潁國公傅友德被任命為征虜前將軍，南雄侯趙庸被任命為左副將軍，懷遠侯曹興被任命為右副將軍，定遠侯王弼為左參將，全寧侯孫恪為右參將，諸將軍除王弼已在山西，聽晉王節制外，其餘均處北平訓練軍馬聽燕王節制。接著朱元璋又命令長興侯耿炳文往陝西訓練軍馬，並派使敕令孫恪率耿炳文所操練的兵馬隨傅友德北征，又遣使命齊王朱榑率領山東都司兗州護衛及徐邳二衛精銳馬步軍士隨征，也聽燕王節制。在晉王麾下，又令河南都指揮使司、中都留守司選拔軍士六千二百人，馬四千四百七十匹從雄武侯周武北征，前往山西。
當時地處北方重鎮的親王惟秦、晉、燕三王年齡最長，從這北征的部署看，燕王無疑處於最重要的地位。不僅燕王所節制的兵馬眾多，而且從敵對雙方的地理位置上看，燕王也是首當其衝的。晉王處於側面，而年最長的秦王竟然無預其事。如果現在史籍所留給我們的這種記載不是經過史官有意刪削的話，那麼可以看出朱元璋對朱棣