元代晚期，政治腐敗，社會混亂，階級壓迫與民族矛盾也日益加深，以朱元璋為首的農民起義軍終於佔領集慶路治(今南京市)，並作為根據地，然後派兵北伐，最後取得全國政權。
朱元璋在取得集慶路後，當時尚未稱帝，即改集慶為應天府，稱帝後的洪武元年(公元1368年)，朱元璋以應天府作為南京，第二年又開始興建新城，這是今天南京市得名的由來。到洪武十一年(公元1378年)才改稱京師。這是因為原來打算以北宋時的東京作為明的北京，後又放棄這一計畫，所以南京又用京師稱號。
朱元璋死後，因為太子早亡，便傳位給孫子朱允炆〔wen文〕，即建文帝，引起朱元璋第四子即坐鎮北平(即元大都改名)的燕王朱棣的不滿，借口「清君側」派兵南下，攻入南京，奪取了政權。朱棣就是歷史上所稱的明成祖，也稱永樂帝。他的根據地在北方，所以即位以後仍然回到北平，把北平改為北京，北平府改為順天府。以後北京名稱一直延續下來，僅在民國時期一度改稱北平，但群眾習慣上仍稱北京。
明成祖雖然遷都北京，但又不好一下子改變他父親建都南京的旨意，所以仍稱北京為「行在」。行在又稱為「行在所」，是指古代皇帝外出臨時所駐的地方，早在漢代就有這一名稱，後來常常被沿用。如南宋迫於北方力量的南侵，將首都由汴梁(開封)遷到臨安(杭州)，即常稱臨安為行在，就是不忘舊都而以臨安為暫時性的行都的意思。明代直到第六個皇帝明英宗正統六年(公元1441年)才罷行在稱號，改稱為京師，南京應天府的地位不變，與北京順天府合稱為兩京。
明代北京與大都的城垣也略有不同。一則北城牆南移約五里，由於受積水潭附近的地形影響，城的西北角成為斜角形而不是直角，永樂遷都，為規劃設計宮城與皇城的需要，南城牆也隨之南移約二里，形成明清北京城的內城，建有城門九座；二則明代為加強京師的防衛，又在嘉靖年間，開始修築環繞內城四周的外城，由於財政困難，僅修了南側的一面，這就是後來所稱的外城。為方便城市管理，內外城劃分為東、西、南、北、中五城，其中外城即為南城。外城建有城門七個，其名稱除廣寧門改廣安門外，至今都在沿用。
為了保衛京師安全，鞏固北部地區的防務，明王朝在北部也花了很多年的時間，建築了西起嘉峪關、東到山海關的綿延不斷的長城。明代長城，至今還有很大部分存在，有的也有舊跡可尋，一部分還是今天的旅遊勝地，引起中外遊人的極大興趣。明代長城，比秦代的長城短，在山西從黃河以東到今北京市區北部又分為內外兩條。為了保證明朝皇室的安全，在長城沿線的要衝地方都派重兵駐守，其中最著名的有居庸、紫荊(易縣西)、倒馬(今滿城縣西)、雁門(今代縣北)、寧武(今寧武縣北)、偏頭(今偏關縣)等關比較重要，前三者稱為內三關，後三者稱為外三關。還應一提的，山海關外明朝還建有很長一段長城，不過比較簡陋，維持時期較短，起自山海關北，沿遼西走廊西側東北行，到今阜新市東南，即改為東南行，直到今海城市西北的牛庄北又改向沿遼河東岸東北行，到今昌圖縣北又改向南行，直達鴨綠江北岸，通常稱為邊牆。邊牆以外原來向北直到今黑龍江入海口以北都是明的轄境，由於永樂帝南下爭奪政權，把控制三衛(朵顏、福余、泰寧)的寧王遷往內地，放鬆了對這一地區的管理。
明王朝不僅在北部修築長城，並且在沿線及附近設置了九個軍事重鎮，加強防禦，各設巡撫以分巡各地安撫軍民，並提督其他軍務。《明史·兵志》說：「東起鴨綠，西抵嘉峪，綿亘萬里，分地守御，初設遼東、宣府、大同、延綏四鎮，繼設寧夏、甘肅、薊州三鎮，而太原總兵治偏頭，三邊制府駐固原，是為九邊。」可見這九個邊防區的中心皆叫鎮，其中駐偏頭(即今偏關)的太原總兵有時駐於寧武所(今寧武縣)，所以這裡也就成為山西鎮的所在地。固原州即今寧夏的固原縣，它可以向北支援寧夏鎮(今銀川)，西北可以支援甘肅鎮(今張掖市)，東北可以支援延綏鎮(今榆林市)，當時為陝西鎮的所在地。北為宣府鎮在今宣化，大同鎮在今大同市，薊州鎮在今遷西縣西北三屯營，遼東鎮則遷移次數較多，有遼陽、廣寧(今遼寧北鎮縣)、山海關、寧遠(今遼寧興城市)等處，撤銷也比較早。明代不僅在九邊設置了巡撫，後又加設了三個總督，即薊遼總督、宣大總督與陝西三邊總督，但政治腐敗，冗員過多，即使是銅牆鐵壁，又有何用，在明王朝覆滅之前，後金(後改為清)兵鋒已經深入內地。