朕以恆代無漕運之路，故京邑民貧。
今移都伊洛（即洛陽），欲通運四方……
——〔北魏〕孝文帝元宏之語
遷都洛陽，是北魏政治發展史上一件重大事件，也引發了北魏歷史上一場規模最為宏大、影響最為深遠的遷徙運動。然而，關於這場遷徙運動與北魏國運興衰之間的關係，可謂千秋功罪，眾說紛紜。然而，如果細細梳理與研讀北魏前期的發展歷程，則不難看出，北魏有關遷都的討論與行動其實很早就開始了。
根據各種史料分析，自建都伊始，以道武帝拓跋珪為首的北魏統治者對代都平城並不十分滿意：一則平城久為漢人拋荒之域，早期的鮮卑人又不擅長於城市建設，要使其成為粗具規模的都城需要付出相當艱苦的努力；二則與河北平原上的數朝古都——鄴城（今河北臨漳縣西南）相比，平城的劣勢則更為突出。鄴城是拓跋鮮卑較早攻佔的中原都會，拓跋珪曾有意在此建都。「帝至鄴，巡登台榭，遍覽宮城，將有定都之意。」雖然經過深思熟慮，拓跋珪改變了主意，定都平城，但是，北魏君臣並未完全放棄建都於鄴的願望。
明元帝拓跋嗣神瑞二年（415年），代都京畿地區大旱，發生了嚴重饑荒。太史令王亮、蘇坦與華陰公主等人根據讖書所言，力勸明元帝遷都於鄴城，以解決平城地區百姓飢旱問題，這一建議遭到大臣崔浩、周澹二人的強烈反對，他們共同提出幾條反駁意見：拓跋鮮卑所控制的「國家」之民與「東州之人（即太行山以東地區）」相比，在數量上有著較大的差距，如果分散進入「東州之地」，既不足以形成強有力的威懾力量，還打破了「東州之民」對拓跋鮮卑的恐懼心理，對維護統治極為不利，此其一；拓跋鮮卑部眾原來習慣於游牧狩獵，長期生活在塞上草原，進入河北地區後難免水土不服，導致疾疫流行，這必然削弱北魏政權的基礎，此其二；遷都於鄴，必將造成一段時間的混亂以及平城塞上的空虛，北方的柔然與西面的赫連勃勃等勢力就會趁火打劫，鄴城與平城之間有恆代天險阻隔，難以及時救援，自然會給北魏造成重大損失，此其三。
崔浩等人的上奏精闢地道出了北魏當時不能遷都於鄴城的關鍵理由，同時也道出了拓跋鮮卑定都於平城，更多的是出於政治、軍事戰略方面的考慮，而不是經濟、文化發展方面的原因。但是這也暴露出定都平城的先天不足，即京畿地區的自然環境不利於農業生產，百姓糧食素無儲備，再加上與南部農業發達地區交通不暢，輸入糧食相當困難，造成這一地區對人口的供養能力相當脆弱。一旦京畿地區遭遇較嚴重的自然災害，百姓饑饉問題就無法解決。因此明元帝雖然打消了遷鄴的念頭，卻感到對付不了持續的饑荒，於是分遣代都平民前往山東三州（指太行山以東地區）就食。這三州分別是就食地點為冀州（治信都縣，即今河北冀州市）、定州（治盧奴縣，即今河北定州市）、相州（治鄴縣，即今河北臨漳縣西南）。如果官府日後不強迫這些平民返回平城，那麼，這也就構成了一次事實上的代都人口外遷。
孝文帝拓跋宏即位後，代都及周邊地區水旱災害與百姓流徙的情況更加嚴重。如果說短時間的災荒還可以勉強應付的話，那麼長時間、大面積的饑饉就會迫使統治者作出較大的更張。如孝文帝明確指出：「今代在恆山之北，為九州之外，以是之故，遷於中原。」他還語重心長地向大臣許諾：「朕以恆代無運漕之路，故京邑民貧。今移都伊洛（即洛陽），欲通運四方……」在當時的生產力水平下，代都平城地區客觀自然條件是難以改變的，其所造成的交通困難也是很難克服的。因此，擺脫這些困難，遷都是唯一的明智選擇。
當然，一些研究者著重將遷都洛陽與漢化聯繫起來，甚至視為促使遷都的最重要原因。理應強調，北魏孝文帝具有極高的漢文化修養，是拓跋鮮卑上百年積極學習漢族文化風尚的傑出代表。他傾心於漢化，雄才大略，有意一統天下，因此，他對代都平城（今山西大同）的地理位置深感不滿。他曾對任城王拓跋澄剖露心機說：「……國家（即北魏）興自北土，徙居平城，雖富有四海，文軌未一，此間用武之地，非可文治，移風易俗，信為甚難。」此外，他還著重強調平城偏僻的地理位置對拓跋鮮卑文化發展的負面影響：
北人每言北人何用知書，朕聞此，深用憮然。今知書者甚眾，豈皆聖人？……朕為天子，何假中原，欲令卿等子孫，博見多知。若永居恆北，值不好文主，卿等子孫，不免面牆也。
太和十一年（487年），以代都為中心的大片地區發生了前所未有的亢旱，造成當地無法緩解的糧食短缺。作為重要的應急措施，一次大規模的、官府允準的代都人口的遷出發生了。
（太和）十一年，大旱，京都民飢，加以牛疫，公私闕乏，時有以馬驢及橐駝供駕挽耕載。詔聽民就豐，行者十五六，道路給糧稟，至所在，三長贍養之。遣使者時省察焉。留業者，皆令主司審核，開倉賑貸。其有特不自存者，悉檢集，為粥於術衢，以救其困。然主者不明牧察，郊甸間甚多餧死者。
據《魏書·食貨志》記載，太和十一年，代都出外就食的人口達到總人口的「十之五六」，即超過總數的一半。與神瑞年間較為單純的出外就食不同，這次代都人口遷出帶有明確的移民性質，我們可以想像在代都人口大半外遷後的凋零景象，然而太和十一年之後，平城地區飢旱頻繁發生的狀況並沒有根本性的改觀。雄心勃勃的孝文帝當然不會讓這種尷尬的狀況永久持續下去。這場代都人口的外遷，應該被視為遷都洛陽的前奏曲或關鍵契機。
孝文帝決心南遷，但是他也預料到可能遇到的阻力。大批生活在平城的拓跋鮮卑王公大臣家業龐大，子孫蕃息，早已適應了塞北的生活環境，而南遷就意味著放棄這一切，到新都城重新開始。這談何容易！安土重遷的鄉土心態以及傾家蕩產的現實困難，都會促使他們起來反對遷都。為此，孝文帝必須採取非常策略，來完成遷都大業。
太和十七年（493年）六月，在「經營宇宙，一同區域」的旗號下，孝文帝決心大舉南伐。八月，從代都起程，御駕親征。陣容十分龐大，「步騎百餘萬」。九月，北魏大軍抵達名都洛陽。這次南征事出突然，無故興師動眾，當朝文武大臣都深感不解，而孝文帝卻沒有絲毫猶豫。當孝文帝從洛陽揚鞭策馬，準備繼續南下時，群臣再也忍耐不住了，一齊圍在孝文帝馬前，稽顙哀求，請停南伐。名臣李沖甚至當面指出：「今日之舉，天下所不願，唯陛下欲之！」孝文帝勃然大怒，斥責儒生誤事，執意南征。其他王公大臣紛紛進諫，涕淚交橫。這時，孝文帝才和盤托出妥協方案：「今者興動不小，動而無成，何以示後？」「若不南鑾，即當移都於此，光宅中土，機亦時矣，王公等以為何如？」眾大臣萬萬沒有想到孝文帝提出如此苛刻的折衷方案，不禁驚呆了，出現了十分尷尬的僵持局面。還是剛被削去爵位的前南安王拓跋楨靈機一動，感到這是一個討好皇上的良機，當即倡言道：「行至德者不議於俗，成大功者不謀於眾，非常之人乃能建非常之事。」「請上安聖躬，下慰民望，光宅中原，輟彼南伐。」與一場必然失敗的征戰與犧牲相比，遷都洛陽畢竟沒有身家性命之憂。兩害相權取其輕，再三權衡之餘，群臣被迫同意遷都之計。太和十九年（495年）七月，孝文帝下詔：「遷洛之民，死葬河南，不得北還。於是代人南遷者，悉為河南洛陽人。」至九月，「六宮及文武盡遷洛陽。」
南遷洛陽對於代都居民而言，確實是一次非常艱難的考驗。也許孝文帝一統天下的願望過於強烈了，太和十八年（494年），就在遷都洛陽後不久，南齊政權宗室內訌，邊將投降北魏，孝文帝又想乘機率師南征。拓跋澄等人上言表示反對，其中就提到代遷之眾的艱辛：
今代遷之眾，人懷戀本，細累相攜，始就洛邑，居無一椽之室，家闕儋石之糧，而使怨苦即戎，泣當白刃，恐非歌舞之師也……
無論如何，遷都洛陽之舉還是較為順利地實施了。遷都之前，洛陽屢經戰亂，殘毀不堪。從太和十七年十月開始，李沖、董爵等人奉命重新營建洛陽。到太和十九年（495年）九月，「六宮及文武盡遷洛陽」。遷都洛陽的工作宣告基本完成。
關於這次遷都洛陽的規模，史料中並沒有明確的記載。我們只有根據相關數字進行大致估算。如東魏天平元年（534年）遷都鄴城時，洛陽號稱有「四十萬戶」。而這一數字出現在爾朱氏家族製造的大屠殺與大動蕩之後，總口數應在150萬左右。除卻按7‰計算的人口自然增長，那麼在太和二十年左右，洛陽所有人口應超過一百萬。如果再除去遷都前洛陽的少數人口，南遷人口規模應有近百萬之多。
不過，孝文帝為遷都洛陽還是付出了相當辛酸的代價。當時，反對遷都的權貴不在少數，而反對派的代表人物竟是太子拓跋恂。拓跋恂雖為孝文帝的長子，但並不喜歡讀書，再加上體貌肥碩，非常