秦時明月漢時關，萬里長徵人未還。
但使龍城飛將在，不教胡馬渡陰山。
——〔唐〕王昌齡《出塞》
在眾多的邊塞詩篇中，秦朝與西漢的歷史被描繪成了激烈征戰的歷史，迷漫著血雨腥風。而稍具歷史常識的讀者都會知曉，秦朝與西漢時期最大的外來威脅就是塞北的匈奴族人。
《史記·匈奴列傳》是關於匈奴民族歷史最早的漢文文獻之一，該《列傳》載稱：「匈奴，其先祖夏後氏之苗裔也，曰淳維。唐、虞以上有山戎、獫狁、葷粥，居於北蠻，隨畜牧而轉移。」匈奴人自認為夏後氏（即夏王族）的後裔，在血緣上與華夏族並無大異。然而，從現有文獻資料分析，就其生產方式及風俗習慣而言，匈奴作為典型的北方游牧民族，與農耕民族華夏（漢）族之間可謂相差懸殊。《史記·匈奴列傳》有關其生產生活特徵的記載有：
……居於北蠻，隨畜牧而轉移……逐水草遷徙，毋城郭常處耕田之業，然亦各有分地。毋文書，以言語為約束……其俗，寬則隨畜，因射獵禽獸為生業，急則人習戰攻以侵伐，其天性也……
古代羅馬史學家也在他們的著作里留下關於匈（奴）人生活狀況的描述，與中國古代文獻的記述極為接近：
匈人的兇猛與野蠻是難以想像的，他們劃破他們的孩子們的面頰，使他們以後長不出鬍子，他們像野獸般地生活，食生食，不調味，吃樹根和放在他們馬鞍下壓碎的嫩肉……常年游牧。他們從小習慣了忍受寒冷、飢餓和乾渴……他們在馬背上度過一生，甚至躺在馬脖子上睡覺。在戰鬥中，他們撲向敵人，發出可怕的吶喊聲。當他們受到阻擋時，他們分散，又以同樣的速度返回，砸碎和推翻沿路所見的一切。他們不知道如何攻下一個要塞和一個周圍挖有壕溝的營帳。但是，他們的射箭技術是無與倫比的，他們能從驚人的距離躺出他們的箭，其箭頭上裝有像鐵一樣硬的可以殺死人的骨頭。
從先秦時代開始，匈奴民族與華夏漢族國家逐漸明確劃分了各自的地盤。當時與匈奴分布區接界的有三個國家，即秦、趙、燕，為了抗禦匈奴的侵襲，秦、趙、燕三國都大規模地修建邊界防禦工事，這也就是北邊長城的前身。如秦國修建長城起於秦昭王時（公元前306年——前251年在位），在攻滅義渠國之後。「於是秦有隴西（治今甘肅臨洮縣）、北地（治今甘肅寧縣西北）、上郡（治今陝西榆林市東南），築長城以拒胡。」趙國於趙武靈王在位後實行胡服騎射，在國力充實後，大舉北伐，同時築長城以守。「而趙武靈王亦變俗胡服，習騎射，北破林胡、樓煩，築長城，自代並陰山下，至高闕為塞。而置雲中（治今內蒙古托克托縣東北）、雁門（治今山西右玉縣南）、代郡（治今河北蔚縣東北代王城）。」秦統一六國後，不僅派遣大軍出擊匈奴，讓匈奴勢力遭受重創，還強征各地百姓，連接原來各國長城，築成萬里長城，從此，這條萬里長城就成為匈奴族活動區與漢族中原王朝轄區的分界線。
秦漢之際，一位傑出領袖的出現，揭開了匈奴民族歷史的新篇章。這位傑出領袖就是冒頓。當冒頓即位初期，匈奴人面臨嚴峻的生存威脅。「當是之時，東胡強而月氏盛」匈奴部族面對著東面的「東胡」部族與西面的「月氏」國的兩面夾擊。冒頓因此卧薪嘗膽，忍辱負重，逐漸積蓄力量，最終一舉摧毀了東胡王勢力，然後又大舉向西攻擊月氏國，逼使其向更遙遠的西北地區遷徙，國勢大盛，「控弦之士（即男性軍人）三十餘萬」。冒頓在後來給漢孝文帝的書信中回顧了這段光輝的創業史：「以天之福，吏卒良，馬強力，以夷滅月氏，盡斬殺降下之。定樓蘭、烏孫、呼揭及其旁二十六國，皆以為匈奴。諸引弓之民，併為一家。」至此，強大的匈奴族聯盟宣告建立。
匈奴聯盟控制區域包括大量附庸小國，範圍是相當遼闊的，其中，最核心的部分還是匈奴族群所控制地域範圍。其分布的大致範圍是：
諸左方王將居東方，直上谷以往者，東接穢貉、朝鮮；右方王將居西方，直上郡以西，接月氏、氐、羌；而單于之庭直代、雲中；各有分地，逐水草移徙。
這片區域在長城以北，東起上谷，西至氐羌聚居區，這也就是日後文獻中經常出現的所謂「匈奴故地」的所在。
塞外匈奴民族的強大，對於漢族中原王朝的統治者來講，當然不是一個好消息。西漢初年，國力衰弱，無力北顧，漢高祖、漢文帝等只得被迫採取屈辱的「和親」政策，即將宗室公主許配單于作妻（即閼氏），並贈送豐厚的財物，以緩和匈奴人頻繁而兇猛的南侵活動。雙方約定：
先帝制：長城以北，引弓之國，受命單于；長城以內，冠帶之室，朕亦制之。使萬民耕織射獵衣食，父子無離，臣主相安，俱無暴逆。
匈奴與漢朝之間這樣的新約定，構建了中國歷史政治地理與民族地理上「南北相抗」的大格局，也從法規角度上確立了長城作為南北政權與民族區分界線的重要地位。當然，在實際上，這種約定並無法完全制約匈奴騎兵的南下殺掠。因此，在西漢文帝與景帝在位期間，為抵禦匈奴人的南下侵襲，在堅持「和親」政策的同時，在西北邊境地區駐守重兵，嚴陣以待，不敢絲毫鬆懈。
漢朝為緩和漢匈關係而實施「和親」政策，付出了相當高昂的代價，我們可以從單于提出的和親條件中略窺一斑：
南有大漢，北有強胡。胡者，天之驕子也，不為小禮以自煩。今欲與漢闓（開啟）大關，取（同娶）漢女為妻，歲給遺我糵酒萬石，稷米五千斛，雜繒萬匹，它如故約，則邊不相盜矣。
必須看到，蒙古高原惡劣的自然環境與游牧社會落後的生產力水平，造成匈奴部族各種生活與生產物資極度匱乏，這也是匈奴部落頻頻南侵的一個極為重要的客觀因素。漢朝長期實行「和親」政策，屢屢派遣宗室公主北上，並通關市，厚賞賜，在一定程度改善了蒙古高原物資嚴重匱乏的狀況，取得了相當顯著的效果。這種措施不僅讓匈奴人體會到在和平狀況下改善物質生活的現實可能性，同時也在匈奴貴族階層中培養了一批親漢人士，「匈奴自單于以下皆親漢，往來長城下」，這對於漢匈關係的改善起到了不可忽視的作用。
在漢武帝即位後，漢朝國力已顯強盛，積極反擊匈奴人的侵襲。其中著名將領衛青、霍去病多次統率漢朝軍隊大舉北上，甚至深入大漠，登臨瀚海，給予匈奴部落以沉重的打擊，極大地鼓舞了漢朝軍民的士氣。但是，實力尚存的匈奴單于也不示弱，向漢朝邊境地區發動了更為頻繁的侵襲。激烈的征戰使漢匈雙方都付出了沉重的代價。「漢兩將軍大出圍單于，所殺虜八九萬，而漢士卒物故（即死亡）亦數萬，漢馬死者十餘萬。」
殘酷的現實讓更多的匈奴族首領體會到「和親」政策的可貴，促使他們更多地向漢朝靠攏。「前此（漢武帝統治後期）者，漢兵深入窮追二十餘年，匈奴孕重墯殰，疲極苦之，自單于以下常有欲和親計。」漢朝宣帝與元帝在位期間，漢匈關係發生了重要變化。匈奴聯盟內部發生內訌，五個單于爭立，其中呼韓邪單于毅然於甘露二年（公元前52年）南下附塞，入朝漢朝皇帝，受到漢朝的隆重款待。以後，呼韓邪單于又多次入朝，漢元帝在厚賞之餘，還應單于之請，選取王嬙（音牆）賜配單于。這個王嬙就是青史留名的王昭君。
古代社會素有重視血緣宗親的傳統，「和親」政策的一個核心內容就是建立了劉氏皇室與匈奴單于家族之間的姻親關係，即將劉氏宗親及其他漢族女子許配給單于為妻。這些漢族婦女遠離故土與親人，忍受著水土不服的痛楚，做出了巨大的犧牲，她們為改善漢匈關係所做出的艱苦努力是值得後世人紀念的，她們之中的傑出代表便是王昭君。呼韓邪單于的親漢之舉在漢匈關係史產生了深遠的影響，成為後來親漢派匈奴首領的榜樣。
東漢初立之時，中原混戰，群龍無首，無暇北顧，塞外的匈奴乘機發動了相當猛烈的攻勢，邊塞地區損失慘重。但時至光武二十四年（公元48年），由於內部紛爭，匈奴分為南、北兩大部，故又稱為「北匈奴」與「南匈奴」，匈奴大聯盟從此宣告分裂。邊塞形勢發生了戲劇性的變化。南邊八部匈奴族眾擁立首領比為呼韓邪單于（呼韓邪單于為名號，此為第二個呼韓邪單于）。這個呼韓邪單于是西漢末年呼韓邪單于之孫，嚮往祖父朝漢和親的故事，與東漢關係十分親近，主動要求歸款東漢的五原塞，拉開了漢匈關係的新篇章，也由此引發了匈奴族眾大規模的內遷運動。
對於這樣一個變化，以劉秀為首的東漢朝廷真是喜出望外。東漢官府不僅允許南單于入居雲中地區，而且特別設置匈奴中郎將之職，其責任就是率領東漢官軍護衛入居的匈奴部眾。這也是南匈奴部眾第一次大規模向長城以南地區遷徙。其遷徙的規模與穩定性都是前所未有的。關於內遷匈奴人的分布狀況，《後漢書·南匈奴列傳》載云：
（東漢朝廷）使韓氏骨都侯屯北地（治