行政區劃的第二個地理要素是邊界。邊界的概念也是隨著行政區劃的產生而出現的。西周的分封，所建立的是據點式的城邦國家。星羅棋布的封國呈點狀分布，各國之間存在大塊無主的土地和田野，並無明確的邊界。這種情況即使在中原地帶也不例外。例如，鄭國在東西周之際遷到今天鄭州附近，還是「斬之蓬蒿藜藿而共處之」(《左傳·昭公十六年》)。鄭的東鄰是商代後裔的封國——宋，宋鄭之間直到春秋末期，還有隙地六邑，兩國都未曾佔有，這時距兩國初封已有整整600年之久了。
春秋中期(公元前627年)，秦國派遣大軍攻打鄭國，中途經過晉、周(周天子直屬區)二國，如入無人之境。不但晉、周不加干涉，鄭國也沒有得到一點信息。直到臨近鄭國邊境，才被商人弦高發現，弦高急中生智，趕忙以犒軍的名義穩住秦軍，並派人回國通知，作好戰備，才避免了遭到突然襲擊的厄運。這個故事今天讀來，令人感到奇怪，但在當時，列國之間存在大量隙地卻是很正常的現象。
本來在氏族社會裡，只有部落居住地人口較為集中，在居住地周圍先是一片廣大的狩獵地帶，其次是把這個部落同其他部落隔離開來的防護林帶。這種隔離地帶在後代仍有其殘留的形式，商代都邑之外的郊、牧、野就是各種分帶的名稱。《尚書·牧誓》說：「王朝至於商郊牧野。」這裡的商就是指商的都邑，邑外是郊，郊外是牧，牧外是野，周代列國內部也有類似的情形，國外是郊，郊外是野，郊就是國與野的接觸帶。根據居住地的不同，而有國人和野人的區別。直到地緣關係確立起來，國野的界限泯滅，也就轉入郡與郡、縣與縣的邊界，這時隔離帶就漸漸消失了，但現在稱城外為郊外、野外依然是沿襲舊稱呼而來。
在秦漢時期，匈奴與秦漢之間也有空地，稱為「甌脫」。周代的隙地和秦漢的甌脫對雙方政權來講就是邊區，就是緩衝地帶。春秋以後，在經濟逐漸發展，邊區日益開發，人口不斷增多的情況下，雙方敵對傾向加強，以至出現戰爭，爭奪隙地。在戰爭中，各國的攻防還只著重在險要的關隘，並無派兵戍邊之舉，甚至連關隘也只是戰時才有人駐守，平時棄之不理。春秋後期，戰爭越來越頻繁，規模越來越大，漸漸才有陳兵守境之勢。《春秋·公羊傳》記載昭公元年(公元前541年)時候，「叔弓帥師疆鄆田。疆田者何？與莒為境也。」爭界的事也出現了。《史記·楚世家》就記載了吳邊邑卑梁與楚邊邑鍾離小童爭桑而引起兩國大動干戈的事。
戰國時期，邊境概念已完全形成，城邦國家已轉化為領土國家。蘇秦對齊宣王說：「且夫韓、魏之所以重畏秦者，為與秦接境壤界也……韓魏戰而勝秦，則兵半折，四境不守。」(《史記·蘇秦列傳》)《史記·河渠書》說齊趙之間「以大河為境」。當時，各國之間攻城略地，目的就是擴大自己的疆域，邊界概念自然十分明確。
與列國之間邊界概念形成同步，郡、縣之間也一樣有邊界產生。郡既建在邊地，與他國相接，則分段來看，國界也包含著郡界，更小的分段就是縣界。如上引吳楚兩國邊界就是在吳邊邑卑梁和楚邊邑鍾離之間。在列國內部，由於生產日進，土地日辟，城邑與城邑之間的空地也隨之消失，郡與郡之間，縣與縣之間也有了明確的邊界。例如秦孝公時商鞅變法，集小鄉聚為縣，這些小鄉聚的數量、位置都是明確的，其外圍界限也就自然確定了。這是戰國時候的事。比秦國先進的晉國，還在春秋後期就已有明確劃縣之舉了。《左傳》昭公二十八年(公元前514年)載：「秋，分祁氏之田以為七縣，分羊舌氏之田以為三縣。」失勢貴族之領地被分為明確的縣，其邊界也就躍然紙上了。
邊界的概念越到後來越是明確。到漢代，連田疇阡陌都要畫到地圖上，以作為劃界的依據。鑿壁偷光故事的主角，鼎鼎大名的匡衡就被封在僮縣(今安徽泗縣東北)安樂鄉。在那裡，起先有一條邊界錯劃在閩陌，結果他多收了租谷，被人告發，後來再依地圖作了糾正。當然像這種情況是發生在人口密集，生產發達的地區。如果是在未開發地區，郡、縣的邊界還是不那麼清楚的。例如，在兩漢時期，整個福建地區只在閩江口設立過一個冶縣(即今福州市的前身)，這個縣在西漢時離最近的鄰縣少說也在500公里以上，顯然它和鄰縣之間是不會有明確的邊界的。
但是從總的方面來說，應該說隨著郡縣制的萌芽，邊界概念就逐漸產生了，而且到了戰國時期，邊界概念已經十分明確。這時就產生了如何劃界的問題。在七國爭雄的時候，這個問題還不突出，因為戰爭頻繁，國界經常變動，疆域時伸時縮，通常國與國之間，郡縣與郡縣之間，就直觀地以山川為界。而且當時郡縣制正在形成，也來不及設計完善的劃界原則，待到秦始皇統一全國的時候，如何劃定行政區域界線的問題就提到議事日程上來了。
政區本來就是為著中央集權制國家行政管理的需要而設置，其劃界當然要以對集權統治有利為原則，但在另一方面，農業經濟的發展又是維持封建政權的基礎，政區邊界的劃定也要注意使政區與地理環境相一致。在這兩種思想指導下，就出現了犬牙相入和山川形便兩條相互對立的劃界原則。
在中國歷史上，這兩條原則是同時並用的，但越到後來，犬牙相入的原則越佔上風，這一點反映了中央對地方控制愈來愈緊，中央集權程度愈來愈加強的客觀事實。