西周末年，周幽王荒淫無道，又廢申後而立褒姒為後，引起了申後之父申侯等人的不滿。公元前771年，申侯引犬戎攻殺幽王於驪山腳下，西周至此而亡。太子繼位後為平王，在晉、秦、鄭、衛等諸侯的護送下，於公元前770年東遷洛邑（今河南洛陽），歷史進入了東周時期。東周又分為春秋、戰國前後兩個階段。現在一般將自周平王東遷（公元前770年）到周敬王末年（公元前476年）一共二百九十五年的時間，稱為春秋時期；而把從周元王元年（公元前475年）到秦始皇二十六年（公元前221年）統一六國一共二百五十五年的時間，稱為戰國時期。
春秋時期，隨著生產力的不斷發展，國人與野人的身份地位的差別逐漸消失，國與野之間存在的對立，也變得越來越不明顯了。與此同時，一種新型的制度正在萌發，並對加強國君地方統治漸漸起到一種積極的作用，這便是郡縣制。它的出現標誌著行政區劃的正式產生。
翻開記載春秋時期歷史的典籍《春秋》與《左傳》，我們就會發現在當時的許多國家中都有了設縣的記錄。
例如當時的北方大國晉國，不時將一些縣賞賜給大臣。《左傳》上便有這樣的記載。公元前627年，位於今陝北一帶的部族白狄，渡過黃河入侵晉國，晉國於是派兵抵抗，結果在箕（今山西太谷東南）地大敗白狄，由大臣胥臣舉薦的大將郤缺將白狄的首領白狄子俘獲，晉襄公為了表彰胥臣的慧眼識人，便以「先茅之縣」賞給了他。又如，公元前594年，晉國的荀林父率兵滅掉了位於今山西潞城東北的赤狄潞氏，為晉立了一大功。而在此前三年，也是這位荀林父，因兵敗於楚，差點被晉景公殺死，當時多虧士貞子的勸說，才保住性命和官位，並使他有機會成就了三年後的功績。晉景公有念於士貞子當時對荀林父的保奏，於是把「瓜衍之縣」賜給了士貞子。
再如當時的南方大國楚國，曾先後將陳、蔡、鄧、弦、黃、夔、江、六、蓼、庸等小國滅掉後，就地置縣，而且派官員去那裡擔任縣的長官。因此，楚滅國為縣在當時是很有名的事情。最早明確見於文獻記載中的楚國設置的縣是權縣。楚武王時（公元前740至前690年），楚國滅掉子姓小國權（位於今湖北省荊門縣東南），並將其改建為縣，命令楚國大夫斗緡來管理縣內的有關事務。這也是春秋時期第一個設縣的實例。
但是，上述故事中的這些「縣」與我們後世所說的郡縣制中的縣含義頗為不同。主要原因是：像上面提到的晉國縣的一些例子，這些縣是國君用來賞賜給大臣的，不是國君的直屬地，而是帶有明顯的采邑色彩；至於楚國的那些縣，雖然已有了國君直屬地的性質，並且縣的長官也不是採用了世襲的制度，從這些方面看上去，似乎已具備了地方行政制度的特徵，但是，由於這些縣內部的基層組織並未經過重新改造，縣的幅員也沒有經過有意識的劃定，因此，這些縣還不能稱為郡縣制中的縣。
要能稱得上是郡縣之縣，至少要符合以下四個方面的標準：一是完全的國君直屬地；二是縣的長官不世襲，而是由國君任命，並可撤換；三是縣的範圍一般要經過人為的劃定，而不全憑自然地形來定；四是在縣以下還有更為基層的組織。
真正標誌著郡縣之縣出現的事件，是在公元前514年的晉國發生的。在這一年，晉國的異姓大夫之間發生了一次兼并行動，韓、趙、魏、知、范、中行氏等六家大夫，聯手滅掉了祁氏與羊舌氏兩家，然後，將祁氏之田分為七縣，把羊舌氏之田分成三縣，任命十個人為縣大夫，他們分別是擔任鄔縣（今山西介休東北）大夫的司馬彌牟、祁（山西祁縣東南）大夫賈辛、平陵（山西文水東北）大夫司馬烏、梗陽（今山西清徐縣）大夫魏戊、塗水（山西榆次市西南）大夫知徐吾、馬首（今山西壽陽東南）大夫韓固、盂（山西陽曲東北）大夫孟丙、銅鞮（今山西沁縣南）大夫樂霄、平陽（今山西臨汾西南）大夫趙朝、楊氏（今山西洪洞東南）大夫僚安。
這十個人之所以會成為縣大夫，有的是因為所取得的功績對王室有益，有的是因為本人是世族子弟，還有的是因為賢明而被推舉。那麼，這十個縣與我們前面所提到的縣不同之處又在哪裡呢？換言之，為什麼這十個縣能稱為郡縣之縣呢？史書中為我們記載了與之相關的幾個故事細節，恰好可以作為解答這個問題的實例。
在上述事件發生時，晉國當政的是魏獻子，上面所提到的梗陽大夫魏戊就是他的庶子，當魏戊成為縣大夫時，魏獻子很擔心別人說閑話，於是他便向另一位晉國的大夫成鱄說：「我讓魏戊擔任了縣大夫，人們會不會以為我在結黨，藉機搞自己的勢力？」成鱄聽後，回答說：「怎麼會呢！魏戊這個人，對國君和他周圍的人都很好，居利思義，能夠保持禮義，而不違反，即使你現在讓他當了縣大夫，不也是完全可以嗎！」隨後他還引用周武王克商後封同姓為諸侯王之事，進一歩講，只要一個人有文德，你就可以任用他，而無需擔心他是否與你有親屬關係。魏獻子聽完這番話後，心裡才踏實了許多。
再有，賈辛被任命為祁縣大夫以後，將要走馬上任。臨行之前，他去見魏獻子。魏獻子見到他後，先講了一個故事：昔日晉國大夫叔向到鄭國時，不以相貌取人，而對一位長得很醜的叫鬷蔑的才子很賞識，兩人一見如故。魏獻子想藉此說明他也是愛才的人。他接著對賈辛說：「現在你有功於王室，因此，我舉薦你擔任了縣大夫。你去吧，好好乾，不要損壞了你已有的功績。」
另外，魏戊到梗陽任縣大夫之後不久，便遇到了一個棘手的案子，無法定奪。於是，他便將這個案子轉交給中央，由當政的魏獻子處理。魏獻子本來想要接受賄賂，偏斷這個案子，但由於魏戊派人進行諫阻，魏獻子終於將行賄之人辭退。
從以上所述的情況來看，可以得出如下一些認識：其一，雖然晉國大夫之子可有優先出仕的特權，但被任命者需要有真才實學才行。這十個縣已不是采邑，否則，魏獻子盡可以讓他的親屬擔任這些縣大夫的官職，而不會顧慮別人的閑話。其二，若此十縣是采邑，縣大夫們只需住在國都，坐享該縣之采就行了，既大可不必像賈辛一樣，親自到縣裡去辦公，也無需像魏戊一樣，將縣裡無法斷的案子上報到中央。因此，這些縣已與采邑性質的縣完全不同，是一種新型的縣。其三，我們還應注意到，這十個縣各自的區域是在原屬大夫的采邑的基礎上重新劃定的，如原先的羊舌氏之田，僅有兩邑，重新劃定後，成為十縣中的三縣。這與以往的只是簡單地以一個所滅之國為縣，或以邑為縣是完全不同的，而這正是行政區划出現的表徵。
以上我們對郡縣制中的縣有了一個初步了解，下面再來看看郡的情況。與縣相比，春秋時期有關郡的記載非常有限。據學者們研究，只在《左傳》中有一條可靠的簡單記載。這則記載也是出自晉國。公元前493年，當時晉國的執政大夫趙簡為了讓將士們臨陣勇猛殺敵，他在誓詞中許諾說：「克敵者，上大夫受縣，下大夫受郡。」然而有關郡的詳細情況，則不是很清楚。現在只是大體知道，郡起初應設在諸侯國的邊地，與設在繁華地區的縣，只是名稱不同而已，其間的區分並不一定非常明晰。再有郡與縣兩者在初期階段，也不存在著什麼統屬關係。至於郡下統縣，則是要到戰國時期才變得明確起來。