自從東漢末年州成為郡以上一級行政區劃之後，一直到西晉，州、郡、縣的設置都是比較正常和有規可尋的。以西晉初年為例，當時有十九個州、一百七十一個郡國、一千二百三十二個縣。平均每州管轄八九郡，每郡統領七八縣，從管理的幅度上說，比例基本適當。但是這種常規，在經歷了東晉南北朝之後，已被破壞殆盡了。
南北朝時期，在州的數目增長的同時，郡也增加了不少。究其原因，主要是當時的現實情況造成的。其時，南北之間長期處於分裂狀態，戰亂不斷。這樣就會使得在戰爭中立下功勞的武將與對方降將的人數隨之增多起來，而政府對他們自然是要論功行賞的。在當時，獎掖這些人的一個通行辦法，就是封給他們各自一個州剌史或者是郡太守。但是，每個政權的地盤有限，為了有足夠多的州剌史或者郡太守空缺以便封賞，唯一可行的辦法就是把現有的州、郡的區域劃小，留出空間，以建立更多的州郡。因此州郡的數量便漸漸增多起來。
不過，在南朝梁前期，州郡數目的增長還不十分嚴重。據史書記載，在梁天監元年（502年）一共設置有二十三個州、二百二十六個郡、一千三百個縣，但是不到五十年的光景，情形便大不一樣了，州郡數目的膨脹已經發展到了令人難以想像的地步，梁中大同元年（546年）有一百零三個州、五百八十六個郡。
北朝州郡的濫置，一點也不比南朝的遜色。北魏統一北方後，州還不到二十個，但是到了孝文帝當政的晚期，州已超過了八十個。北魏分裂為東、西魏之後，兩個政權共有一百一十餘州、四百一十多個郡。此時，南北朝合計，州的數目已達兩百多，郡數則接近一千，與二百五十年前的西晉相比，州、郡的增長都不低於十倍。這時有不少的州只管轄一兩個郡，一郡只統管兩三個或一兩個縣，有的州竟然沒有縣可領，有的僅存一個名目而已。史書上就記載南齊在漢中地所設的梁州共轄有六十五郡，其中有四十五郡竟然是荒蕪之地或者是沒有民戶。另外，還出現了兩州合管一郡，或者是兩郡共領一縣的「雙頭州郡」。州、郡設置之濫，可以說到了極點。另外，北朝在大量設置州郡的同時，還濫設官吏，尤其是州刺史，居然一州就要設置三個。由於州刺史的增加，使得郡太守逐漸不再管理具體的事物，變成了閑員。這就為日後隋文帝統一之後，進行行政區劃改革、廢郡而實行州縣二級制提供了條件。