《後漢書·劉焉傳》載，靈帝中平五年（188年），朝廷派中央的高級官員——九卿，出任州牧，「鎮安方夏」，「州任之重，自此而始」。從此，州便成為了郡（國）以上一級的行政區劃。那麼「州」是怎樣出現，又是如何發展成為一級行政區的呢？要解答這個問題，還需要從西漢武帝時所設的十三州刺史部說起。
在行政區劃方面，漢代基本上承襲了秦的郡縣制（只是又增設了諸侯王國一級），但是由於漢代的郡比秦郡領域要小，加之諸侯王國封域的削減形成新的漢郡，以及武帝時的疆土開拓，又設置了許多新郡，因此，到了漢武帝太初元年（公元前104年），全國郡國總數已多達一百零九個。
這樣便產生了一個問題，即面對如此眾多的郡國，漢朝中央政府如何統一管理？如果郡級政區僅像秦代時那樣，只有五十來個，由中央政府來直接管理應當是不成問題的，但是如果郡級政區增加到一百多個，對於中央政府來說，幅度顯然太大了，無法進行高效率的管理。而從地方來說，由於一郡的領域不大，郡太守的權力有限，在地方上出現一些問題，特別是出現連跨幾個郡的農民起義時，郡太守們往往感到力不從心。因此，一直存在著在郡國之上再加設一級行政區劃的需要。然而對於中央政府來說，如果在郡國之上再設一級行政區劃，雖然可以減少管理的幅員，卻由於政區層級的增加而使得中央的政令難於下達，地方發現的情況難於上報。在這種兩難的情況下，漢武帝決定設立刺史部不失為一個有效的辦法。所謂刺史部，就是監察區，每個刺史部下轄一些郡國。刺史部的官員，稱為刺史，職責是負責糾察轄區內的郡太守與王國相一級地方行政官員的不法行為。刺史的級別很低，俸祿只有六百石，遠遠低於俸祿為二千石的守相。之所以採取這種以小官監察大官的辦法，是因為既可以防止刺史部變成一級行政區，又可以起到縮小中央管理幅度的效果。
武帝時一共設立了冀州、幽州、并州、兗州、豫州、青州、徐州、荊州、揚州、涼州、益州、交趾、朔方等十三個刺史部，同時又把國都附近的幾個郡劃歸司隸校尉監察。到了西漢末年，州刺史曾兩次改稱州牧，以表示地位的提高，俸祿也升到二千石。但這明顯是一種權宜之策，因此到了東漢初年天下平定後，州牧便又改為刺史，品秩也降回到了六百石。
光武帝建武年間，司隸校尉開始等同於刺史，並正式領有一州，成立了司隸校尉部。到了建武十一年（35年），光武帝又對西漢原十三州刺史部進行調整，將朔方刺史部併入并州刺史部，這樣，加上司隸部，東漢仍是十三部（參見《東漢十三州刺史部示意圖》）。
在東漢的大部分時間裡，州還是以監察區域的形式出現，並沒有正式成為一級行政區劃，這主要是因為中央政府一直希望採用郡（國）縣二級制的方法來管理地方區域。到了東漢末年，席捲整個北部中國的黃巾大起義，已使得郡太守們束手無策，朝廷才不得不考慮將州由監察區變為行政區，於是就有了《後漢書·劉焉傳》提到的靈帝讓朝中的高官——九卿出任州牧，授給兵、財、行政三大權，用來鎮壓農民起義的記載。劉焉便是以太常身份被靈帝任命為益州牧的。從此之後，州牧的設置變得極為普遍，割據一方的軍閥也都以州牧自任，如我們大家所知道的冀州牧袁紹、兗州牧曹操、荊州牧劉表等。這樣，州便成為了郡以上的一級行政區劃，自秦代以來的郡縣二級制，便變成了州——郡（國）——縣三級制。
獻帝興平元年（194年），分涼州河西四郡而設立雍州，於是十三州變成了十四州。建安十八年（213年），曹操用獻帝的名義下詔恢複《禹貢》九州之制，將司隸校尉部所領各郡分屬雍、冀、豫三州，並涼州入雍州，省幽、並二州而入冀州，分交州入荊、益二州。但是，其時交州已在孫權的控制之下，實際上並未按曹操的意願省並，他所推行的九州制僅限於他所控制的地區而已。建安二十五年，曹丕稱帝，隨即恢複了建安十八年的十四州制，東漢州制的變化到此結束。