唐太宗繼位後，在貞觀年間先後對西北地區用兵，打敗了東突厥、高昌、薛延陀等少數部族國家，使唐朝的西北疆域擴至陰山以北、今天的新疆等地，並在這些地方設置行政機構進行管轄。由於唐太宗對這些歸附的少數部族採取了比較寬鬆的政策，因此被當地的部族首領尊稱為「天可汗」。高宗時又先後破西突厥、降百濟、定天山、滅高麗，使唐朝版圖臻於極盛（參見《唐前期盛時疆域形勢示意圖》）。
唐朝開國以後，又把天下之郡改為州，恢複了隋朝初期的州縣制。後來在唐玄宗天寶元年（742年），又改州為郡，到肅宗乾元元年（758年），再一次將郡改回了州。不過一個新的問題又擺在了統治者面前，那就是州的數目在唐朝兼并各割據勢力、重新平定天下之後，又出現了大幅的增長。這是因為在隋唐之際，群雄並起，那些率兵佔據一方的地方豪傑，只要歸降唐朝，唐朝就會在他所盤踞的地方設置州縣，並給他一個州刺史的頭銜。這樣，在不長的時間裡，州的數目便自然又膨脹起來。特別是在今天南方的廣西、湖南和四川一帶的少數民族地區，由於當地表示願意聽命唐朝的首領很多，出現了許多新的州刺史，因此州的分布也就變得尤為密集。唐朝的第二任皇帝太宗李世民，為了改變這種設州過多的局面，在他繼位伊始便著手開始對一些州進行省並，但是調整的情況似乎並不理想。到了貞觀十三年（639年），唐朝中央政府直接控制的州還是有三百五十八個之多，這個數目已經大約是漢郡數目的兩三倍了。
其時，由於唐朝的疆域比漢朝要大，對地方的統治也比漢時要深入得多，漢唐雖然同樣實行的是兩級制，但這時唐朝的州數目已不能像漢朝時的郡一樣，降回到一百多個了。然而要讓中央政府統管這三百多個州，著實是一個不小的難題。曾經有這樣一個故事，生動地說明了這一問題：唐太宗為了做到對每個州刺史心中有數，按他們的政績好壞，決定獎勵或者懲罰，他便想出了一個辦法，讓手下人把當時三百多個州刺史的大名，一一寫在他每日辦公大廳內的屏風上，以便在他批閱奏章的空閑，對這些州刺史們有所熟悉。這雖然反映了唐太宗是一個勤勉的皇帝，但從中畢竟透露出對地方大員管理不便的無奈。當時就有大臣從設置官吏的角度提醒當權者，在漢代要想挑選出一百多個好的郡太守已經是一件非常不容易辦到的事情了，更何況我們現在面臨的問題是要選擇三百多個州刺史。這種情況，已使得中央政府不得不考慮在州縣二級制的政區之上再設立一級監察區，對各地州刺史的所作所為進行監察，隨時將地方官員的情況上報中央。設置監察區的辦法，雖說不失為一項行之有效的措施，但是唐朝初年的皇帝已從前代的經驗教訓中十分清楚地知道，監察區一旦設立，就會存在變成一級正式行政區劃的危險，到時再想撤銷，談何容易，於是需要找到一種變通的方法。唐太宗貞觀年間設立的巡察使，就是在這方面的一個嘗試。
貞觀元年（627年），唐太宗下達命令，將全國分成關內（大致相當於今陝西中、北部，甘肅隴東以及內蒙古河套等地）、河南（大致相當於今河南、山東二省黃河以南，江蘇、安徽二省淮河以北的地區）、河東（大致相當於今山西全省與河北西北部內外長城之間的地區）、河北（大致相當於今河北長城以南，河南及山東二省黃河以北的大部分地區）、山南（大致相當於今四川東部，陝西、甘肅南部，河南西南部，湖北西部的地區）、隴右（大致相當於今甘肅隴山、六盤山以西，青海省青海湖以東及新疆東部的地區）、淮南（大致相當於今安徽、江蘇二省淮水以南、長江以北的地區）、江南（大致相當於今浙江、福建、江西、湖南四省，江蘇、安徽的長江以南，湖北、四川江南的一部分及貴州東北部的地區）、劍南（大致相當於今四川中部和雲南北端）、嶺南（大致相當於今廣東、廣西二省和越南東北部的地區）等十道，派遣巡察使到各道去負責監察地方的官員。不過，當時巡察使的派出，還是一種臨時性質，並不是常制，而十道的劃分也更多地體現的是一種地理區劃，還不是真正的監察區。
睿宗景雲二年（711年），又把巡察使改為按察使，並由原來的臨時派遣改為常設官員。開元二十一年（733年），唐玄宗認為貞觀十道在劃分上還存在著許多不夠合理的地方，因此，他又作了一些調整，把地域廣闊、經濟文化都比較發達的江南道分為江南東道（今浙江、福建二省及江蘇長江以南地區）、江南西道（今江西、湖南二省，安徽南部，湖北東部長江以南地區）、黔中道（今貴州全部及其與四川、湖南、廣西接壤之地，湖北西南端）。又將山南道分成山南東道與山南西道，以重慶市與陝西省東境作為分界線。另外，分關內道長安附近諸州增設京畿道，分河南道洛陽附近諸州增置都畿道。這樣，原來的十道就變成了十五道（參見《唐十五道圖》）。每道設置採訪處置使（簡稱採訪使），讓他們像西漢的州刺史一樣，負責檢查道內州刺史的非法行為，不僅如此，還讓這些採訪使們兼任各道重要之州的刺史。於是，道便成為了正式的監察區。
監察區的設立，一方面顯示了唐玄宗在開元盛世的繁榮下對形勢的高度樂觀與自信，以致他無需再像太宗那樣，謹小慎微地去考慮監察區可能會導致對中央集權統治不利的變化前景。另一方面，這也是出於對當時監察工作的需要。沒有監察區，不僅會給監察工作帶來很多不便，而且還使得那些監察官員們疲於在京城與監察地之間往來奔走，不能發揮最佳的監察效果。但是，監察區一經確立，監察官員變為常職，也就很難避免變為行政區與行政官員了。從天寶九載（750年）唐玄宗所頒布的敕令中強調採訪使只需要負責察訪善惡，而對於郡內的事務則請郡守處理、不要干預的情況來看，其時監察官員干政、成為地方行政官員的苗頭已經不小了。