明王朝建立後，依然承襲了元代的行省制度。然而，明太祖朱元璋認為行中書省的權力太大，為加強中央集權，於是對元代的行省制度作了很大的改革。由於他對宋代高度中央集權的行政制度十分羨慕，因此便效仿宋代分路的做法，把一個行省的最高權力分散到都指揮使司、布政使司及提刑按察使司三個不同的官員手中。下面讓我們來看一看朱元璋是如何完成這一轉變的。
明太祖洪武八年（1375年），設置了元代就已出現過的都指揮使司（簡稱都司，又稱都閫），作為地方一省的最高軍事機構。都司掌一方之軍政，所屬衛所隸屬五軍都督府，由兵部統轄。都司包括其副職都指揮同知、都指揮僉事。
第二年，明太祖又改行中書省為承宣布政使司，廢除行省平章政事等官，改參知政事為布政使（別稱藩台，時人又稱牧伯、方伯），只管民政，不再像元朝那樣是軍政合一的機構。洪武十三年（1380年），又廢掉中書省之名，從此，省與行省之名便不再見於史書記載之中了。雖然明代布政使司的許可權與元代行省有一些不同，但是作為地方行政區劃並沒有什麼本質上的差別，因此，人們仍然習慣上稱布政使司為行省，簡稱省。布政使司也被用做了明代最高一級地方行政區劃的名稱。另外，為了防止布政使司長官專權，每一個布政使司並不讓一人專權，而是設左、右布政使各一人。其下屬有參政、參議等。
負責掌管地方刑獄的提刑按察使司，也是設置於明代初年的，簡稱按察司，是一省的最高司法機構。按察司設按察使一人，別稱臬台或是按台。其屬官有副使、僉事等，負責專職巡察或者是分地區巡察。洪武十五年（1382年）又設立了天下府州縣按察分司。
上述的都指揮使司、布政使司及提刑按察使司，合稱為「都、布、按三司」。三司在職權上各自獨立，都指揮使司聽從兵部與五軍都督府的指揮，布政使司則與六部和都察院有關聯，而提刑按察使司服從刑部和都察院的命令，由此，朱元璋終於達到了使一省的軍、政、刑大權分別掌握在三個地方大員手中的目的。不僅如此，在區划上，朱元璋也讓三司不完全一致，這在布政使司與都指揮使司的轄區劃分上，尤為明顯。例如明代設有遼東都指揮使司，而在明代的十三布政使司中，並沒有遼東省，而把遼東都司的管轄地區劃在了山東省的範圍之內。又比如潁州（今安徽阜陽）隸屬於南京鳳陽府，而潁州衛屬於河南都司；夔州府（今四川奉節）隸屬於四川行省，而瞿塘衛（治今奉節）屬於湖廣都司；磁州（今河北磁縣）隸屬於京師，而磁州千戶所屬於山西都司。之所以如此，主要是為了防止地方上分權過大，使其形成鼎立之勢，進而起到相互牽制的作用。