「州」字甲骨文作「
「縣」的金文字形作「」，像人頭被繩索系住懸掛在樹上之形。本義就是「懸掛」，讀作「xuán」。「縣」是如何成為行政區劃單位呢？春秋時期，秦、晉、楚等強大的諸侯國，不斷對弱小國家進行侵略、兼并，以擴大自己的疆域。他們為了壯大自己、削弱對手，往往採取「近交遠攻」的策略，即與鄰近國家交好，而對遠方的國家施用武力。被兼并的遠方諸侯國的領地，與他們原有的國土並不相互連接，像懸掛在遠處一樣，為了有利於對被兼并的邊遠地區的統治，他們把那些被兼并的地方設置為「縣」。「縣」與卿大夫的封邑不同，是直接隸屬於國君的地方行政區域。春秋中期以後，設縣的國家增多，有的在內地也設置了縣，縣開始成為地方行政組織。春秋末期，有的國家又在新得到的邊遠地區設置了郡。戰國時期，產生了郡統轄縣的兩級地方行政組織。
「鎮」字以「金」為部首，本義是「壓物之器」，一般分有鎮紙、鎮席等。「鎮」的歷史源遠流長，據考證，魏晉以前古人一般席地而坐，大都是坐在草席上。王室貴胄有低矮的床榻，上面也要鋪席，這些席就需要用鎮來壓住邊角。有的床上置帷帳，帷帳四角也常用鎮來壓住。「鎮」由「壓物之器」引申為「安定，安撫」「壓制，抑制」等意義。北魏時期，開始在重兵駐守的邊塞地區設「鎮」，後來，北邊諸鎮都改為州，唐代鎮戍的權力減輕。唐末五代時期，節度使在自己的境內設鎮，置鎮使、鎮將等，除管理和防禦外，還向人民徵收器甲糧餉，掌握地方實權。到宋初，為了加強中央集權，除人口眾多、商業繁榮的鎮以外，都將鎮使、鎮將罷免，把他們的權力收歸知縣。宋以後，稱縣以下的小商業都市為鎮。現代社會，「鎮」主要指縣下設置的基層行政單位。
「社」字甲骨文作「」，像築土為壇之形，本義就是土地神。因為土地十分廣博，不可能每一處都去祭祀，於是築一個土壇來代表土地神接受祭祀。造字時，就用土壇之形表示土地神。「社」由土地神引申指「祭祀土地神的地方」。根據《禮記·祭法》記載：「王為群姓立社曰大社，王自為立社曰王社，諸侯為百姓立社曰國社，諸侯自為立社曰侯社，大夫以下成群立社曰置社。」古代從天子到諸侯，凡是有土地者都可以立社，鄉民也要成群立社。根據《周禮》記載，「二十五家為社，各樹其土所宜之木」，意思是說，每二十五家要立有一個共同的社，顯然，這些「社」都是指祭祀土地神的地方。由於社壇周圍要栽種上適宜的樹木，後來為了突出「社」的這個特點及其神性，又增加了表義構件「示」和「木」，「社」字變作「」，小篆字形又省去「木」構件變作「」。「社」由祭祀土地神的地方又引申為「祭祀土地神的活動」，如：「社日」「社戲」「社火」。由於「祭祀土地神的活動」是群眾參加的，因此「某些群眾集體組織或國家機構」也稱為「社」，如：「合作社」「公社」「結社」「報社」「通訊社」「出版社」「社員」。其中「公」「社」兩字連用首先出現於《禮記·月令》「孟冬之月……天子乃祈來年於天宗，大割祠於公社及門閭」，這裡的「公社」指的是以上公配祭的祭祀場所，也就是中國古代官家祭祀天地神鬼的處所。
後來，意義為「中古歐洲自治城鎮組織」的英文單詞une用「公社」來翻譯，於是「公社」一詞有了自治城鎮的意思，如：人類社會歷史上最早階段的社會組織，叫做原始公社；曾經在中國風行一時的政治經濟合一的鄉級組織，又叫「人民公社」（1958—1978）。
「鄉」字甲骨文作「」，指縣以下的農村基層行政單位，又泛指城市以外的地區。
「鄙」的甲骨文字形作「」，上邊的構件為「囗」，表示一定區域；下邊的構件像倉廩之形。整個字表示倉廩所在之處，本義就是「郊野」。後又增加表示人群聚居地方的「邑」（即右「阝」）構件。「鄙」由「郊野」義引申指「邊遠的地方」，後來成為行政區劃名稱，根據《禮記·月令》「五家為鄰，五鄰為里，四里為酇，五酇為鄙」，一鄙大約包括五百家。
「村」字本作「邨」，由右「阝」和「屯」兩個構件組成，其中右「阝」是「邑」的簡化變形，表示人群聚居的地方；「屯」有聚集的意義特點。「邨」本義就是「聚落，村莊」的意思，後來寫作「村」。「里」字由「田」「土」兩個構件組成，本義就是「鄉村廬舍」，後泛指「鄉村居民聚落」，又指「城邑的廬里、街坊」，今稱巷弄。根據《周禮》，大約二十五家為一里，設有里長。