根據現有的文獻資料和出土文物研究，碑的發展史，至少經歷了兩個大的演化階段。首先是將碑當做一種工具加以使用的時期，簡稱為實用碑時期；其次是在其上雕刻文字，以頌揚人的功績、品格和記載史實的時期，簡稱為刻字碑時期。實用碑早在幾千年前的原始社會末期就出現了。實用碑使用時間長久，用途廣泛，並具有獨特的形制。這種碑從原始社會末期出現以來，經過夏、商、西周、春秋、戰國和秦，一直使用到西漢時期，大約經歷了2000多年的時間。它在許多方面都可使用：一是人們去世後，在埋葬時當做下棺和放置器物用的轆轤，繩捆在上面，可以任意升降，自由運轉；二是置於王室、諸侯宮廟庭院或門前，作為拴馬的柱子，或者當做一般人家系牲口的樁子；三是在宮殿前面或貴族的宅院中豎立的柱子，作為觀察太陽偏斜、中正的標誌，以判斷一天時間的早晚。在這一點上好像後來的「日晷〔gui鬼〕」。這種「日晷」今在北京故宮太和殿前的漢白玉台基上就陳設著一件。實用碑的質料，因用途不同而有差別，在宮廟和庭院中者多為石頭做成，在墓角或壙〔kuang況，即墓穴〕側者，初期多為木頭，後來多改用石料。無論石質碑或木質碑，在形制上都有一個共同的特徵，就是上半部大都有一個圓洞(因用途需要而開鑿)，後人把這個洞叫「穿」。這種「穿」是早期實用碑獨具的特點。
這種實用碑，人們使用很久。但有一天，不知道是靈感，還是偶然，有人在這種碑上刻上了字，出現了刻字之碑。從而使這種刻字碑與過去的實用碑有了本質的區別。這兩種碑交替的時間，大致在西漢晚期。這個變化的實物證據，以《麃〔biao標〕孝禹碑》為代表。《麃孝禹碑》是宮本昂等於清朝同治九年(公元1870年)，在山東平邑縣治理河道時，在土堤中發現的(過去已經知道有此碑，並有拓本行世，但不知何時，原石丟失，現存山東省博物館)。該碑形長方，圓首，據拓片測量，長約136厘米，寬約45厘米。碑首有額，額兩邊各刻一隻站立之鶴，額下有穿。碑身刻字，共二行，內容為「河平三年八月丁亥，平邑□(侯)里麃孝禹」。「河平」是西漢成帝(劉驁〔ao 傲〕的年號，三年為公元前26年，說明此碑刻成於西漢後期。這塊碑有人名、地名、官爵、卒年或葬年等內容，已具備了墓碑文字的基本內容，其形制有「穿」，顯然是由墓穴下棺的「碑」發展而來。它已是一件不折不扣的刻字碑了。所以，我們可以說：這塊碑是現今所知的由實用碑演化成刻字碑的典型代表。
刻字碑在漢代出現以後，由於形成的原因不同，也就分成了不同的類別。如在下棺的實用碑上刻寫文字以記述墓主的姓名、籍貫、家世、生平和事績，以及一些頌揚和悼念的銘詞等，形成一篇傳記性的文字，使路過行人讀後，可知道墓主身分。這種碑叫做墓碑。如果是在宗廟、祠堂等建築物旁和殿院內豎立的實用碑上，刻畫文字，使行人閱讀後能知曉這些宗廟、祠堂等建築物的情況以及受祭者的功績、道德、行為，這種碑就叫做祠廟碑。
在漢代和三國時期，刻字碑大概只有墓碑和祠廟碑這兩種。這兩種刻字碑的共同特點是多為紀念亡人或神話傳說中的人物。由於刻字碑的這種特點，所以在當時人們就認為，樹碑是為了對前人、先輩表示悲哀或追悼。關於這一層意思，我們在閱讀漢碑的刻文中可以觀察到，在瀏覽晉代的民歌里也可以體會到。到了唐朝前期，大學者徐堅在為皇家貴族子弟編寫課本《初學記》一書時，對「碑」字的解釋，就直截了當地說成「碑，所以悲往事也」。到唐朝晚期，陸龜蒙更直截了當地解釋為「碑者，悲也」。雖然刻字碑後來按內容可分為多種，如墓碑、祠堂碑、寺廟碑、紀念碑、記事碑等，但歌頌死者懷念先人，一直是這類碑文的主流。
漢代刻字碑出現以後，由於與其他類型的石刻文字，如刻石、摩崖、石碣等同時並存；又因為它們都是用刀刻在石上的文字，因而在稱呼上就不十分嚴格。有的將一切石刻文字都叫做碑，有的又把這類文字叫做碣。但也有一些人認為，當時對它們就有明確的區分，什麼「方者為碑，圓者為碣」、「大者為碑，小者為碣」等等，這恐怕是不準確的。事實上，直到唐代，還有將方碑稱為碣的。例如：《潘師尊碣》刻於唐代武則天聖歷二年(公元699年)，碣石原在河南省登封縣嵩山老君洞，其文字長達20多行，1000多字，實在是一個既大又方的碑，但首行所題名稱，仍自稱為「唐默仙中嶽體玄先生太中大夫潘師尊碣文」。這是碑、碣兩者不分的明顯例子。所以，兩個不同的名稱用於同一件事物，只是由於作者的認識和習慣的不同，而隨意選用罷了。
刻字碑出現以後，由於所記內容的相對穩定，其形制也就逐漸固定下來。刻字碑大致上由三部分組成。
(一)碑首。這是碑的最上部分或者叫頂部。早期碑首比較簡單，多為圭首、圓首或暈首，後期又逐漸出現螭〔chi 吃〕首，尺寸也越來越大。
圭首，上銳下鈍，或者是正三角形去掉尖的一部分即成圭首。在漢碑中，《郎中鄭固碑》、《司隸校尉魯峻碑》、《白石神君碑》、《鮮於璜碑》、《張遷碑》、《武榮碑》等都是有名的圭首碑。後期漸少，尤其在有地位的富人中用圭首者更少。
圓首即首成半圓形。泰安岱廟《衡方碑》即為漢代著名圓首碑。
暈首，其輪廓也是半圓形，但半圓的上部卻有暈繚繞，如天空雨後出現的虹，所以叫暈首。一般有暈三道，其暈多從碑首碑身交接處起始，尚留繫繩引纖的古意。《圉令趙君碑》、《孔孔碑》、《趙菿〔dao到〕碑》等，都是著名的暈首碑。漢代以後，暈首碑多消失無存。
螭首，又叫螭頭，即雕刻在碑頭、殿柱、殿階、彝器、印章等上面的螭形花飾。螭為古代傳說中的一種動物，屬傳說中的蛟龍類。龍為炎黃子孫最崇拜的神獸，把它裝飾在碑頭上成為螭首，碑的身價就變得更為高貴。這種螭首碑，大約出現於漢晉以後的南北朝時期。南朝劉宋大明二年(公元458年)刻的《爨〔竄〕龍顏碑》就是著名的螭首碑之一。唐朝時螭首碑逐漸成為等級高低的象徵，只有五品以上的官員才准刻制。
碑首中間為碑額，是雕刻碑名的地方。碑額書標題，開始於東漢時期，字體以篆體最多，隸體也不少，故稱為「篆額」或「隸額」。篆額碑，漢代有《鄭固碑》、《孔廟碑》、《西嶽華山廟碑》、《夏承碑》、《孔彪碑》等，三國魏時有《上尊號碑》、《受禪表碑》、《孔羨碑》、《範式碑》等。隸額碑，漢代有《衡方碑》、《武榮碑》等。南北朝時，碑文開始由隸書演變為楷書，隨之而來，碑額文字也有楷書的，但是在著錄時不能像篆、隸書一樣稱「楷額」，只能叫「額正書」，這也算是一種約定俗成吧。不過，有時候楷書的碑額，也可以稱之為隸額。因為有些書法家認為楷書是當代的隸書，所以，隸書也有「漢隸」和「今隸」之別。今隸就是楷書。碑額用楷書者，有《蕭憺〔dan旦〕碑》、《葛府君碑》、《張猛龍碑》、《龍藏寺碑》等。
有的碑碑額左右或四周還刻有各種圖像。如《白石神君碑》碑額兩旁各透雕一獸，獸下又各雕一人。《鮮於璜碑》碑首陽面額旁線刻青龍、白虎，陰面額刻了朱雀。《張遷碑》圭首四面刻蟠螭，上銳處兩鵲相對，造型十分生動。《爨龍顏碑》碑首穿上刻蟠龍，穿左右刻日月，日中有伏鳥，月中有蟾蜍。唐朝碑首上又出現了一些特殊畫像，如《懷仁集王書聖教序碑》，碑首刻七佛像；《道因法師碑》碑首刻釋迦牟尼、大勢至菩薩、觀世音菩薩三像，並刻其名，把碑首裝飾得十分美觀。
早期刻字碑(如漢圭首碑)的穿多鑿於碑額下方。這種穿尺寸或大或小，位置或高或低、或左或右，並不固定，但一般多在碑額標題之下，碑身之上，不影響書寫與刻文。但也有例外，如《趙菿碑》的穿在碑文中間第九行至第十行處，每行佔去三個字的位置。《袁安碑》無碑額，穿在碑文之中，佔兩行，每行佔兩個字。《袁敞碑》的穿也在碑文中，佔兩行，每行佔兩個字。穿的位置最靠下者，可能是《景君碑》，在碑文第八行至第十三行處，每行佔兩個字的位置。碑穿只是第一階段實用碑的遺制，當刻字碑通行一個時期以後，由於它無用就自行消失了。漢代以後的石碑，就基本上再無碑穿可尋了。
碑首在早期碑中基本上與碑身是用一塊石頭雕成，但魏晉以後，碑石愈來愈大，到了唐代時，碑的製做愈加精細，碑首與碑身往往用兩塊石板各自刻成進行裝配。這時碑首的寬度、厚度都比碑身大，使雨雪等不致直接淋至碑身上部，對碑身起到了保護作用。
(二)碑身，是碑的主要部分。一般為一塊石料製成，多為長方扁形(即高度大於寬度，寬度又大於厚度)。少數碑也有由多塊石料製成的，成為長方柱體(即高度大於寬度，寬度等於厚度)，如西安《石台孝經》碑，即由四石合成。碑身各面名稱，正面稱碑陽