甲骨文的「死」字作「其結果就是「白骨露於野」，只剩下一塊塊殘骨。
據《中國民俗辭典》記載，蒙古族流行「荒葬」，即：「以牛馬車載屍，疾馳荒野，不擇路，候屍顛撲至地，即為屍安身之所。三日後，視之，如為鳥獸攫食，即以為生前無罪惡。否則子孫有戚容，以為天不見納。」這種「荒葬」和西藏的「天葬」，都是古代先民棄屍習俗的遺迹。
隨著人類自我意識的發展，先民逐漸對同伴和親人的遺體被蟲獸咬噬感到不忍。於是，想辦法把屍體掩藏起來，由此產生了葬屍的萌芽。
「葬」在《三體石經》中的字形作「
「吊」的甲骨文字形作「變得與「弓」形十分相似，於是《說文解字》把它說解為：「問終也。古之葬者，厚衣之以薪。從人持弓，會驅禽。」即用「人持弓」的意象表示「吊」字的造字意圖——驅趕禽獸，以避免親人的遺體被禽獸咬噬。從「葬」「吊」兩個字的古文字形體可以看出，遠古時期，確有過用柴薪包裹屍體後，藏於原野的習俗。
在生產勞動過程中，先民們逐漸發現，藏屍於野不僅耗費人力物力，而且很難保證親人的遺體不被禽獸咬噬。隨著生產工具的不斷進步，先民們想出了一個更為穩妥的辦法——埋屍地下的墓葬方式。
「墓」字出現得比較晚。甲骨文、金文中都沒發現「墓」字，《漢語大字典》所列最早形體是小篆。《說文解字》把「墓」字說解為：「丘也。從土莫聲。」其實，「莫」不僅標示「墓」的讀音，也兼有表義功能。因為「莫」的字形構意是太陽落到草叢中看不見，而「墓」是屍體沒入土中看不見，「墓」「莫」意義相通。顯然，墓葬的形式是將屍體埋於地下。
「墳」字出現也比較晚，它的本義是高大的土坡、土堤。如《詩經·周南·汝墳》「遵彼汝墳，伐其條枚」，屈原《九章·哀郢》「登大墳以遠望兮」，其中「墳」的意義都是高大的土坡、土堤。由於墓上的封堆土像土坡、土堤一樣高高隆起，因此也稱做「墳」，並成為「墳」的常用義。
根據文獻記載，「墓」不同於「墳」。《禮記·檀弓》：「古也墓而不墳。」鄭玄註：「土之高者曰墳。」也就是說，墳是墓上的封堆土；《方言》：「凡葬而無墳謂之墓」，也說明「墓」與「墳」最初是有嚴格區別的。根據文獻記載，遠古的墓是不築墳頭的，崔寔《政論》：「文武之兆，與地平齊」，說明當時不僅一般民眾的墓沒有墳頭，連君王的墓也不起墳頭。河南安陽殷墟發掘的王室墓群和陝西鳳翔雍城發掘的春秋時的墓葬群，規模都非常宏大，卻都沒有築墳的跡象。
春秋末期，墳丘開始出現，但還未普及，當時把築墳頭看作不符合古禮的行為。傳說孔子考慮到自己是「東西南北之人也」，也就是經常周遊列國，為了能辨識母親墓穴的位置，孔子只好違背古禮與初願，給母親的墓地築了個墳頭，結果一夜被暴雨沖平。這說明，周禮提倡不築墳頭的墓葬方式。而周禮是因襲夏、商之禮的，由此可以推斷，夏、商、西周的墓上是不築墳的。
起墳頭最初是為了辨識墓穴的位置，方便祭祀，後來變成墓主人身份地位的象徵。死者的爵位等級越高，排場也越大。除了築墳之外，還要在旁邊種樹。於是墳的高低和所植樹木種類成為顯示尊卑等級的重要標誌，並列入禮法，成為國家制度。鄭玄說：「漢律曰：列侯墳高四丈，關內侯以下至庶人各有差。」漢時一丈合現在231厘米，四丈為9.24米，相當於現在三層樓那麼高，確實相當壯觀。以後各朝各代對不同品官和庶人的墓地墳高都有規定。至唐代以後，更為嚴格，違者要治以重罪。同時，由於儒家仁孝思想的影響，祖墳在人們心目中十分神聖莊嚴。人們把死後不能埋進祖墳看做是最嚴厲的懲罰，統治者也把它作為教化人心的一種手段。
由於墳墓大小成為死者地位的象徵，有權勢者為了炫耀自己的地位，墳越築越高，於是又產生了專門用來稱呼高大墳墓的「冢」字。「冢」是指墓上的土堆高得像小山似的墳墓。當然，地位最為尊貴的是皇帝，皇帝的墳墓無疑應是最高大的，因此，用本義為高大土山的「陵」字來專稱皇帝的墳墓。「陵」字以左「阝」為部首，本義就是山陵，即高大的土山，用來指稱帝王的墳墓，主要取其高大巍峨義。秦惠文王規定「民不得稱陵」，「陵」從此成為帝王墳墓的專用詞，也成為皇權至上的象徵。