考古學家在河北省房山縣周口店龍骨山發現的「北京人」遺址供給我們中國建築史上最早的實物資料。它說明四五十萬年前，華北平原上使用極粗的石器，已知用火的猿人解決居住問題的「建築」是天然石灰岩洞穴。
在周口店猿人洞的山頂上又發現有約十萬年前的人骨化石、石器和骨器。考古家稱這時期的文化為「山頂洞文化」。這時遺留的獸骨、魚骨，證明這時的人過的是漁獵生活。遺物中有骨針，證明他們已有簡單的縫紉；人骨化石旁散有染紅的石珠，顯然他們已有愛美裝飾的觀念。
天然洞穴之外，還有人工挖掘的窖穴，許多是上小下大的「袋形穴」。這些大約是公元前三千年的遺迹。在華北黃土區削壁上也有掘進土壁的水平的洞。
中國境內一向居住著文化系統不同、祖先世系不同的各種族。他們各在所居住的土地上，和自然界作鬥爭，發展自己的文化，也互相有衝突，互相影響，以至於融合。在地下遺物中留著不少痕迹。
在河南澠池縣仰韶村發現有較細的石器、石制農具、石制紡輪、石鏃和彩色陶器等遺物的遺址。這些遺物證明居住在這裡的人的生活情況是畜牧業和最原始的農業逐漸代替了漁獵，因而開始定居，並有了手工業。和它同系的文化散布在廣大的中國西北地區，總稱做「仰韶文化」。當時的人居住過的遺址多半在河谷里，大約為了取水方便，又可以利用岸邊高地掘洞穴。
在山西夏縣遺址中所見，他們的住處是挖一長方形土坑，四面有壁，像小屋，屋屋相連，很像村落。仰韶文化是中國人民所創造的重要文化之一，考古家推斷為黃帝族的文化，比羌、夷、苗、黎等族有更高的成就，距今約有四五千年。這時期不但有較細緻的石制骨制器物，而且紋飾複雜，色彩美麗，有犬、羊和人的形紋畫在陶器上。遺迹中有許多地穴，雖然推測穴上也可能有樹枝茅草構成的覆蓋部分，但因木質實物絲毫無存，無法斷定。
古代文獻給我們最早的紀錄資料是春秋時人提到的堯、舜時期的房子：堯的「堂高三尺，茅茨土階」。現在我們所已得到的最早的建築實物是河南安陽殷時代的宮殿或家廟遺址：底下有高出地面的一個土台，上有排列的石礎和燒剩的木柱的殘炭。大體上它們是符合於「堂高三尺」的說法的。但由於殷墟遺址上地穴仍然很多，一般人民居住的主要仍是穴居和半穴居方法，有茅茨和高出地面的土台的，可能是階級社會開始時的產物，在堯時還沒有出現。殷墟夯土台以下所發見比殷文化更早的穴居，它們是兩兩相套的圓形穴，狀如葫蘆，也像古代象形字里的「宮」字，穴內牆面已用白灰塗抹。
階級社會開始於夏。夏的第一代禹是原始灌溉的發明者，又因同他族戰爭勝利，把俘虜做奴隸，用於生產，是生產力大大躍進的時代。
生產力的提高開始影響到生產關係。禹的兒子啟承繼父親做酋長，開始了世襲制度。歷史上稱這一世系的統治者做夏朝，是中國歷史上第一個朝代。由這個時期起才開始破壞了原始公社制度，產生了階級社會；社會中貴與賤，貧與富逐漸分化，向著奴隸制度國家發展。
夏的文化就是考古學家所稱的黑陶或龍山文化，分布地區很廣（河南、山東和江南都有遺物發現），農業知識和手工藝的水平高於仰韶文化。但夏時常遷都，主要遺址尚待發掘。傳說夏有城郭叫做「邑」。財產私有才有了保衛的必要；有了奴隸的勞動，城池一類的大土方建築也成了可能。
在山東龍山鎮城子崖發現一處有版築城牆的遺址，牆高約六米，厚約十米，南北長四五〇米，東西三九〇米，工程堅固，但是否夏的實例，我們還不能得出結論。
夏啟襲位以後，召集各部落酋長在「鈞台」大會，宣告自己繼位。因為夷族不滿意，啟遷到汾澮流域的大夏，建都稱做「安邑」。
這兩個作為地名的「台」和「邑」，和這類型的建築物可能是有關係的。高出地面的和圍起來的建築物似乎都是在階級社會形成的初期出現的。
夏啟傳到著名暴君桀是四百多年長的時間，紡織業和陶器物都很發達，已用骨占卜，後半期也有銅的遺物。文化又有若干進展。奴隸主的殘酷統治招致了滅亡。夏桀是被殷的祖先商湯所滅。
商是在東方的部落，在滅夏以前已有十幾代，文化已有相當發展，農業知識比夏更高，手工業也更進步，並且已利用奴隸生產，增加貨物的製造。和建築技術有密切關係的造車技術也傳說是湯的祖先相土和王亥等所發明的。尤其是王亥曾駕著牛車在部落間做買賣交易貨物，這個事實和後代的殷民駕車經營商業的習慣有關。
商湯傳了十代，遷都五次，到盤庚才遷移到現在河南安陽縣的小屯村。這地方就是考古學家曾作科學發掘研究的殷墟遺址所在。內中有供我們參考的中國最早的地面建築物的基址殘跡。盤庚以後傳到被周武王滅掉的紂，商朝文化又經過六百餘年的發展。
在階級剝削的基礎上，商朝的文化比夏朝更有顯著的進步。中國古代文化，包括文學、音樂、藝術、醫藥、天文、曆法、歷史等科學，在商朝都奠定了初基，建築也不是例外。
殷墟遺址的發掘給了我們一些關於殷代建築的知識。遺址是一些土台，大致按東西和南北的方向排列著，每單位是長方形的，長面向前。發掘所見有夯土台基，柱下有礎石，且用銅墊在柱下，間架分明，和後代建築相同。因有東西向的和南北向的基址，可見平面上已有「院」的雛形。大建築物之前還有距離相等的三座作為大門的建築。韓非子所說的堯「堂高三尺，茅茨土階」倒很像是描寫殷代的宮殿或家廟的建築。至於《史記》所說「南距朝歌，北據邯鄲及沙丘，皆為離宮別館」，形狀如何，已不可見。
殷亡後，封在朝鮮的殷貴族箕子來朝周王，路過殷墟，有「感宮室毀壞生禾黍」的話。我們知道這些建築在周滅殷時就全部被焚毀了。
考古學家斷定殷墟所發掘的基址是「家廟」。這些基址的周圍有許多坑穴，埋著大量的獸骨——祭祀時所殺的祭牛，乃至象、鹿等骨骼，也有埋著人骨的。
另外經過發掘的是一些大型墓葬，內部用巨木橫疊結構作墓室，規模龐大，不但殉葬器物數量大，珍品多，還殺了大量俘虜殉葬。這些資料所反映的情況是殷統治者殘酷地對待奴隸，迷信鬼神，隆重地祭祀祖先，積聚珍品器物，驅使有專門技術的工奴為統治者製造銅器、玉器、陶器、骨器、紡織品等和進行房屋建造。遺址中還有製造各種器物的工場。