傳說夏朝的天文台叫清台，商朝叫神台，到了周朝則稱做靈台。
《詩·大雅》中有一首詩歌叫《靈台》，敘述了周文王曾在豐邑的西郊建築了一座靈台，台高兩丈，周長420步。周以前的天文台主要是為了祭祀日月設立的，所以天文台只是一個高於其他建築物的平台，台址一般選擇在平坦的開闊地帶。
中國古代的帝王多自詡〔xu許〕「受命於天」，認為天象變化與自己的統治地位息息相關。他們當然希望天上的「信息」只傳遞給他們自己，所以他們總是牢牢地掌握著天文觀測機構，只許在皇城建立天文台。但有時，當中央權力失去控制力時，各諸侯國就會不顧禁令，紛紛設台。春秋時的魯國就建立了自己的天文台，叫觀台。
後來，由於天文觀測項目的增加和祭祀活動的頻繁，活動場地就需要分開，祭祀活動改到叫明堂的建築物去舉行，天文台則專司觀測天文和氣象。
史書記載，西漢時，都城長安的郊區建有天文台，開始也叫清台，後改為靈台。台上安置了渾儀、銅表和相風銅烏等天文氣象儀器。東漢時，漢光武帝於中元元年(公元56年)，在洛陽城平昌門附近建立了明堂和靈台各一座。靈台東西兩面有牆垣，牆內中心有一座方形高台，是觀測天象的場所。高台四周有10多間屋舍，是觀測人員住宿、辦公之地。天文學家張衡從元初二年(公元115年)到陽嘉二年(公元133年)期間，曾兩次被委以太史令之職，直接管轄靈台的觀測工作。東漢靈台在三國、西晉時期還在使用，直到北魏才被廢棄。1974年在河南省偃師縣發掘出該靈台遺址。遺存的台基由泥土夯成，高約八米，佔地達4.4萬平方米。
唐代長安城郊最主要的天文台是仰觀台，又叫司天台，直接歸太史監管轄，天文學家李淳風就是在這裡進行觀測的。唐代中期，在集賢院里專為天文學家一行建了一座仰觀台。另外，在陝西省咸陽附近還有一座清台，專供天文學家薛頤占卜吉凶之用。隋唐時代流行一種風氣，皇帝不但在都城郊區建立天文台，而且在皇宮內院也設立宮內天文台。
北宋時，國力強大，科技發達，僅汴京(今河南開封)一地就設立了四個天文台，其中司天監的岳台和禁城內翰林天文院的候台是主要的觀測台。兩台的儀器一模一樣，用於對比檢查測量結果。當有異常天象出現時，兩台必須互相核對，並同時上報，以防誤報或作假。四個天文台都備有大型渾儀，各用銅兩萬斤鑄成。除此之外，宋政府還設立了一個校驗所，校驗渾儀和漏刻的準確性。朝廷被迫南遷以後，在臨安(今杭州)先後又建了兩座天文台，一座為太史局司天台，一座為秘書省測驗所。關於宋代天文台的建築布局，我們只能從南宋數學書里的一幅插圖了解其大致情況(見圖17)。
金朝在燕京(今北京)建都，設立天文台。由於金人來自文化落後地區，沒有精良的觀測儀器，於是把北宋的儀器圖書全部北遷。但其中的渾儀是按開封的地理緯度設計的，不能用於北京。
元人進駐大都(今北京)以前，曾在上都(故址在今內蒙古正藍旗東閃電河北岸)建立過一個回回天文台，由西域人扎馬魯丁主持。回回天文台使用阿拉伯天文儀器測量，並編製阿拉伯天文體系的各種數表，成為阿拉伯天文學在東亞的研究中心。從史書對阿拉伯天文儀器的描述，推斷回回天文台的規模不會太小。
在河南登封縣告成鎮，有一座奇怪的建築物，房不像房，塔不像塔，高聳的建築物下面向北延伸一條很長的「路」，這就是建於元初的登封觀星台。據說觀星台的原址早在周代就用於天文觀測。當地人直到現在還稱它「周公測景台」。據傳，唐代開元年間，一行和南宮說〔yue月〕等人進行全國天文大地測量時，曾在這裡立起一塊石表，上刻「周公測景台」，似乎確有其事。「景」，通「影」。測景台即是測影台。觀星台建築物本身就是一個絕妙的表：高台中央的門就作為表端，「路」由36塊石板鋪成，就作為圭，這樣大的圭和表，是郭守敬的傑作。現存的登封觀星台，曾經過明代的整修，圭長31.19米，台高9.46米，台上附設兩室，但室內空空，沒有留下任何儀器。登封觀星台不僅是中國現存最早的天文台，而且也是世界上最古老的天文台之一。元代像登封觀星台這樣的官方天文點，共有27個，分布於全國從北緯15°到北緯63°的廣大地區。
作為元代官方主要天文台的司天台，建在大都城的東南方向，完成時間是至元十六年(公元1279年)，300多年以後毀於戰爭。通過元代《太史院銘》中的敘述，可了解司天台的基本布局，並復原成圖(見圖18)。司天台台高七丈，外有圍牆，圍牆長200步，寬150步。整個建築分三層，下層是辦公用房，太史令等官員在南房，推算局在東廂房，測驗局和漏刻局在西廂房，輔助人員在北房；中層有八個房間，用於貯放圖書、儀器等；上層是露天平台，置有簡儀、仰儀、圭表和玲瓏儀等儀器，印歷工作局也設在上層。司天台是當時世界上最先進的天文台之一，可以和中亞的馬拉加天文台相媲美。
明代洪武十八年(公元1385年)，在南京雞鳴山上建造了觀星台，台上的儀器是元代的，為了使儀器適於在南京觀測，對儀器做了改造。與此同時，在南京雨花台上還建造了回回觀星台，所用儀器都是原上都天文台的阿拉伯儀器。
北京古觀象台，是明清兩代的官方天文台，至今已有544年的歷史，它坐落在北京建國門立交橋旁，至今保存完好。觀象台上安置的儀器，大多是耶穌會傳教士設計的，除在造型上稍有些中國特色外，結構和工藝等方面無不反映出當時歐洲的儀器製造水平。清代天文學家曾在這座觀象台上進行過兩次重大的系統觀測，第一個成果是制定以1744年為曆元的《儀象考成》星表，包括3083顆恆星；第二個成果則是在第一次觀測的基礎上將恆星數目擴充到3240顆，編入《儀象考成續編》星表，並改1844年為曆元。