我們在前面已經提到，在元朝時就曾設置澎湖巡檢司，負責台灣與澎湖列島一帶的海防與治安。但是到了明朝初年，由於海上倭寇的猖獗，明政府撤銷了澎湖巡檢司這一機構，並將澎湖列島的居民撤往大陸。明朝政府的這一做法，不但沒有起到遏制倭寇的目的，反而讓澎湖列島逐漸成為了倭寇的據點。
在明朝時，台灣島與大陸的聯繫已經十分密切，當時有不少大陸人渡海來到台灣島居住。明朝雖然沒有在島上設立行政機構，但明軍在追剿「海寇」時曾多次進入台灣，並把台灣及其附近海面列為軍事防禦區域。天啟二年（1622年），荷蘭人第二次被明朝軍隊從澎湖驅逐之後，便轉向台灣，侵佔了台南一帶。天啟六年（1626年），西班牙人也步荷蘭人的後塵，佔據了台北一帶。明朝末年，荷蘭人趁在台灣中部的北港一帶建有政權的鄭芝龍（鄭成功之父）將活動從台灣轉向大陸之機，獨佔了台灣島。
清順治十八年（1661年），鄭成功因為在大陸抗清不利，決定改以台灣為基地，因此他從廈門出兵，前去攻打台灣。第二年初，荷蘭侵略者投降，退出了台灣島。隨後，鄭成功和他的兒子鄭經在台灣和澎湖設立了三個安撫司和下屬的府、州，建立了奉南明永曆為正朔的鄭氏政權。
在清初的朝廷官員中，對台灣鄭氏政權一直存在著安撫與剿平的兩種主張，並且以前一種主張佔主導地位。到了康熙初年，隨著平定「三藩」（指平西王吳三桂，平南王尚可喜及其子之信，靖南王耿仲明及其子繼茂、孫精忠）戰爭的節節勝利，康熙對台灣鄭氏政權的寬大態度發生了很大的變化。
康熙二十年（1681年），鄭經在台灣病故，鄭氏集團內部為了爭奪權位，引發了一場內訌。不久之後，清軍也正好將「三藩」全部平定。這兩件事情都促使康熙決定派兵奪取台灣。康熙二十二年（1683年），清朝軍隊在施琅的率領下攻佔台灣，鄭成功之孫鄭克塽投降。
鄭氏政權投降之後，對如何處置台灣的問題，又出現了兩種不同的意見。一種意見認為，台灣孤懸海外，對於清政府來說不免顯得鞭長莫及，如果派兵前去鎮守，還會造成錢糧方面的不少浪費，不如索性放棄台灣島，把島上的居民遷回大陸。甚至有人荒唐地提出，把台灣轉讓給荷蘭。另一種意見則是以施琅等人為代表，他們堅決反對棄守台灣，認為台灣雖然是一座孤島，但是它的戰略地位十分重要，關係到福建、廣東、江蘇及浙江四省的安危。如果放棄台灣，必將釀成大害。因此，只有守住台灣，才能永固邊防。康熙認為施琅等人的意見很有道理，於是採納了他們的建議，決定設置駐守，把台灣重新納入中央政府的統管之下。康熙二十三年（1684年），清朝在台灣島設府，治所設在今台南市，隸屬於福建省。從此，長期由當地人民自治的台灣島，出現了大陸政權設置的正式行政區劃。
19世紀中葉，日本向外侵略的擴張野心日益顯露，開始將手臂伸向台灣。然而對於日本來說，要實現侵佔台灣，第一步則需要先將台灣島以北的琉球吞併。於是在同治十一年（1872年），日本便迫使早與中國有宗屬關係的琉球國王接受「藩王」的封號。在接下來的一年裡，日本利用同治十年（1871年）琉球船民幾十人因船失事漂流到台灣琅硚地方遇難一事，派官員到北京，向清政府總理衙門提出交涉。同治十三年（1874年），日本在長崎設立了侵台的軍事基地，決定向台灣進兵，第二年，日本出動陸、海軍三千多人，悍然發動了對台灣的進攻，從琅硚登上了台灣島。當地高山族人民面對日本侵略軍，進行了英勇的抗擊，先後打死打傷日軍五六百人，迫使日軍退踞龜山。
清政府在得知日軍侵台的消息後，一面向日本政府提出嚴正抗議，一面派遣福建船政大臣沈葆楨為欽差大臣，帶領輪船、兵弁，以巡閱為名前往台灣察看，並命福建布政使潘霨幫同辦理。日軍在高山族人民的抗擊下，傷亡已經不小，現在看到清軍的增援部隊又來到台灣，知道要想以武力霸佔台灣已很難實現。於是，日本改變了策略，轉而進行外交訛詐。在英、美駐華公使的幫助下，日本終於迫使清政府訂立了中日《台事專約》（又稱《北京專約》）三款，規定中國向日本賠款五十萬兩，作為日本從台灣撤軍的條件；承認台灣高山族人民「曾將日本國屬民等妄為加害」，日軍侵台是「保民義舉」。後來日本以此為依據，硬說中國已承認琉球為日本的屬國，在光緒五年（1879年）正式吞併琉球，廢除其國王，將琉球改為沖繩縣。
光緒十一年（1885年），為加強對台灣的控制，清政府又分福建台灣府建立台灣省，隨後分建台灣、台北、台南三府，台東一直隸州，三廳，十一縣。台灣巡撫駐台北府。光緒二十一年（1895年），清政府在甲午戰爭失敗後，被迫與日本簽訂了不平等的《馬關條約》，台灣省被割讓給了日本，淪為了日本的殖民地。直到1945年第二次世界大戰結束後，台灣才被歸還給中國。