國民革命失敗後，中國處於四分五裂的狀態。蔣介石的南京政府、汪精衛的武漢政府和張作霖的北京安國軍政府各霸一方，互相對峙。馮玉祥則控制著陝西、甘肅、河南三省。山西的閻錫山，雲南的龍雲，四川的劉湘、劉文輝，廣東的李濟深等，都各佔一方，處於實際獨立狀態。經過清黨後的國民黨，已不再是工人、農民、小資產階級和民族資產階級的聯盟，而成為大地主大資產階級的政黨，並分裂為許多派系，各派系在反共態度方面雖然一致，但在爭奪黨權、政權、軍權方面卻互不相讓。
1927年9月，南京政府以李宗仁為首的桂系聯合汪精衛集團，逼迫蔣介石下野。武漢政府宣布併入南京政府。南京、上海和武漢的國民黨各派系合組中央特別委員會，改組南京政府，以譚延闓、汪精衛、胡漢民、蔡元培、李烈鈞為國民政府常務委員。但蔣介石依靠其掌握的軍事實力，於1928年1月東山再起。通過國民黨二屆四中全會，蔣介石出任中央政治會議主席、軍事委員會主席。譚延闓為國民政府主席。蔣介石雖然掌握了中央政權，但還沒有力量控制地方，不得不於廣州、武漢、開封、太原設立四個政治分會，分別由李濟深、李宗仁、馮玉祥、閻錫山擔任主席，表示承認地方實力派的地位。
當南方政局陷入混亂之際，盤踞北方的張作霖及孫傳芳乘機反攻，對國民黨實力派構成嚴重威脅。因此，南京國民政府決定繼續北伐。蔣介石擔任國民革命軍總司令兼第一集團軍總司令。第二、三、四集團軍總司令分別由馮玉祥、閻錫山、李宗仁擔任。1928年4月，北伐軍沿津浦、京漢兩鐵路向北推進。張作霖的安國軍節節敗退。5月3日，北伐軍攻入濟南，日本軍隊悍然進行武裝干涉，製造慘案。北伐軍繞道北進，6月初逼近京津，張作霖見大勢已去，便退回關外，北伐軍進入北京。張作霖於撤退途中被日軍炸死，其子張學良繼任「東北保安司令」。經過半年的談判，張學良於12月29日通電服從南京國民政府，改易旗幟。至此，中國南北實現了形式上的統一。
南京國民政府在內政、外交各方面採取一系列的措施，以鞏固其統治。蔣介石以實現孫中山的《建國大綱》為名，頒布「訓政綱領」，推行「以黨治國」：由國民黨「領導國民行使政權，國民政府總攬治權」。政府由司法、立法、行政、考試、監察五院組成。蔣介石擔任國民政府主席兼陸海空軍總司令。1929年3月，蔣介石通過國民黨第三次全國代表大會，使汪精衛的改組派等一切反蔣派別都受到打擊和削弱，蔣進一步控制了黨權。為了加強對中國共產黨的鎮壓和對其內部的控制，蔣介石授意陳立夫、陳果夫、賀衷寒、戴笠等人建立特務組織，於20世紀20年代末組成CC集團，於30年代初組成「力行社」（其外圍組織稱「中華民族復興社」）。這兩個組織後來分別改組為「國民黨中央執行委員會調查統計局」（簡稱中統）和「軍事委員會調查統計局」（簡稱軍統）。同時還在各省市推行保甲制度，加強對城鄉人民的控制和壓迫。
為了取得帝國主義列強的支持，國民政府聲明對北洋政府遺留下來的外債，一般均予承認。在關於帝國主義炮擊南京事件和濟南「五三」慘案的交涉中，採取了「忍讓」的方針。同時，國民政府外交部發表了「關於重訂新條約之宣言」，否認列強協定關稅和領事裁判權的合法性。經過談判，列強承認了中國關稅自主，但仍附有一些不平等條件。
得到江浙一帶大資產階級支持的南京國民政府，採取了一些有利於資本主義經濟發展的政策和財政措施，以促使經濟發展和增加政府收入。由於連年用兵，政府財政支出不斷增加，軍費佔財政支出的一半以上。為了增加收入，穩定財政，在先後擔任財政部長的宋子文和孔祥熙主持下，提高了關稅，對鹽稅大加整頓，又裁撤厘金，對工業產品統一徵收統稅。關稅、鹽稅和統稅逐年增加，在國民黨統治初期，約佔中央財政收入的一半以上。同時整理金融外債，成立了中央銀行，享有經營國庫、發行鈔票和辦理內外債的特權。此外，進行幣制改革，統一全國貨幣，逐步確立了政府對金融的壟斷地位。隨著國民政府一系列經濟措施的實行，到30年代，中國開始出現蔣、宋、孔、陳四大家族官僚資本。
南京國民政府初期，最重視的是軍事。整頓財政、增加稅收的主要目的，是為了支持蔣介石掌握的軍事實力。1929年初，蔣介石召開「編遣會議」，企圖裁減馮玉祥、閻錫山和李宗仁的軍隊。這就激化了他與地方實力派之間的矛盾。同年3月，首先爆發的是蔣桂戰爭，以桂系失敗告終。接著發生蔣馮戰爭、第二次蔣桂戰爭和蔣唐（生智）戰爭。以國民政府名義下「討伐令」的蔣介石在這次戰爭中都取得了勝利。1930年發生的蔣閻馮大戰，歷時七個月，雙方死傷三十多萬人，這是民國史上最大的一次軍閥混戰。戰爭期間，國民黨改組派、西山會議派等反蔣派別在北平（今北京）聯合召開了國民黨中央黨部擴大會議，成立了以閻錫山為首的國民政府。隨著閻、馮在戰場上的失敗，張學良指揮東北軍入關支持蔣介石，閻、馮和桂系反蔣聯合戰線傾刻瓦解了。蔣閻馮大戰結束後，蔣介石提出召開國民會議，制定《中華民國訓政時期約法》，企圖以此來鞏固自己的統治地位。蔣的主張遭到立法院長鬍漢民的激烈抨擊。蔣於1931年2月將胡扣押，並於5月在南京召開「國民會議」，通過了《中華民國訓政時期約法》。於是，國民黨各派要人集中到廣州召開非常會議，通電要求釋放胡漢民、罷免蔣介石，並於5月28日成立了國民政府，推汪精衛擔任主席，與南京國民政府對抗。陳濟棠指揮粵軍北上，寧粵戰爭爆發。正當此時，日本帝國主義發動「九一八」事變，全國各階層人民要求抗日，國民黨各派系也不得不停止混戰。12月，蔣介石被迫辭職。寧、滬、粵三方國民黨中央執行委員會和監察委員會在南京聯合召開會議，改組南京政府，以林森為國民政府主席，孫科為行政院長。廣州政府雖然宣布取消，但孫科無力應付日益混亂的局面和財政危機，於次年1月辭職。蔣介石重新上台，出任軍事委員會委員長兼軍事參謀部參謀長，汪精衛擔任行政院長，從此開始蔣汪合作的局面。
當國民黨新軍閥混戰的時候，共產黨領導的土地革命戰爭在南方農村蓬勃展開。為了反擊國民黨背叛革命和對工農的屠殺政策，中國共產黨領導的軍隊兩萬餘人，由周恩來、賀龍、葉挺、朱德等指揮，於1927年8月1日舉行南昌起義。8月7日，中共中央在漢口召開緊急會議，糾正和結束了陳獨秀右傾投降主義路線，並決定在湘、鄂、贛、粵四省趁秋收時節發動農民暴動。毛澤東以中央特派員的身份到湖南領導湘贛邊界秋收起義。12月，張太雷、葉挺等發動廣州起義。由於國民黨當局的殘酷鎮壓，各地起義均遭失敗。毛澤東率領秋收起義的隊伍撤退到井岡山，創立了第一個農村革命根據地，為中國革命開闢了農村包圍城市的道路。此後，朱德、陳毅率領南昌起義保留下來的部隊，彭德懷率領平江起義部隊先後到達井岡山，壯大了革命隊伍。1928年夏，中國共產黨在莫斯科召開了第六次代表大會，決議展開土地革命，創建工農紅軍，建立蘇維埃政權，以武裝鬥爭推翻國民黨統治。此後，工農紅軍和革命根據地都有很大發展。以毛澤東、朱德率領的紅四軍主力，開闢了中央革命根據地，包括湘贛、贛南、閩西、湘鄂贛和閩浙贛等幾個地區。此外，還有鄂豫皖、湘鄂西、左右江、陝北等十幾塊根據地。各根據地先後開展了土地革命，打土豪，分田地，變封建地主所有製為農民的土地所有制，使紅色政權獲得深厚的群眾基礎。1931年11月，中華蘇維埃共和國臨時中央政府在江西瑞金成立，毛澤東任主席。
對中國共產黨人的革命鬥爭，特別是紅色根據地的發展，國民黨十分恐慌。從1930年蔣閻馮大戰結束後，一方面在其統治區內加強對文化教育事業的控制，發動新生活運動，對進步文化實行文化「圍剿」；一方面抽調龐大兵力，由蔣介石指揮，對革命根據地連續發動四次軍事「圍剿」。工農紅軍打破了蔣介石的四次軍事「圍剿」，發展到三十萬人，成為國內舉足輕重的一支力量。
1931年，日本帝國主義製造「九一八」事變，侵佔中國東北三省。蔣介石下令不抵抗，張學良的東北軍不戰而退。1932年1月28日，日軍進攻上海，駐守上海的十九路軍奮起抗戰，國民政府與日本侵略者簽訂《淞滬停戰協定》，將十九路軍調往江西、福建反共戰場。同年2～3月，日本公然以清廢帝溥儀為傀儡，於長春成立「滿洲國」。日本侵略軍於1933年上半年大舉進攻熱河。駐守長城一線的國民黨駐軍奮起抵抗，在喜峰口、冷口及古北口等處，屢敗日軍。馮玉祥同共產黨人合作在張家口組織察哈爾民眾抗日同盟軍，對日作戰，收復察哈爾失地。11月，十九路軍在福建發動反蔣抗日，成立了「中華共和國人民革命政府」。這些抗日活動先後被南京國民政府