鴉片戰爭後，中國就沒少接受炮火的洗禮。
1874年，日本悍然發兵台灣，中國竟然被這樣一個彈丸小國欺負，不僅損失了琉球島，而且還要賠給日本一筆巨款。這場戰爭讓清廷意識到中國海防的薄弱，11月5日，以李鴻章為首的總理衙門呈上了一份奏摺，強調必須加強海防，重點提出練兵、引進新式武器、多造船的策略。11月19日，前任江蘇巡撫丁日昌呈奏《海洋水師章程》，請求建立北洋、東洋、南洋三支海軍，分別守衛北海、東海、南海三面海域。
李鴻章更是呈奏了一篇「萬言書」——《籌議海防折》，條分縷析，說中國江海門戶大開，敵人可以隨便出入，這是非常危險的事，只有建立一支現代化的海軍，才能確保江海門戶的安全。如果李鴻章只是建議加強海防的話，倒不會引起太多的爭執，關鍵的是他還說自古清廷一直重視西北的邊防，但現在形勢發生了改變，政府應該更加重視海防。
李鴻章的意思是政府應該把海防當成頭等大事，至於西北邊防相對沒有那麼重要，李鴻章還抱怨說西北即使平安無事，每年還耗費三百多萬兩銀子，很不值。當時，新疆問題很嚴重，俄國軍隊已經侵入伊犁，左宗棠聽說李鴻章建議暫緩西征，立即跳了起來。
左宗棠當時是陝甘總督，主持西北的防務，如果清廷採納李鴻章的建議，必定削減西北的軍費。左宗棠立即上了一道奏章：「海防固然重要，塞防也很重要，兩者不可偏廢，新疆一定要收復。」
清廷經過反覆考量，接受了左宗棠的建議，海防與邊防並重，一面任命左宗棠為欽差大臣督辦新疆事務，一面讓李鴻章辦理北洋海防事務，沈葆楨辦理南洋海防事務。
當時清廷財政比較拮据，最後不得不放棄同時建立三支海軍的打算，決定先打造北洋海軍。李鴻章著手建立北洋海軍後，建議朝廷購買外國戰艦，清廷沒辦法，只好在國外購買了46艘戰艦。此外，福州船政局和江南製造局也造了23艘小型艦船。
1885年10月，清廷成立總理海軍事務衙門。1888年海軍衙門制定了《北洋海軍章程》，任命丁汝昌為北洋海軍提督，留英的海軍人才林泰曾、劉步蟾為總兵。除了北洋艦隊之外，清廷也在陸續建立廣東、福建、南洋三支艦隊。