一八四○年，英國殖民者發動了侵略中國的鴉片戰爭。一八四二年八月二十九日，清朝政府在英國侵略軍的艦炮威逼下，接受了喪權辱國的《南京條約》，中國由此開始淪為半殖民地。清朝軍隊在鴉片戰爭中的屢次失敗和《南京條約》的嚴酷現實，促使清朝統治集團中的一些有識之士睜開雙眼，開始觀察外面的世界。
抗英名臣林則徐和思想家魏源大膽發出了「師夷長技以制夷」的吶喊，要學習西方國家「堅船利炮」等先進的科學技術以抵禦外來侵略，並初次提出了創建近代海軍的草案。一八五六至一八六○年，英法兩國聯合發動第二次鴉片戰爭。英法聯軍的海軍艦隊在中國萬裏海疆如入無人之境，清政府在又一次的「創巨痛深」的危局中，開始著手興辦近代海軍海防，但很快就因受到挫折而止步不前。
此一時期，我們的東鄰日本，正是「明治維新」之後，政治、經濟、文化、軍事逐漸發達強大起來的時期。當李鴻章還在江蘇的時候，日本就多次派員到淮軍軍營考察學習，李鴻章也曾受到日本積極學習西方軍事的啟發，發展洋務。同時，他又隨時關注著日本的不斷強大，感到日本對於中國是一個潛在的威脅，中國應該提高警惕。明治政權在不斷廢除不平等條約的同時，開始蓄謀向亞洲鄰國進行侵略擴張，對中國、朝鮮、琉球等國虎視眈眈。同治九年（一八七○年），羽翼尚未豐滿的日本看到列強紛紛在中國謀取利益，便派外務大臣柳原前光到中國來試探，李鴻章接見了這位外交使臣。
柳原前光只是試探性地提出請求兩國友好通商，李鴻章這時的心思是，中國近年來飽受西方列強的侵略，要是與日本建立合作關係，就可以聯手對付西方侵略者。
柳原前光回去之後，日本政府又派代表來中國與清政府談判，但是並沒有像李鴻章想像的那麼簡單，日本提出要求中國給予片面最惠國待遇，在中國內地通商，與西方諸國一體利益均沾。李鴻章一看日本如此狂妄，氣不打一處來，他堅決不理會日本的要求。這時的日本雖然野心勃勃，但是畢竟羽毛未豐，沒有實力對中國施加武力。最後雙方簽訂了《中日修好條規》和《通商章程》，除了在指定通商口岸貿易之外，還規定雙方不得侵犯「邦土」，遇有外敵侵略應該互相幫助。這一條約基本是按照李鴻章的設想簽訂的，打破了日本染指中國的幻想，還在表面上建立了中日聯合的東方陣線，一定程度上有利於抵禦西方侵略。
不過日本政府對此非常不滿，隨後又派柳原前光來找李鴻章交涉，要求改簽條約，謀求更多的利益。李鴻章大為光火，將柳原大罵一頓，柳原見無隙可乘，只得灰溜溜地跑回國。但是日本並不甘心，暗地裡伺機另找突破口。
機會終於來了，同治十一年（一八七二年）底，有琉球船隻因遇颶風漂到台灣，被台灣高山族誤殺船民五十多人。第二年初，日本小田縣四人漂到台灣，也因被誤認為是外敵入侵而被島民所殺。琉球是中國的藩屬國，台灣則是中國的領土，本來與日本無關，但日本卻趁機要挾中國，企圖進佔台灣。
日本政府派柳原來中國換約，柳原知道李鴻章的態度強硬，所以他沒有與李鴻章接觸，而是直接跑到總理衙門指責台灣島民殺害琉球船民，並聲稱琉球不是中國的藩屬國，而是日本領土，並要求中國嚴懲台灣兇手。柳原的這一無理要求遭到了總理衙門的駁斥。日本見無理要求沒有奏效，就開始尋求武力解決。一年後，在美國的幫助下，日本悍然出兵佔領了台灣的東部琅嬌。
英國駐華公使見美國幫助日本獨自插手侵略中國，大為不滿，一方面提出抗議，一方面將這一消息告知清政府。清政府在李鴻章的建議下，派福州船政大臣沈葆楨為欽差，率軍萬人前往台灣彈壓，並帶淮軍劉銘傳及船政監督法國人日意格協助。
日本此時並無實力與中國正面交戰，於是又派柳原前光與清政府談判，企圖通過外交手段獲取利益。他們除了要求所謂懲凶之外，還索要軍費白銀二百萬兩。結果又被李鴻章一頓臭罵，柳原灰溜溜跑回日本。
日本派內務卿大久保利通繼續與李鴻章談判，此時清政府與李鴻章也想盡快和平解決，加上西方列強為各自的利益也出面調停，最後雙方簽訂了《北京專條》：日本從台灣撤兵，中國承認日本侵台是「保民義舉」，給日本撫恤銀五十萬兩。
《北京專條》的簽訂，除了讓日本試探到了清政府的底細之外，還給日本吞併琉球留下了隱患。因為條款當中，清政府並沒有明確中國與琉球的宗藩關係，而是承認了日本的「保民義舉」，同時也使得列強更加感到清政府的無能。
一八七四年，日本尋找藉口出兵侵犯台灣。此事雖以和議告終而未開啟更大戰端，卻在中國朝野上下引起更強烈的震動。由此，在內部引發了一場轟轟烈烈的「海防大討論」。一八七四年十一月，總理衙門的文件中強調了海防的重要性和緊迫性，並提出「練兵」、「簡器」、「造船」、「籌餉」、「用人」、「持久」等辦法。請沿海各省的督撫和將軍進行討論。
此時身任直隸總督兼北洋大臣的李鴻章，呈交了洋洋萬言的《籌議海防摺》，陳述了海軍海防大業的重要戰略意義，要求大舉興辦近代化的海軍海防。李鴻章首先分析了中國所面臨的前所未有的嚴酷形勢：歷代備邊，多在西北。其強弱之勢，客主之形，皆適相埒，且猶有中外界限。今則東南海疆萬餘里，各國通商傳教，來往自如，麇集京師及各省腹地，陽托和好之名，陰懷吞噬之計，一國生事，萬國構煽，實為數千年未有之變局！輪船電報之速，瞬息千里；軍器機事之精，工力百倍。炮彈所到，無堅不摧；水陸關隘，不足限制，又實為數千年來未有之強敵！李鴻章還痛切指出了處理國際關係的根本是在於國家之實力：「洋人論勢不論理，彼以兵勢相壓，我等欲以筆舌勝之，此必不得之數也」。他又指出歷史時機的緊迫性——「正值海防吃緊之際，不特為外人所竊笑，且機會一失，中國永無購鐵甲之日，即永無自強日！」
李鴻章在奏摺中還闡述了關於海防的具體實施辦法。提出中國應以陸軍為主，海軍設立南洋、東洋、北洋三支水師。左宗棠提出不同的意見，他認為，現在大清國應該實施「東則海防，西則塞防，二者並重」的意見。他認為，如果設立三支水師，那麼將導致領導的不統一，三支水師會各自為政。他建議，海軍應該統一領導。
李鴻章和左宗棠的分歧在於，李鴻章認為西北塞防可有可無，甚至可犧牲新疆作為代價。而左宗棠認為西北邊疆十分重要，塞防不固，則西北屏障盡失。當時清政府面對的局勢是沙俄侵佔伊犁，阿古柏佔據新疆，收復新疆迫在眉睫。一八七四年底，同治帝病死，光緒帝繼位，慈禧再次垂簾聽政。次年，海防討論進入了廷議階段。以奕訢為首的總理衙門既沒有採納李鴻章的意見，也沒有贊同全力注重西征的主張，最後作出「海防」、「塞防」並重的方針。令李鴻章負責海防，令左宗棠去負責「塞防」問題。
左宗棠在稍後的奏摺中，看似支持朝廷意見，實際是主張全力西征。在他看來，海防沒有現實的危險，「竊維泰西諸國之協以謀我也，其志專在通商取利，非必別有奸媒……商賈計日求贏，知敗約必礙生計也，非甚不得已，何敢輒發難端。自輪船開辦，彼挾以傲我者，我亦能之；而我又博心抑志，方廣求善事利器益為之備；謂彼猶狡焉思啟，顧而他之，似亦非事理所有。」顯然，左宗棠認為西方各國無意侵犯，而中國已有足夠的準備，海防不足為慮。言外之意就是應該全力西征。
李鴻章則認為當時的主要危險來自漫長的海疆，尤其是京津和滬寧是國家的腹心所在，一定要以海防為重點。但是，李鴻章沒有考慮到，西陲有事應在短時間內集中人力物力先行解決。左宗棠的成功就在適應了這一需要，雖然他對海防形勢的估計未免過於樂觀。當時清政府的財政非常困難，只好把能夠動用的財力主要用於西征。李鴻章在「海防大討論」以及後來關於海軍海防的竭力倡言，為近代中國海軍海防建設起到了有力的推動作用。
在以李鴻章為代表的務實派高級官員們的努力倡導下，清政府建成了福建、北洋、南洋和廣東四支小規模的海軍艦隊。然而，法國侵華遠征艦隊於一八八四年八月中法馬尾海戰中，竟然全殲了最早組建的整個福建海軍。中法戰爭剛一結束，光緒帝就鄭重發佈了大力擴充海軍的上諭：「自海上有事以來，法國恃其船堅炮利，橫行無忌。我之籌劃備禦，亦嘗開立船廠，創立水師。而造船不堅，製器不備，選將不精，籌費不廣。上年法人尋釁，迭次開仗，陸路各軍屢獲大勝，尚能張我軍威；如果水師得力，互相援應，何至處處牽制。懲前毖後，自以大治水師為主！」隨即，光緒帝下諭設立了總理海軍事務衙門，簡稱海軍衙門。
海軍由此成為國家的正式軍種，近代中國的海軍海防事業開始步入正軌的發展時期。光緒帝的生身父親醇親王奕譞親自出任總理海軍大臣，而一直力主大舉興辦海軍的李鴻章出任會辦海軍大臣，具體掌