西北戰事才平息，東南沿海一帶戰火又燒了起來。
1883年12月，法國入侵越南，中國也介入了這場戰爭。左宗棠、曾紀澤、張之洞這些軍事實力比較強的人紛紛主張對法作戰，李鴻章卻傾向於求和。
清廷高層主意未定，一方面派遣軍隊進入越南，另一方面再三叮囑千萬不能主動襲擊法軍。
這種自相矛盾的態度大大削弱了前方將士的士氣，戰爭一開始，清軍就全面潰敗，最後，慈禧罷免恭親王，讓李鴻章與法國人談判。李鴻章在天津與法國代表簽訂了《中法會議簡明條約》，承認法國對越南的保護權，承諾撤回邊境上的清軍。
詳細的條款由曾國荃與法國代表談判，中法雙方談判時，法軍卻很不安分，屢屢在中越邊境上滋事。隨後，法軍準備由海路進攻福州。在福州馬尾海域，中國海軍第一次與法軍展開了激戰。
馬尾港口位於福建福州東南，福州造船廠就在這個港口裡。馬尾港是一個河港，四面環山，水很深，可以停泊戰艦。這裡是一個重要的軍事港口，到處是炮台。法國遠東艦隊司令孤拔居然將艦隊駛入馬尾港，還口口聲稱自己不過是來旅遊。
當時清廷有個政策：不可對列強輕啟戰端。所以，福建海疆大臣張佩綸和閩浙總督何璟非但沒有阻止孤拔，還盛情款待法國海軍，彷彿五百年前是一家。
1884年8月22日，法國政府電告孤拔，讓他殲滅中國福建水師。孤拔準備第二天下午開戰，在這個節骨眼上，福建海軍很多官兵上書李鴻章，請求派遣北洋水師來增援。李鴻章是主張求和的，下令福建海軍不要抵抗。8月23日上午8點，法國駐福州副領事白藻泰向何如璋發出最後通牒，讓福建海軍立即撤出馬尾港，否則就開戰。
何如璋接到法國人的通牒後，不僅沒有備戰，反而請求法國人寬限幾日。沒想到孤拔說到做到，當天下午就炮轟馬尾港，福建海軍雖然備戰不足，但還是進行了激烈的反擊。戰鬥持續的時間很短，僅僅半個小時就分出了勝負，福建艦隊十一艘艦艇全部被擊沉，傷亡七百多人。法軍方面，兩艘魚雷艇受重創，死傷三十多人。
第二天，法軍將馬尾港的造船廠摧毀，之後，又將馬尾港兩岸的炮台擊毀。
馬尾海戰是中國創建海軍以來第一次作戰，沒想到開門黑，居然全軍被法國吃掉。
戰後，清廷認識到法國人的真面目，不得不在8月26日對法軍宣戰，並派遣陸軍進入越南，準備與法軍同時展開陸戰和海戰。
在海上戰場，法國艦隊進攻台灣，佔據基隆。台灣巡撫劉銘傳兵力不足，在淡水一帶堅守。法軍儘管佔領了基隆，但是無法再推進，他們不斷地侵犯台北，並騷擾浙江沿海。中國軍隊也不是好惹的，他們奮起反擊，讓法軍難進咫尺，在攻打招寶山炮台的戰鬥中，孤拔的座艦被擊中，孤拔本人身受重傷，不久便死去了。
在中越邊境地帶，中越也正在進行激烈的交火。
1884年底，越南軍將領劉永福配合清軍將宣光城中的法軍圍困了三個多月，就在法軍陷入絕境的時候，援兵趕到，對駐紮在諒山的清軍發動了進攻。當時指揮清軍的是廣西巡撫潘鼎新，他看法軍來勢兇猛，下令後撤。法軍就這樣輕鬆佔領了廣西的門戶鎮南關。佔領鎮南關之後，法軍還在上面樹立一個木牌，上面寫著：「廣西的門戶已經不存在了。」
潘鼎新抵抗不力，清廷革去他巡撫之職，任命年近七十的馮子材取代他。馮子材是一個身經百戰的老將，他到廣西後，積極備戰，挖掘防禦工事。3月23日，法軍兵分三路，進攻清軍基地。在馮子材的指揮下，清軍作戰勇猛，成功擊敗法軍。第二天，法軍再次猛攻清軍基地，馮子材親臨長牆，對將士們說：「如果再讓法軍入關，我們有什麼面目回去見家鄉父老呢？」說完，馮子材手持長矛，跳出長牆，和法軍展開肉搏。清軍上下看主帥如此英勇，個個捨命衝上去。法軍萬萬沒料到清軍會如此英勇，抵擋不住，紛紛潰退。
就這樣，馮子材取得了鎮南關大捷，隨後，馮子材又乘勝出擊，收復了諒山。諒山一仗，清軍擊斃法軍一千多人，繳獲了大量的武器和糧草。這是法國在侵略越南和中國以來遭遇的最大一次挫折，清軍之所以能取得這樣的勝利首先要感謝馮子材這樣鐵骨錚錚的愛國將領。
鎮南關大捷之後，李鴻章立即以此為籌碼，讓法國回到談判桌上來。雙方簽訂了對中國不平等的《中法新約》，當時很多人很氣憤，說：「法國不勝而勝，中國不敗而敗。」