晉軍得到對方的回信，立刻緊急行動起來。謝玄率領80000晉軍，在淝水的東岸排好了陣勢，前面是騎兵，後面是步兵，軍容十分整齊。
決戰的時刻來到了。
苻堅坐著裝飾著雲母的華麗戰車，由幾員戰將簇擁著出了壽陽城。苻融和大將張蚝〔hao豪〕都披上了鎧甲，騎著馬到了陣前。苻堅向對岸看了一下，就叫苻融傳下將令，命令全軍後退，以便騰出戰場，讓晉軍渡過河來決戰。秦軍大部分是被苻堅強迫徵調來的，其中有漢人，也有被奴役的各族人民，他們厭惡戰爭，更不願意替氐族貴族賣命。他們一聽到苻融下令全軍向後移動，就馬上乘機奔逃，你推我擠，爭先恐後，不可阻擋。這時候，朱序在陣後大喊：「秦兵敗啦！秦兵敗啦！」士兵們一聽，兩條腿跑得更快，整個秦軍隊伍潰散了。秦將想用殺人的辦法制止士兵逃跑，可是哪裡制止得住？就連他們自己也被人流擁著向後潰退。就在這個時候，謝玄馬上同謝琰、桓伊等將領率領8000名騎兵，跳進淝水，後面的大隊晉軍也緊緊跟了上來，一起奮勇渡河，排山倒海地衝上岸去。苻堅看到形勢不妙，叫苻融趕快命令秦軍停止後退，掉轉身來迎擊晉軍。可是正在潰退的秦軍，就像決了堤的洪水，根本沒法阻擋。
謝玄抓住這個有利時機，指揮晉軍在後面緊緊追擊。秦軍主將苻融還想親自壓壓陣，制止秦兵繼續潰退。不想一支亂軍衝過來，把他的坐騎衝倒，苻融從馬上摔了下來，晉軍士兵一陣亂刀把他砍死了。秦軍失去了主將，更加混亂，人馬自相踐踏而死的，被晉軍殺死的，不知有多少。真是屍橫遍野，血流成河。
那些僥倖保住了性命的秦軍將士，失魂落魄地向壽陽的西北方向逃命。他們怕晉軍追趕，不敢走大路，只能在長滿了荒草的小路上亂跑。晚上不敢上老百姓的屋裡去住，只能露宿在野外。沿途的老百姓也紛紛拿起武器來打擊秦軍的殘兵敗將。秦兵更加害怕了，誰也不敢回頭看看到底有沒有晉軍追趕他們，甚至聽到風吹的聲音和鶴叫的聲音(風聲鶴唳〔li歷〕)，都認為是追兵到了。這時候正是十一月，天氣嚴寒，這些逃出來的秦兵又凍又餓，最後竟死亡了十之七八。
再說驕傲狂妄的苻堅在壽陽城外看到前線這樣大敗，嚇得喪魂落魄，慌忙跳下雲母車，跨上一匹戰馬，混在亂軍中慌慌張張地逃命。苻堅還沒有跑出多遠，他的肩膀就中了一箭，鮮血直流。他狼狽奔逃，僥倖過了淮河，這時候跟隨他的只有幾個人了。苻堅在淮北收拾殘部，才聚集了1000多騎兵。他的部下只有鮮卑貴族慕容垂的30000人沒有受到什麼損失，他就帶了1000多名騎兵到了慕容垂那裡，一起往洛陽撤退。苻堅沿路又收集了一些潰兵，回到洛陽的時候，只剩下十幾萬人了。苻堅很是傷心，對他那個最寵愛的妃子說：「這次敗得這樣慘，我還有什麼面目統治天下啊！」
淝水大戰的勝利捷報，飛快地傳到了建康。這天宰相謝安正在家裡和朋友下棋。他看完了謝石送來的戰報，知道秦軍已經被打敗，隨手把它放在床上，照舊下棋，好像根本沒有發生什麼事一樣。那個朋友忍耐不住，問謝安：「戰場上的情況怎樣了？」謝安這才從容回答說：「沒什麼，孩子們已經把苻堅打敗了。」那個朋友聽了，把棋盤一推，連忙跑出去向同僚們報告喜訊去了。過一會兒，謝安起身回到內宅去，這時候他再也抑制不住內心的狂喜心情，當他跨過門檻的時候，竟把腳上穿的木屐〔ji機〕的齒碰斷了，可他自己還不知道。
淝水之戰是東晉和十六國時期最大的一次戰爭。前秦從大舉進攻到淝水決戰，前後只有四個月的光景，就全線崩潰了。經過這一戰，東晉相對穩定的局面得到了鞏固，江南的經濟、文化進一步發展。與此相反的是，由於苻堅的失敗，前秦政權隨之瓦解了，以前被苻堅滅亡的許多國家紛紛復國，本來沒有建立國家的一些少數民族也紛紛立國，北方再度陷入割據混戰的局面。
在這次戰爭中，前秦軍隊90多萬，東晉軍隊只有八萬，戰爭的結果，卻是晉勝秦敗。這裡根本的原因，是由於苻堅所發動的戰爭是為了無限度地擴大他的統治範圍、掠奪江南物產的非正義戰爭；東晉為了保衛國土，保衛家鄉，反對掠奪和蹂躪而戰，進行的是正義戰爭。前秦雖然在經濟和軍事上都佔優勢，但是內部矛盾重重，人民厭戰，貌似強大，實際虛弱，當時並不具備統一南北的條件；東晉雖然經濟不雄厚，軍力也比較弱，但是內部比較團結，後方比較安定，人民積極支持，經過主觀努力，終於能夠打敗強敵，取得輝煌的勝利。
東晉取得這次戰爭的勝利，主要應歸功於東晉的廣大士兵和人民；而宰相謝安能夠鎮靜地進行決策和部署，謝玄等將領能夠根據敵我實際情況運用靈活的戰略戰術，也是重要的原因。而苻堅驕傲輕敵，不顧客觀形勢，不聽正確意見，一意孤行，一味蠻幹，結果造成了秦軍的慘敗。