至德二年（757年）二月，肅宗從彭原（今甘肅寧縣）進至鳳翔（長安西300餘里），向長安逼近了一大步，並召集諸道兵馬，謀取收復長安。長安人聽說肅宗到達鳳翔後，紛紛從城中逃出歸順唐軍。
當時，協助肅宗指揮全局的李泌主張先派安西及西域兵進軍東北，從歸州（今河北懷來）、檀州（今北京密雲）南攻范陽，先奪取叛軍老巢，讓叛軍首尾不能相顧，疲於奔命，這樣，唐軍便能以逸待勞。肅宗求勝心切，說：「現在大軍已集，江淮庸調也到，應以強兵直搗叛軍腹心。如果派兵至東北數千里，先攻取范陽，則是捨近求遠。」李泌說：「如果現在以所有的兵力收復兩京，雖能攻下，然而叛軍一定會東山再起，我軍又將陷於危急境地。現在我們的精兵主要是西北邊鎮和西域諸胡的軍隊，性耐寒而畏暑，如果利用其士氣，進攻叛軍疲勞之師，一定能夠攻克。而現在兩京已到春天，叛軍收其殘兵，逃歸范陽老巢，關東暑熱，官軍忍受不了，一定要回西北。這時叛軍休兵秣馬，將會捲土重來。那樣就會征戰不休。不如先用西北之兵攻取叛軍巢穴，其退路已斷，然後再徹底消滅之。」但肅宗急於收復長安、洛陽兩京，沒有耐心等待，沒有聽從李泌的建議。
不過，還沒有等到肅宗正式開始收復兩京的調度，便先經歷了一場驚嚇。當時，唐軍關內節度使王思禮駐紮在武功，兵馬使郭英乂駐紮在武功東原，王難得駐紮在西原。二月十九日，叛軍大將安守忠突然率軍進攻武功，郭英乂軍迎戰，不料唐軍大敗，郭英乂本人也中了一箭，狼狽而逃。而王難得見死不救，自己率軍撤退。王思禮孤掌難鳴，便率軍退到扶風一帶。叛軍騎兵一度趕至大和關（今陝西岐山南），距離鳳翔只有50里，肅宗大驚，下令鳳翔戒嚴。
幸好叛軍只是虛晃一槍。實際上，此時叛軍內部矛盾重重。自從安祿山佔據洛陽後，大肆享樂，他原本就極為肥胖，以至患上了目疾，雙目幾乎失明。又生有疽瘡，經常疼痛難忍。他本來就很暴躁的性情，變得格外殘暴，遇事稍不稱心，輕則呵斥、謾罵，重則鞭撻，甚至殺人，弄得身邊的親信人人自危。安祿山身邊的宦官李豬兒挨打最多，由此心生怨恨。而安祿山稱帝以後，深居禁中，大將難得見其一面，一切大事都由嚴庄（慫恿安祿山起兵之人）傳達。即使是如嚴庄這樣的心腹重臣，也經常被安祿山鞭打。安祿山平日寵愛小妾段氏，段氏見安祿山如此狀況，料來命不長久，便想為自己打算，讓親生兒子安慶恩取代安慶緒的「太子」地位。安祿山也頗為此意，因此造成安慶緒的自危，使父子矛盾激化。嚴庄為了自己的利益，乘機唆使安慶緒和安祿山的貼身宦官李豬兒殺安祿山以求自保，於是嚴庄與安慶緒深夜持兵立於房外，李豬兒持刀入房，猛砍睡夢中的安祿山的大肚子。一連幾刀，血流如注，連腸子也流了出來。安祿山從睡夢中驚醒，連忙去摸枕旁的護身佩刀，佩刀卻早已經被李豬兒藏了起來。安祿山搖動帳竿說：「一定是家賊殺了我。」最終因失血過多痛苦地死去。
安祿山死透後，安慶緒、嚴庄才進入房內，用氈毯包裹好屍體，埋在床下。嚴庄對外宣稱說安祿山得了急病，立晉王安慶緒為太子。於是慶緒即帝位，尊安祿山為太上皇。安慶緒昏庸懦弱，言辭無序，嚴庄生怕眾人不服，便不讓安慶緒見人。安慶緒也日夜縱酒為樂，稱嚴庄為兄，事無大小，皆取決於嚴庄。
安慶緒殺父自立後，任命史思明為范陽節度使，兼領恆陽（今河北正定）軍事，封媯川王。然而，當初安祿山攻陷兩京後，將大量掠奪來的財帛珍貨都運往老巢范陽，所以安祿山一死，這些財物都落入史思明之手，他不滿安慶緒弒父自立，開始擁兵自重，不聽安慶緒的命令。安慶緒的聲望本來就不及其父，對此也無可奈何。
至德二年（757年）四月，迫不及待的肅宗任命郭子儀為司空、天下兵馬副元帥，召其率軍赴鳳翔，預備發起總攻，一舉攻克長安。叛軍大將李歸仁聞訊率領騎兵5000至三原（今陝西三原東北），郭子儀事先派部將僕固懷恩（鐵勒部人）、王仲升、渾釋之、李若幽在白渠留連橋埋伏，結果叛軍中了埋伏，全軍覆沒，李歸仁跳入白渠水中，才逃得一命。
郭子儀首戰告捷後，隨即與關內節度使王思禮合兵，向長安進軍。叛軍大將安守忠、李歸仁率大軍在京城西清渠抵擋唐軍，雙方相持7天，唐軍無法前進一步。安守忠假裝撤退，郭子儀立即下令全軍追擊。叛軍派出9000驍勇騎兵，擺開一字長蛇陣，唐軍上前進攻的時候，長蛇陣首尾突然變化為兩翼，夾擊唐軍，唐軍大敗。唐判官韓液、監軍孫知古都被叛軍俘虜，軍資器械丟棄殆盡。郭子儀不得不退軍，並上書肅宗，請求自貶。
肅宗見唐軍一敗再敗，認為叛軍精銳難敵，一直憂心忡忡。郭子儀認為回紇騎兵精銳，可與叛軍匹敵，便勸肅宗請回紇派援兵。肅宗與回紇懷仁可汗定約：「收復京師之日，土地和百姓歸唐，金帛與子女盡歸回紇。」這實際上是一種變相的飲鳩止渴，同時將災難轉嫁到普通百姓身上。
懷仁可汗欣然同意，立即派兒子葉護及將軍帝德等率4000精銳騎兵來到鳳翔，要助唐軍一臂之力。肅宗十分高興，盛情宴勞賞賜葉護，惟其所願。回紇軍的伙食也優厚於唐軍，每天供應羊200隻，牛20頭，米40斛。肅宗之子廣平王李俶（後改名李豫，即為後來的唐代宗）還與葉護對天盟誓，約為兄弟，葉護大喜過望，主動稱呼李俶為兄長。
至德二年（757年）八月二十三日，肅宗犒賞三軍，準備發起總攻長安、收復京師的戰鬥。郭子儀依然任天下兵馬副元帥（廣平王李俶掛名天下兵馬元帥），負責總指揮。肅宗對郭子儀說：「事情成敗，在此一舉。」郭子儀回答說：「如果這一戰不能收復長安，臣當以死來相報。」
八月二十七日，御史大夫崔光遠（即前面那位反覆無常的京兆尹）首先出戰，大敗叛軍於駱谷（今陝西周至西南）。隨後，唐將光遠行軍司馬王伯倫、判官李椿率2000人馬進攻中渭橋（今陝西咸陽東北），殺叛軍守橋兵1000餘人，並乘勝攻至長安苑門，形勢一度對唐軍有利。當時駐紮在武功的叛軍聽說渭橋失守，擔心腹背受敵，便急忙棄地而逃，奔回長安，剛好遇到唐軍進攻長安苑門，於是與守城叛軍內外夾擊唐軍，唐軍潰敗，唐主將王伯倫戰死，另一主將李椿被叛軍俘虜。
九月十二日，天下兵馬元帥廣平王李俶率領朔方諸道唐軍及回紇、西域來援之軍共15萬，號稱20萬，從鳳翔出發。回紇軍到達扶風之時，郭子儀專門為葉護設宴，熱情款待。出乎所有人的意料，葉護竟然慷慨說：「國家有難，我才率兵從大老遠趕來相助，國難未消，何以食為！」宴會一結束，便立即率軍出發。
九月二十七日，唐大軍到達長安城西，在灃水之東的香積寺（位於今陝西長安南）以北擺開陣勢，李嗣業為前軍，郭子儀為中軍，王思禮為後軍，回紇兵馬由葉護率領作為機動部隊，唐軍綿延橫亘30里，要與叛軍決一死戰。叛軍10萬人在北部列陣，叛將驍將李歸仁首先出陣挑戰，唐軍前隊迎戰，逼近叛軍陣前，叛軍突然開始大反撲，唐軍陣勢大亂，開始潰敗。在最危急的時候，李嗣業說：「今日如果不以身餌敵，則官軍非敗不可。」於是卸下鎧甲，光著膀子，掄起長刀，大聲呼叫，沖向敵陣。李嗣業勇猛砍殺，所向披靡，共殺數十人，叛軍一時驚駭，竟然被其英勇所震懾。唐軍見主將身先士卒，士氣大振，陣勢得以穩定。
當時，叛軍事先將精兵埋伏在東面，想襲擊唐軍的背部。唐軍得知後，派朔方左廂兵馬使僕固懷恩率回紇兵回擊，回紇兵銳不可當，叛軍望而生畏，死傷慘重，幾乎全軍覆沒，叛軍由此銳氣大受挫折。李嗣業又與回紇兵從叛軍陣後出擊，與唐大軍兩面夾擊，共殺死叛軍6萬餘人，填於溝塹死者不計其數。這場血戰一直從午時持續到酉時，直到夜幕降臨，叛軍大敗之下，不得不收拾殘兵退入長安城中。
這時候，僕固懷恩對廣平王李俶說：「叛軍肯定要逃離長安，請讓我率兩百騎兵追擊，這樣一定能俘獲叛軍大將安守忠、李歸仁等人。」李俶卻不同意，說：「將軍戰已疲勞，暫且休息，等明天再說。」僕固懷恩說：「李歸仁、安守忠等都是叛軍中的驍將，今天被我們驟然打敗，這是天賜給我們的好機會，為何要縱之而逃呢！如果使其重整旗鼓，捲土重來，將是我們的大禍患，到那時後悔就遲了！兵貴神速，為何要等到明天！」廣平王李俶卻堅持不讓追擊，讓僕固懷恩回去。僕固懷恩料到叛軍必無守志，一定會棄城逃跑，又去向李俶請求，往而復返，一晚數次，但李俶始終沒有同意。
果然如僕固懷恩所料，當天半夜，叛軍大將李歸仁、安守忠與張通儒、田乾真均棄城逃走。一直到第二天天亮，唐軍才得知消息，然而追擊已經來不及。九月二十八日，唐大軍進入長安，長安由此收復。
李俶率軍進入長安時，城內的百姓扶老攜幼，夾道相迎。然而，他們並不知