吐蕃人一走，代宗李豫就必須著手解決僕固懷恩的問題了。
廣德二年（公元764年）正月，代宗命刑部尚書顏真卿前往汾州，準備向僕固懷恩發出最後通牒，命他入朝面聖。
可是，顏真卿不肯去。
並不是他怕死，而是他知道現在去已經沒有用了。
早在吐蕃佔領長安、代宗流亡陝州時，顏真卿就曾主動提出要去汾州，以社稷有難為由，迫使僕固懷恩入朝，可代宗卻擔心僕固懷恩趁機叛亂，所以執意不允。
在顏真卿看來，當時那麼好的機會沒有把握，現在再去召僕固懷恩入朝，他絕對不肯來，所以去了也是白去。顏真卿對代宗說：「陛下在陝州時，臣若前往汾州，以君臣大義為由命他勤王，他沒有理由不來；可如今陛下已經還京，他既無勤王之功，又有兵權被削之憂，此時召他，他如何肯來？而且，一直咬定僕固懷恩謀反的，只有辛雲京、駱奉仙、李抱玉、魚朝恩四人而已，其他文武百官都認為僕固懷恩冤枉。臣以為，如今最妥當的辦法，就是以郭子儀取代僕固懷恩，這樣不需要發動戰爭，便可消除潛在的叛亂。」
就在代宗考慮這個建議的時候，一個在汾州擔任別駕的官員忽然回到了京師，代宗立刻召見了他。
這個人叫李抱真，是澤潞節度使李抱玉的堂弟，他知道李抱玉和僕固懷恩之間已經是不共戴天了，而且僕固懷恩確實心懷異志，所以趕緊溜之大吉，以免惹來殺身之禍。
代宗問李抱真如何對付僕固懷恩，李抱真答：「僕固懷恩不足為憂。因為朔方將士日夜思念郭子儀，如子弟之思父兄。懷恩騙他們說郭子儀已經被魚朝恩殺害了，將士們信以為真，才會服從於他。陛下若能以郭子儀為朔方節度使，則朔方將士必定會脫離僕固懷恩，親附朝廷。」
既然大家都這麼說，那代宗就沒什麼好考慮的了。用郭子儀取代僕固懷恩，確實是釜底抽薪的良策。
然而，還沒等代宗將這個辦法付諸實施，河東就傳來了令人震驚的消息。
僕固懷恩動手了。
僕固懷恩的首要進攻目標，當然非河東節度使辛雲京莫屬。他事先買通了辛雲京麾下的都知兵馬使李竭誠，準備裡應外合攻取太原。沒想到辛雲京的警惕性非常高，很快就察覺了僕固懷恩的陰謀，遂斬殺李竭誠，並加緊修固防禦工事，以防僕固懷恩來犯。
廣德二年正月中旬，僕固懷恩得知李竭誠被殺的消息，索性拉起反旗，命其子仆固瑒率部攻打太原。辛雲京立刻出城迎戰。由於他早已做好了充分的戰爭準備，武器精良，士卒用命，所以一戰就擊潰了仆固瑒。仆固瑒被打得大敗而回，只好放棄太原，轉攻榆次（今山西榆次市）。
作為安史之亂餘波的僕固懷恩之亂，就這樣爆發了。
外寇之兵戈方息，內戰之烽火再燃！
代宗李豫感到了一種深深地無奈。
像這種前仆後繼、旋滅旋起的叛亂，像這種兵連禍結、內憂外患的局面，究竟要到哪天才是個頭呢？
正月二十日，代宗正式任命郭子儀為關內、河東副元帥、河中節度使，數日後又加授朔方節度使。郭子儀離京赴任時，代宗滿懷期望對他說：「懷恩父子負朕實深！聞朔方將士思公如枯旱之望雨，公為朕鎮撫河東，汾上之師必不為變。」（《資治通鑒》卷二二三）
二月初，郭子儀進駐河中（今山西永濟市），準備進剿僕固懷恩父子。仆固瑒圍攻榆次半月不下，派人緊急徵調祁縣駐軍，當地守將趕緊把部隊交了出去。士卒們還沒來得及吃飯就被迫上路了，一路上牢騷滿腹，拖拖拉拉。負責率領這支援軍的將領焦暉、白玉壓根不想跟著僕固懷恩父子造反，只是迫於軍令不得不出征，本來就憋了一肚子火，現在看見士卒們又裹足不前，他們擔心馳援不及被仆固瑒問罪，頓時氣不打一處來，於是對著走在最後面的幾個士兵張弓便射。
士卒們紛紛抱怨：「將軍幹嘛射自己人？」
焦暉和白玉沒好氣地說：「現在跟著人家造反，終究難逃一死。反正是一死，射死有什麼關係！」
抵達榆次後，仆固瑒認為他們來得太晚，指著鼻子破口大罵。部隊中的胡人辯解說：「我們騎馬，本來速度很快，都是被那些漢人步兵拖累了。」
仆固瑒不分青紅皂白，憤而暴打漢人士兵。被打的士卒無不咬牙切齒，說：「這小子眼裡只有胡人，根本不把我們漢人當人看！」
經此變故，焦暉和白玉愈發忍無可忍。當天夜裡，他們召集了所有漢人士卒，告訴他們反正是一死，不如跟仆固瑒拼個魚死網破，或許還能為朝廷建功。士卒們紛紛響應，隨即在焦暉和白玉的帶領下發動兵變，殺死了毫無防備的仆固瑒。
僕固懷恩萬萬沒想到，自己剛剛揭起反旗，兒子就莫名其妙地死在了亂兵手中。
仆固瑒之死，對僕固懷恩至少造成了三重打擊：一，白髮人送黑髮人，誠乃人生最為慘痛的遭遇之一；二，仆固瑒不僅是僕固懷恩的兒子，更是他最為倚重的左膀右臂，如今剛剛起事便痛失一臂，無疑是極大地削弱了僕固懷恩的軍事實力；三，僕固懷恩父子剛剛起事，麾下部眾就發動了兵變，這足以證明，朔方將士的人心仍在李唐，一旦失去了這支勁旅的擁戴，這場反叛還能有多大勝算？
為此，僕固懷恩一連數日憂懼難安。
僕固懷恩思來想去，最後決定三十六計走為上——離開河東，前往靈武（朔方治所），召集朔方軍中仍舊效忠於自己的一部分胡人士兵，同時派人去跟回紇、吐蕃等異族聯絡，請他們發兵，聯手對付李唐。
主意已決，僕固懷恩便去向老母親辭行，不料一進門就遭到了老母親的一通訓斥：「我屢屢告誡過你，國家待你不薄，絕不可造反，可你就是不聽！如今眾心已叛，災禍隨時可能降臨，你說該怎麼辦？」
僕固懷恩無言以對，只好跪地再拜，重重地磕了幾個響頭，然後起身疾步向外走去。他母親也是胡人，生性剽悍，見兒子不言而去，頓時火冒三丈，隨手抓起一把刀就追了上去，一邊追還一邊喊：「吾為國家殺此賊，取其心以謝三軍！」
僕固懷恩回頭一看，大驚失色，當即拔腿就跑。
老太太雖然是唐代人，不像宋以後的婦人那樣裹小腳，但畢竟上了年紀，所以追了一段路就再也追不動了，只好停下腳步，可嘴裡猶自對著僕固懷恩遠去的背影詈罵不休。
僕固懷恩當天就帶著麾下僅有的三百親兵離開汾州，向西渡過黃河，倉皇逃往朔方。
當時，朔方的留守將領是渾釋之，僕固懷恩事先給他遞了一道公函，聲稱奉朝廷之命，率朔方軍歸鎮，讓他打開城門，出城迎接。此時渾釋之已經聽說了僕固懷恩反叛的消息，但尚未接到朝廷的正式通報，於是半信半疑地對左右說：「僕固懷恩恐怕是打了敗仗，潰逃至此吧？」
渾釋之的副將、也是他的外甥張韶向來親附僕固懷恩，馬上介面說：「這也未必。說不定僕固懷恩已經翻然悔悟，所以才率軍歸鎮，我們豈能閉門不納！」
渾釋之猶豫不決。數日後，僕固懷恩的前鋒已至靈武，渾釋之不得不開門接納。張韶馬上將渾釋之的疑慮告訴了僕固懷恩的手下。僕固懷恩接到手下的密報後，隨即命張韶設計殺掉了渾釋之，然後將其部眾的指揮權交給了張韶，最後堂而皇之地進入了靈武。
當然，張韶只是僕固懷恩手中的一顆棋子。僕固懷恩順利入據靈武后，張韶也就沒有利用價值了。數日後，僕固懷恩隨便找個借口就命人打斷了張韶的腿，然後把他關了起來。張韶大呼冤枉，僕固懷恩冷笑著對他說：「渾釋之是你的親舅舅，你尚且可以把他出賣，又怎麼可能效忠於我呢？」
僕固懷恩逃離汾州後，其時正駐守沁州（今山西沁源縣）的朔方將領張維岳大喜，立刻趕到汾州，殺了焦暉、白玉等兵變將領，將其誅殺仆固瑒之功據為己有，然後上報郭子儀。
郭子儀馬上派部將盧諒前去汾州核實情況，張維岳遂重金賄賂盧諒。郭子儀得到盧諒的回報後，當即上表朝廷，為張維岳請功，同時將仆固瑒的首級傳送京師。
二月初，郭子儀率部進駐汾州，數萬朔方將士歡欣鼓舞，紛紛喜極而泣。
得知仆固瑒被殺、僕固懷恩逃亡的消息，群臣紛紛入宮向代宗恭賀。代宗李豫卻慘然不悅，說：「朕未能推誠立信於臣下，導致為國建功的人走到這個地步，有什麼好祝賀的？」
隨後，代宗派人前往汾州，把僕固懷恩的母親接到了長安，並且好吃好喝供了起來。
當然，代宗李豫可不是想幫僕固懷恩盡孝的。明眼人誰都看得出來，這老人家已經成了代宗的人質。
雖然朝廷在飲食起居等各方面都提供了極為優厚的待遇，但老人的心境可想而知。一個月後，僕固懷恩的母親就在無以排遣的抑鬱和憂憤中一病而亡了。代宗下令以禮厚葬。朝野上下聽說此事，無不替僕固懷恩感到悲哀。
值