「經由邪惡基督徒之手，耶路撒冷被交給了邪惡的勢力。」
——不知名的十字軍戰士
耶路撒冷陷落的消息震撼了整個歐洲。得知傳聞後的幾天內，教皇烏爾班三世（Urban Ⅲ）就因為過度震驚而逝世了。 人們紛紛諮詢巴黎和牛津的神學家：這是否是末日浩劫的開始？但值得驚訝的是，這件事本來一點都不值得驚訝。耶路撒冷王國陷入絕望的跡象已經持續了好些年，卻被西方解讀為過度修辭和渲染恐慌。人們總是願意無限制地相信船到橋頭自然直，這種便利的借口讓他們輕而易舉地忽視了即將降臨的災難發出的警報。
而此刻，基督教世界的無知已經暴露無遺。第一代十字軍憑藉著信仰的力量，付出了慘痛的代價才收復的聖城，如今又一次失去了，是這一代人的貪婪和偽善拋棄了它。西歐的君主們多年來故作虔誠，屢次談論新一輪東征的必要性，但甚至沒人提出過哪怕一個最基本的計畫，這點如今顯得尤其難堪。
這主要是因為西歐君主們和往常一樣，忙於互相攻擊。英格蘭國王亨利二世忙於處理兒子們的叛亂，而他們卻得到了法國國王腓力二世·奧古斯都的積極幫助。另一位統治者德意志皇帝腓特烈·巴巴羅薩則違背教皇的意願，在義大利北部用兵，同時鎮壓著帝國邊境的反抗。他們實在是太忙了，以至於東征的想法只能停留在口頭上。
耶路撒冷的陷落，以及基督教最神聖的聖物真十字架的毀滅，改變了這一切。震撼來得太過猛烈，以至於最心機深重的君王也意識到了自己對於信仰的責任。烏爾班三世的繼任者格里高利八世只花了9天，就發布了一份號召東征、呼籲全歐洲停戰7年的正式聲明。亨利與他的兒子們言歸於好，幾個月後法國人也停戰了。亨利和腓力都佩上了十字標誌，宣誓在1189年復活節起程前往耶路撒冷。
儘管兩位國王參加東征的消息令人振奮，但腓特烈·巴巴羅薩決定加入則更加激動人心。這位神聖羅馬帝國的皇帝如今是歐洲最具權勢的人物，很多教皇和國王都在他手下吃過虧。1188年的他儘管已經年近七十，卻仍然肩寬胸厚、四肢粗壯。他著名的紅鬍子如今已經白得差不多了，但洪亮的聲音和暴烈的脾氣一如往昔。
東征的號召深深觸動了這位老皇帝。作為參與過第二次十字軍東征併吞下失敗的老兵，他對十字軍國家面臨的威脅有著親身的體會。儘管二十多年來他一直承諾幫助東方改善局勢，最終卻沒能做到，這個遺憾沉重地壓在他的心口。在1188年美因茨的特別會議上，皇帝宣布了遠徵聖地的打算。
與其他歐洲的國王不同，巴巴羅薩很清楚這種大規模的遠征需要什麼。因此他的部隊在籌備程度、物資供應和訓練水平上，都是歷代十字軍中的翹楚，而他的軍隊規模也是空前的。根據同時期的記載，腓特烈準備了近10萬名士兵，幾乎是參加第一次十字軍的人數總和。
腓特烈皇帝有力地彰顯了自己的虔誠，這樣強悍的軍隊也不能隨便揮霍。第二次十字軍東征中，德意志軍隊在穿越小亞細亞時被殺得片甲不留，這段經歷給巴巴羅薩留下了深刻的印象。他意識到保護安納托利亞的進軍路線至關重要。因此他還沒踏出國門，就給前往巴勒斯坦途中的每一個主要的統治者派了使者。在恩威並施之下，安納托利亞的土耳其人甚至承諾保證德意志人的行軍安全。
作為一名充滿騎士精神的統治者，巴巴羅薩在出發前做的最後一件事是給薩拉丁寫信，告知他自己的計畫。他篤定地告訴蘇丹，雖然自己年歲漸增，但發動戰爭的能力絲毫沒有減弱，他命令對方在一年之內撤出聖地，否則後果自負。
薩拉丁的回覆同樣禮數周到。他歡迎皇帝的光臨，同時不經意地指出穆斯林的援軍不需要橫跨大海。敘禮已畢。1189年5月11日，腓特烈帶著兒子和大部分上層貴族，離開雷根斯堡踏上了征程。
士兵們的愉快心情在踏上拜占庭的領土後很快消散了。巴巴羅薩曾與帝國商定，讓他們開放專用市場，為軍隊提供補給，但他們到了以後，這些市場並沒有出現。更糟的是，當地的拜占庭士兵毫不掩飾地騷擾著十字軍，攔住對方的行進路途，還試圖攻擊掉隊者。巴巴羅薩憤怒地給皇帝寫信，要求對方要麼兌現承諾，要麼承擔被攻擊的風險。
糾紛的源頭不難找到。拜占庭人一直對經過領土的大軍保持著警惕，即使是那些自稱的盟友。他們尤其在防範德意志人，因為巴巴羅薩在出發前與西西里的諾曼人結成了聯盟，而後者乃是拜占庭多年來的老對手。然而，更令他們不滿的，是巴巴羅薩的稱號。
拜占庭帝國可能正在持續衰弱——老皇帝曼努埃爾·科穆寧在9年前逝世，新皇帝伊薩克二世·安格魯斯是一個怯懦的人——但他們仍在奮力維護自己的威信。伊薩克二世坐的皇位依舊是君士坦丁大帝坐過的，因此他認為自己是真正的羅馬皇帝。只有他才能享有屋大維在大約12個世紀以前締造的政治地位。在他看來，天堂只有一個上帝，人間也只能有一個帝國，那就是神授的羅馬帝國，而他就是帝國的主人。
然而，腓特烈·巴巴羅薩堅持自稱「羅馬皇帝」。這個自負的稱呼由來已久。德意志君王統治的「西羅馬帝國」 ，是教皇與查理曼在400年前創造的曖昧概念，他們覺得自己有資格被稱為皇帝。但對於拜占庭人來說，採用「羅馬」頭銜對他們的冒犯絕不止一點。世界上只能有一個真正的羅馬帝國。如果腓特烈·巴巴羅薩是羅馬皇帝，那伊薩克·安格魯斯就不是了。
為了解決這個棘手的問題，兩國過去在外交上都絕口不提對方的頭銜，但巴巴羅薩對外交的興趣不大。當伊薩克派出使者要求交涉時，巴巴羅薩表示沒什麼可以談的，除非對方稱他為「皇弟」。可想而知，伊薩克拒絕了，還把德意志使者下了獄。此舉激怒了巴巴羅薩，他立刻洗劫了拜占庭的第三大城市菲利普波利斯（Philippopolis）。
巴巴羅薩的武力威脅起到了理想的效果。儘管伊薩克起初氣勢洶洶，但他本質上是個軟弱的人，也不願直面德意志的兵鋒。他立刻釋放了關押的士兵，給他們賠禮道歉，還自費把德意志人送過了博斯普魯斯海峽。
伊薩克怯懦的行為大大坐實了西方對於拜占庭的糟糕印象，他之後的做法也是如此反覆無常。在船隻運送十字軍前往安納托利亞的同時，伊薩克派了使者火速趕往薩拉丁處，告知蘇丹即將來臨的威脅。
巴巴羅薩進入小亞細亞後，又遭遇了類似的事件。之前為保障行軍安全而與土耳其人簽訂的條約沒有起到什麼作用。當地的埃米爾們竭盡所能地阻止他們前進，土耳其蘇丹忽都不丁（Qutb al-Din） 甚至還召集了一支大軍。
但腓特烈·巴巴羅薩既不意外，也沒有特別煩擾。他已經當了很久皇帝，對這類挫折習以為常。他會用慣常的處理手段，有條不紊、殘忍冷酷、不可阻擋地解決這些麻煩。兩周之內，他就碾碎了土耳其軍，佔領了蘇丹的首都，迫使對方重簽了一份安全行軍保障協議。當地的抵抗勢力已經消亡，十字軍可以不受困擾地抵達信仰基督教的亞美尼亞了，那是個友好的國家，就在安條克以北。
德意志皇帝率領著大軍近乎毫髮無損地穿越了安納托利亞，這一成就是第一次十字軍東征以來無人能夠做到的。然而，無情的命運之輪讓這一切都失去了意義。1190年6月10日，在艱難地翻越了安納托利亞南部的托羅斯山脈之後，老皇帝帶著士兵抵達了一片平坦的海岸平原，開始向附近的城市進發。他與一小股士兵位於隊列的最前端，瞥見了緩緩流向地中海的格克蘇河（Göksu River）。安納托利亞的盛夏酷熱難當，為了躲避令人窒息的氣溫，他迫不及待地策馬飛馳，超過了扈從，獨自來到了河邊。接下來發生的事情有很多種說法。有人說戰馬失足，把他掀到了河裡，有人說他俯身飲水時不慎腳滑。無論如何，結局別無二致。等到護衛趕來把他拖上岸時，他已經溺亡了。
德意志人的東征就這樣突然結束了。他們需要選出新的皇帝，而這個流程必須在德意志完成。大部分上層貴族都乘船回國了，帶走了大部分軍隊。而巴巴羅薩的三兒子斯瓦比亞公爵腓特烈六世（Frederick Ⅵ of Swabia）決心履行已故皇帝的誓言抵達聖地，他把父親的遺體塞到了一個裝滿醋的桶中保存，並勇敢地繼續踏上征程。
儘管部隊完全瓦解，但巴巴羅薩的東征產生了兩大積極影響。薩拉丁感到了巨大的壓力，以至於他釋放了哈丁之戰中俘虜的囚犯，包括耶路撒冷的國王居伊和十字軍國家的大部分優秀領導者。在發誓不再反對薩拉丁後（由於是被迫的，所以誓言很快就被宣告無效），這些人被安全放回了提爾，那是基督徒在黎凡特地區 仍然掌控的少數幾個城市之一。
第二個積極影響持續了更久時間。剩下的德意志軍隊抵達黎凡特時，發現剛被釋放的居伊正試圖圍攻阿卡。儘管他們幫不上