蘇軾到任不過兩個半月，忽傳七月十七日黃河決口於澶州之曹村。澶州地在河南濮陽市西，距離黃河只有三十五里，決口之水，一瀉千里，流入山東巨野，首灌東平。
黃河決口，大水奔騰而至，一倏時可以吞沒整個城市。這個巨大的災變，其恐怖的程度，與無法抗禦的強勢，宛如末日到臨人世。水至東平，當地的吏民群情惶急，不知怎麼辦好。幸有一個叫應言的僧人，建議鑿開清冷口，引導大水流入已廢的舊河道，使由東北入海。
官吏們還不立刻相信他的建議，應言竭力申述有效，他所說黃河決水的情形，也非常明白，姑且照他的建議做了。這浩瀚東來的大水，果然有了去處，東平賴以無事。
河決澶州，歷時月余，汴河還一直保持著秋季乾旱的常態，所以大家都沒想到水會漲到徐州來。不料八月間梁山忽然泛濫起來，二十一日南清河水暴漲，時又大雨，水急漲到徐州城下，「水穿城下作雷鳴，泥滿城頭飛雨滑」，情勢非常可怕。
徐州城南，兩山環繞，又有呂梁和百步洪抵擋於下，所以水就彙集在東、西、北三面，觸山而上，滿眼是一片汪洋，大水無處宣洩，便一直往上高漲，俯視城下，忽爾就比城中平地，漲出一丈九寸的大水，水漫城壁，若是城牆一倒，則整個徐州城就淹在水底了。
情勢這樣危急，城中富民爭出避難，蘇軾當機立斷曰：「富有者都出城，民心立刻動搖，我跟誰來守這個城？有我在，決不任水敗城！」下令勸阻逃離的富戶，回到城裡來。蘇軾穿上雨靴，帶了手杖，親入武衛營，對該營的首領說：「河將壞城，事情已很急迫，你們雖是禁軍，也應該幫我們出一份力量。」
那首領慨然道：「太守也不避水，這正是我們效命之秋。」
蘇軾立刻到隊伍里去，派出奉化、牢城的兵卒，短衣赤腳，各持畚鍤之類的工具，會合民夫，一同搶救。
徐州父老說：「天禧年間，徐州曾築兩條防水的堤岸：一條從小市門外沿城壕而南，接到戲馬台的山麓；一條自新牆門外，沿濠西折，接到城下南京門之北，防水有效。」蘇軾認為父老們的經驗可貴，事實上也只有搶建防水堤，是目前唯一可行的辦法。
蘇軾便緊急徵召民夫五千餘人，會同武衛軍的兵丁，日夜不停地趕工，從戲馬台起，至城而止，築造一道長堤，全長九百八十四丈，高一丈，闊兩丈。幾百艘的公私船隻，因有風浪，本不能行，下令集中系纜城下，以減輕衝擊城壁的水力。
至九月二十一日，測量水高已達兩丈八尺九寸，幸而堤工已成，水自東南隅來，都被這道長堤擋住了，害不及城，民心始定。但是大雨還是日夜不停地下，河水之勢更強，城牆不浸水者，只剩三版。
蘇軾自堤工開始，日夜在城上巡視，隨時派遣官吏，分頭堵守，夜晚他就宿在城上，並不回家。
這次大水，經歷七十餘日，至十月初五，水才漸見消退。十三日澶州發生一場大風，吹嘯整日，風止，黃河一支流卻已復入故道，水患就此得止。蘇軾高興極了，寫了《河復》一詩，敘曰：「乃作河復詩，歌之道路，以致民願，而迎神庥，蓋守土者之志也。」
有人建議，可在荊山下築溝容水，蘇軾便與同僚二人前往實地勘察，發覺這個地方全是亂石，無法施工而罷。蘇軾認為在城外加造外小城，創建石堤，確有御水之功。議定，就上奏朝廷，請准興建，並乞於十二月內下旨。
但至明年（元豐元年）正月，尚無消息，蘇軾猜想也許因為經費太大之故，所以再緊縮預算，請求改築「木岸」，同時致函時任國史院編修官的劉攽，托他就近協力通過這項計畫，書曰：
某曾擘劃作石岸，於十月內申詔使，仍乞於十二月已前畫旨。今已涉春，杳未聞耗。又聞有旨下淮南、京東，起夫往澶州，其勢必無鄰郡人夫可以見及，以此知石岸文字，必不遂矣。
今相度作木岸，工費僅減一半，用夫六千七百餘人，糧四千三百餘石，錢一萬四千餘貫，雖非經久必安之策，亦足支持歲月。若此策又不行，則吾州之憂，未可量矣。今寄奏檢一本，奉呈告貢父力言之，此事決不可緩，若下所屬相度，往返取旨，則無及矣。某豈曉土功水利者乎？職事所迫，念此一城生聚，必不忍棄為魚鱉也。
元豐元年（1078）二月初四，皇帝降敕獎諭，敕曰：
敕蘇軾：
省京東路安撫使司、轉運司奏：昨黃河水至徐州城下，汝親率官吏，驅督兵夫，救護城壁，一城生齒並倉庫廬舍，得免漂沒之害，遂得完固事。
河之為中國患久矣，乃者堤潰東注，衍及徐方，而民人保居，城郭增固，徒得汝以安也。使者屢以言，朕甚嘉之。
同時詔賜錢二千四百一十萬，犒獎夫役四千零二十三人。
又發常平錢六百三十四萬，米一千八百餘斛，准予募夫三千零二十人，改築外小城，創建木岸四條，大坑十五處，盡加堵塞。
工程中，發現子城的東門，當水之沖，而府庫即在是處，地甚狹窄，不能作城。蘇軾就將城門擴大，護以磚石，城門上建一大樓。
徐州府廨內，舊有一座廳堂，俗傳是項籍所造，稱「霸王廳」，沒有人敢去裡面坐，據說誰敢冒犯使用，必有禍害，所以久成廢置。蘇軾惡其淫名非實，下令將這霸王廳一舉拆毀，拆下來的材料，用在東門上建造大樓。這件事，不禁使人想起他的祖父率領健仆，拆毀茅將軍廟的故事，到底是蘇序的孫兒，有他一樣豪邁而正直的勇氣。
東門上新建大樓，堊以黃土，名之曰「黃樓」，取五行中土能克水之意。
蘇軾將這次搶救水災的經過，記其大略為《獎諭敕記》，連同皇上詔書，刻石志於黃樓，其詳細情形，別卷藏於有司，謂之《熙寧防河錄》，備為後人參考。