戰船這個環節沒法省略，曾國藩日思夜想，突然找到了靈感。兩湖地區有龍舟比賽，節日的時候飛舟競渡，煞是快捷好看，能不能仿造龍舟製造戰船呢？
為了編練水師，曾國藩此前特地向廣東地區的能工巧匠發出了徵集令。「龍舟版戰船」正要動工，工匠們到了，一聽就笑了起來，說真正的戰船哪是這種樣子的。
在廣東，共有兩類三種戰船樣式。
第一類，是長龍和快蟹，此為大船類型。它們擁有龐大的船身，往水面一放，威風凜凜，但「快蟹」二字卻得拆開來講，概言之，它們有「蟹」一樣的慢慢騰騰，卻唯獨少一個「快」字。
第二類，是小舢板，此為小船類型。鴉片戰爭時期，英軍兵臨南京城下所用的登陸舟就是小舢板，特點是個頭小，但移動靈活，行動迅速。
戚繼光說過，打仗非同兒戲，不是你殺人，就是人殺你，玩花樣最後很可能先玩死的就是自己。曾國藩馬上放棄了他的「龍舟計畫」，讓造船工匠按照廣東戰船樣式動工。
皇天不負苦心人，戰船終於如願試造成功了。鑒於兩類戰船一快一慢，在實際演練和作戰中，曾國藩便將它們的優點予以互補，配合起來使用。
有船，沒有炮不行。中國是能自行製造火炮的，只是一個鴉片戰爭，把自產火炮的老底兒完全揭穿。曾國藩要炮，但他不能要這類土炮，得要好炮。當時廣東可進口西洋炮，曾國藩就「師夷長技」，花大價錢托葉名琛在廣東進行購買。
截至1854年2月，湘軍共打造出三百六十一艘戰船，其中既有長龍、快蟹和小舢板，也有購買並改造為戰船的民船，但令人稱羨的是都裝配了大量洋炮，其火力不容小覷。
炮船齊了，還得有水勇。衡陽靠近湘江，會水的人很多，要招水勇的一大把，但曾國藩卻不敢就近招納。因為衡陽會黨的勢力很大，曾國藩最不喜歡這類會黨，他生怕招來招去，一個不小心讓會黨混進來，關鍵時候對自己反戈一擊。
曾國藩決定從老家湘鄉招納水勇。湘鄉是山區，好多人都是旱鴨子，熟悉水性的人很少，要做水勇，還得先從游泳抓起。不過曾國藩認為這個不難，一天不會，就一周，一周不會，就一月，人可靠才是關鍵。
最困難的還是錢。湘軍陸師的糧餉，主要靠勸募士紳來維持，但比之於陸師，水師簡直是一隻吞錢的老虎，僅籌備炮船，招募水勇，就需要十餘萬兩銀子。
為了弄到錢，曾國藩到處打聽，只要哪裡有銀子的氣味兒，覥著臉也得湊上去聞上一聞。當時的南方各省，尚被政府控制在手裡，且有財源的，只有一個地方，那就是廣東。曾國藩得知廣東解往江南大營的十餘萬兩餉銀，將經過長沙，趕緊向咸豐打報告，要求截留四萬兩，作為組建水師專用。
咸豐也知道長江上沒有水師之弊，所以馬上予以批准，此後又下令給湖南藩庫也就是湖南地方財政，要求掏三萬出來給曾國藩。有了這七萬銀子打底，曾國藩再東挪西湊，總算解了燃眉之急。
到1854年2月，經過近半年的操練，湘軍從體量和能力都完成了一個升級，已擁有水陸兩師共二十個營，一萬七千人。
回過頭來，曾國藩禁不住要慶幸離開長沙的選擇，甚至要感謝那些什麼正經事都做不了，又不肯讓別人做正經事的庸官俗吏。正是他們的排擠，成就了一支更高水平的軍隊。
有時候，主動放棄未必就意味著損失，它很可能將是一個嶄新的開始。