洋槍隊的所謂解散其實不過是不再招收新隊員罷了。逃脫後的華爾躲進了松江，洋槍隊的殘兵敗卒都集中在那裡，而且很快，他就不用再東躲西藏了，因為何伯主動向他伸出了橄欖枝。
俗話說得好，縣官不如現管，英國政府的對華政策向來動搖不定且含混不清，這使得英國駐華官員在處理對華事務時擁有著很大的權力，彼時的何伯就扮演著此類角色。在英法聯軍擊退李秀成部對上海的進攻後，他曾與太平軍達成了一項互不干涉協定，上面規定太平軍不得進入上海、吳淞的一百里範圍之內，但這一協定的有效期只有一年。
1861年夏末，何伯親自訪問太平軍營壘，企圖在協定期滿後繼續獲得對方不攻擊上海的承諾，但遭到了太平軍將領的嚴詞拒絕，所給出的理由是：「倘上海吳淞不駐滿妖軍隊，忠王、侍王（李秀成、李世賢）決不進兵攻取。」
上海的戰略地位太重要了，太平軍就算是一時無能力打下來，也絕不會承諾永遠不打。在認清這一現實後，何伯對待太平軍的態度和策略發生了變化，他開始確信保證守住上海的最好辦法，是「叛軍（指太平軍）一旦進入我們勢力所及的範圍，就出擊並戰勝（他們）……」。
限於本國的中立政策，何伯無法派英法聯軍實施這種先發制人的主動攻勢，於是便想到了利用華爾及其洋槍隊。何伯是個打過仗的軍人，這是他與看熱鬧的普通洋人所不同的地方。大家都說華爾和洋槍隊不濟事，他卻能夠看出華爾本人確實是有兩下子的，為此他不僅赦免了華爾，而且還邀請華爾及其同伴去「切薩斯比克」號軍艦開會，鼓勵他們放手大幹。
組建洋槍隊之初，華爾並沒有把中國軍隊當回事，以為依靠所募集的洋兵，三下五除二，就能把太平軍給幹掉。正是戰場上的慘敗以及自己死裡逃生的經歷，讓他見識了太平軍的驍勇善戰，也從中看到了中國軍人的能力。
只要給予精良的裝備，再加上訓練有素和指揮有方，中國人就是最可怕的戰士！基於這一認識，華爾在會上向何伯提出了一個新的建議：「不應該再從逃兵中招募戰士，而應把注意力放在招募中國人上，同時用歐洲人當教官。」
若用當時駐滬外國人的眼光來看，華爾的想法簡直荒唐可笑，但何伯同意和支持華爾付諸實踐，並承諾給予幕後支持。因為他覺得這是一筆一本萬利的生意：既不必擔心別人看出英軍採取了主動行動，也用不著投入大量英軍（或法軍），就可以給予太平軍以打擊。
華爾回到松江，重新招募和訓練了八十二名來自各個國家的歐洲軍人，組成所謂的「上海洋人團」，專門負責培訓中國士兵。這些中國士兵主要從江蘇境內就近招募，據華爾手下的一名官員講，在第一個月內，洋槍隊一共招募了一百五十多個中國兵，經過培訓，「每個人都能完成正規軍生活中的全部日常任務，嚴格服從命令，軍服、裝備和訓練都以歐洲士兵為模式，達到完美的和諧」。
1861年10月，洋槍隊擴充至四百多人。雖然訓練時間較短，但新兵們依舊進步神速：學開槍，很快就掌握了全部技術，不僅都成了神槍手，而且懂得怎樣維護保養滑膛槍和來複槍；學開炮，開始還有些害怕，通過教官指點，很多人達到了神炮手的級別；軍官下命令全部用英語，但士兵學起來亦無太大困難，且完全熟悉號音。
所有這些來自當事人的記述或許不無誇張之處，然而中國士兵對軍事技術的領悟能力以及訓練的效果，顯然沒有令華爾失望。
從外觀上看，洋槍隊裝備精良、軍容整齊，由於士兵所穿軍裝頗似英國錫克軍人或法國輕步兵的制服，所以不知內情的人往往會以為這些士兵大部分還是菲律賓人，吳煦等中國的上海官員也仍稱之為「夷勇」。實際上，洋槍隊雖然確實還有一些菲律賓人，但華爾已經將這部分菲律賓人編入了自己的私人衛隊，吳煦等人不可能真的不知道這一點，只是因當時朝廷對此的態度尚不明朗，故意裝糊塗罷了。
到了當年的秋天，這支新型洋槍隊在與太平軍的作戰中首次旗開得勝。何伯聞訊欣喜若狂，立即向華爾表示，他將源源不斷地向洋槍隊提供槍支、彈藥和大炮。
華爾的個人境遇發生了轉變，從前圍繞在他身邊的指責和謾罵漸漸煙消雲散，他不僅做了包括何伯在內的許多在滬外國人的座上賓，成了一個「被人承認和備受尊敬的明星」，而且又「捧起了清廷的飯碗」，重新得到吳煦、楊坊等人的青睞和財政支持。