1937年七七盧溝橋事變後，中國開始了全面的抗日戰爭。四川軍隊請纓出川，奔赴山西參加保衛太原的戰鬥，事後又被調到徐州編入第五戰區序列，承擔據守徐州以北地區的阻擊防禦任務。1938年3月，第22集團軍在山東滕縣地區同日軍磯谷廉介第10師團進行激戰，表現出的英雄氣概，給全中國抗戰軍民以巨大的鼓舞，讓中國軍隊和民眾看到了抗戰勝利的曙光。
英勇的第22集團軍寡不敵眾，防線被日軍突破，部隊被日軍擊潰，滕縣失守。但是他們為徐州第五戰區贏得最為寶貴的時間，以達到在台兒庄地區排兵布陣的目的，為台兒庄大捷的勝利提供了先決條件，並贏得全國人民的高度讚揚。這是四川軍民的驕傲和自豪。
就在台兒庄大戰時期，第22集團軍的官兵們歷盡艱辛，他們擦乾身上的血漬，掩埋好戰友的屍體，在日軍佔領區尋找著自己的部隊。第22集團軍總司令部在孫震的率領下，由臨城轉移到微山湖南岸江蘇省境內的利國驛，並派出大批人員，尋找散落在戰場的四川子弟兵。
他們收容了沿津浦線退下來的殘餘散兵，還收容了流落到微山湖西岸的很多小股殘餘部隊。通過重新整編，竟有5000多人，組成5個步兵團。
第五戰區還為這支英雄的部隊配屬了炮兵營。在台兒庄大戰勝利之際，這5個步兵團被調派到運河南岸至微山湖南岸，擔任守備任務。
國民政府最高軍事委員會沒有取消第22集團軍下轄的軍、師、旅等番號編製，雖說是支雜牌部隊，但蔣介石也不願去招惹民眾的輿論，再說還有幾十萬的雜牌軍在一線作戰，這個時候唯一的辦法就是去安撫，要做出一種領袖、統帥的姿態來，關懷和愛護他們。在無礙大局的情況下，還應給他們一定的優厚待遇。像守衛滕縣的中將王銘章，以身殉國後，還要追贈他為陸軍上將。即使他的第122師被打光了，部隊番號仍然保留在那裡。
第22集團軍在收容大量散兵和殘餘部隊後，恢複了原來的建制。從他們擔任微山湖南岸守備任務時對部隊的防務部署上，可以看出這一點。集團軍當時下達的防禦作戰部署大致是：
一、第四十一軍前敵指揮官第一二四師代理師長曾蘇元，指揮第四十一軍的第一二二師第三六四旅第七二七團（兩個營），第一二四師和三七二旅第七四三團（兩個營），第三七零旅第七三九團（兩個營），及配屬炮兵一個營，守備微山湖東岸的運河南岸大堤及從陳庄經運河鐵橋南頭、南韓庄街道、微山湖大閘南頭至微山湖南岸之鐵山寺、利國驛、柳泉車站之間的地區。
二、第四十五軍前敵指揮官第一二五師師長王學姜，指揮第四十五軍的第一二五師第三七三旅第七四五團（兩個營）；第一二七師第三七六旅第七五二團（三個營）守備微山湖南岸之鐵山寺、南石樓、上馬庄至拾屯以北的小王莊等地區。
三、第四十一軍、第四十五軍的接收新兵部隊，暫在徐州至豐縣道上之鄭集、敬安集整訓，聽令參加戰鬥。
從以上部署不難看出一個問題，番號建制比較健全，然而實際兵力只不過是5個步兵團，加上配屬的炮兵營，共5000多人的基本力量。軍、師、旅全是空架子，有實際內容的是團級單位，1個團也只有兩個營，總共12個營。
鄒縣、滕縣戰役失利，中國軍隊傷亡較大，官兵忿恨日本侵略軍的思想也更加深刻，但收容並整編起來的部隊打破了原來的建制，在組織上、思想上有些混亂。然而，廣大官兵在抗日民族統一戰線的號召下，經過短時間的工作之後，很快安定下來，決心堅守崗位，聽從指揮，積极參加各項戰鬥活動。
實際有作戰能力的只有該集團軍的第41軍各部隊，他們守衛的防線多少還能遇上日本軍隊。在台兒庄地區戰鬥沒有結束的時候，這一帶還較為平靜，到了台兒庄大捷以後，磯谷師團得到日本大本營的補充支持，轉身又向台兒庄進行報復，這時的韓庄就不平靜了。所以第41軍對所屬部隊進行了部署，把防線分為左右兩個地區。
右地區隊：隊長是第122師第364旅第727團團長司吉甫，指揮該團第1、2兩營，守備運河南大堤陳庄至韓庄鐵橋之線，團部在小陳庄。
左地區隊：隊長是第124師第370旅第739團團長蔡鉦，指揮該團第1、2兩營，守備運河南岸大堤從韓庄鐵橋經南韓庄街道、微山湖大閘，折向西南沿微山湖南岸至鐵山寺與小白庄之間地區。團部在小白庄。
炮兵隊：隊長是炮兵第5旅第10團第1營營長。指揮該營3個炮兵連，在蔡庄以南至張小屯附近，佔領陣地，以對韓庄車站、韓庄鐵橋北橋頭堡、北韓庄、微山湖大閘北頭、韓庄車站西南敵炮兵陣地各點為主，並以一部對韓庄車站以北、津浦鐵路附近的多義溝、周官莊等要點，準備適時射擊。
預備隊：隊長為第124師第372旅第743團團長余堅，指揮該團第1、2兩營，在利國驛、蔡庄地區，構築預備陣地。
第22集團軍的作戰部隊，雖說只有5000多人，但是他們卻有極強的戰鬥力。5000多名士兵是經過血與火考驗過的，是從死人堆里爬出來的，他們大多數人可以說是死過一回，甚至死過兩回的。他們同武裝到牙齒的日本兵拼過刺刀，打過肉搏，遭遇過日軍飛機的掃射，見識過日本大炮的轟擊。他們從一個彈坑躍入另一個彈坑，用手榴彈炸毀日軍的坦克、裝甲車。總之他們有著豐富的作戰經驗。
這一點從他們構築的工事上，一眼就可以看出來。兩個地區隊首先在運河南岸大堤上修整、增加地面防禦工事，逐步由點及面，由地上轉地下，與敵競相構築各種高堡、低堡、地面堡、地下堡，人人都想利用各種物質條件，多消滅幾個敵人，減少自己的傷亡。在當地人民的幫助下，數日之內挖起了各種機槍掩體、交通壕和人員、彈藥掩蔽部，編成極為嚴密的地上、地下各堡壘間的火力網，與日軍對峙。他們還在微山湖上、運河南邊，設置了一些水上障礙，防止敵人偷渡。
首先向日軍進攻的是炮兵營，利用大炮作遠程射擊，封鎖對面的韓庄火車站，不讓日軍後方駛過來的軍火列車從韓庄通過。炮營的炮兵幾乎都是老兵，他們技能嫻熟，深知現在的大炮和炮彈不是在滕縣那時的情況了。炮是新式火炮，又有充足的炮彈，正是中國炮兵顯身手的時候。的確炮營的射擊打得准，打得日軍火車不敢靠近韓庄車站，被迫停在沙溝車站，增加了日軍運輸線上的困難。
為了保證韓庄車站的正常運行，日軍在韓庄增加了兵力，他們也在運河北岸構築工事，建立據點。每天雙方都進行隔河炮戰，日軍在韓庄放置的大炮不行，沒有第22集團軍炮營的大炮多，也沒有中國軍隊的大炮好，在激烈的炮戰中，經常被打得狼狽不堪。日軍據點只要有炊煙，中國炮兵就進行炮擊，搞得他們吃不上熱飯，喝不上熱開水。
日軍也採取報復手段，他不同中國軍隊的炮兵對陣，而是尋找機會轟擊村莊，轟炸民房，10多個村莊被日軍炮兵摧毀，數百戶居民跑到微山湖南岸去了。同時，日軍出動飛機，對運河南岸地區進行轟炸，給當地民眾帶來很大的傷害。
敵人的步兵在運河北岸各據點、地堡用輕機槍、步槍阻擊南岸過往人員，打死打傷很多士兵。他們還以輕機槍對準南岸堡壘的射擊口、瞭望孔和觀察哨射擊，造成中國士兵傷亡。
在這種情況下，第41軍的南岸部隊也靈活應對，挑選神槍手，組織狙擊隊，由地面戰鬥轉入地下戰鬥。在地下狙擊戰中，湧現出一批狙擊手隊員，他們用機槍、步槍狙擊對岸的日軍官兵。在很長一段日子裡，日軍官兵惶惶不可終日。
一名日軍小隊長剛從地堡里鑽出來，身子都還沒有伸直，便栽倒地上，不知從什麼地方飛來的子彈，把他的腦袋打開了花。還有一名日軍想在院子里晒晒太陽，屁股還沒有坐下來，胸口便被一顆子彈穿個大洞，倒在太陽下，像條死狗。只要日本兵暴露在地面上，不管是送信的、送飯的、換崗的或者是修補工事的，統統在狙擊手的獵殺範圍。中國軍隊的狙擊手，也打日軍的觀察哨、瞭望孔和機槍射擊口，收穫很大。
中國軍隊的狙擊手謹慎了，看不清不放槍。後來卑劣的敵人採取卑鄙的做法，他們把村民抓來，換上日軍服裝，故意讓他們一隱一現地出現，讓中國軍隊的狙擊手射殺。在狙擊步槍沒有瞄準鏡的條件下，這是很容易誤傷的。所以，在後來非看確切不可。
第22集團軍官兵在當地民眾的配合下，做了許多偵察、防奸、反諜工作。通過炮戰、狙擊戰，他們士氣高漲，積極配合整個台兒庄勝利的形勢，殲滅對岸的日軍，打通微山湖到臨城的通道，切斷日軍前後方的聯絡線，把戰線推到遠離徐州的地帶，便於之後的作戰。偵察員們把運河北岸的偵察情況製成圖，送回指揮部。
第22集團軍前敵指揮部制定出4月反攻計畫，報請第五戰區司令長官部，很快第五戰區司令部批准，