1947年元旦，準備參加魯南戰役的人民解放軍各參戰部隊先後到達了進攻出發位置。1月2日晚，各參戰部隊向國民黨整編第26師發動了全面進攻。此時，敵26師師長馬勵武還在嶧縣歡度新年，他對解放軍這一重大的作戰行動毫無察覺，其部隊只好在毫無準備的情況下倉促應戰。
嶧臨兵團的前鋒整編第26師（附第1快速縱隊）系國民黨軍嫡系精銳，號稱「國軍精華」，全部美械裝備。1946年9月調魯南戰場，配合整編第52師北攻嶧棗線，進佔嶧縣、棗莊、郭里集等地；11月上旬又配合整編第77師東進蘭陵、傅山口，驕橫異常，不可一世。
第1快速縱隊前身為抗日戰爭時期印緬遠征軍第80師，其所屬戰車營由以蔣緯國為團長的第1戰車團撥出，是蔣介石僅有的兩個快速縱隊之一。12月12日，該師由嶧縣東犯，在魯南解放軍的節節抗擊下，先後佔領平山、石城崮、石龍山、向城，前鋒到達卞莊（今蒼山縣，臨沂西南60里）。
整編第77師相繼攻佔蘭陵、大小良壁、四戶、長城。當整編第69師於宿北被殲後即停止進攻。整編第26師西起傅山口、東到卞莊，沿嶧臨公路長50里一字排開，暫時轉入防禦。
敵整編第26師深入解放區作戰，十分艱苦，白天的進攻遭到解放軍頑強抗擊，夜晚宿營不斷遭到民兵游擊隊的襲擊，不得安寧，後方交通線頻遭襲擊。特別是聽到整編第69師被殲後官兵更是惴惴不安。
敵26師師長馬勵武在後來回憶這時的心情時說：「聽說戴之奇的部隊被殲滅，戴之奇被打死，這個消息使我心神為之震動，不安良久。」（馬勵武：《蔣介石整26師馬勵武部嶧棗莊被殲記》，《文史資料選輯》第28輯，第77～78頁）
整編第26師攻佔向城時，馬勵武就感到孤軍深入不妥，曾電薛岳請示行止，薛岳電令繼續向東挺進，迫不得已才進到卞莊。馬勵武后來回憶說：
25日以後，我已發覺新四軍方面主力轉移至我方，有包圍我軍的企圖，電薛岳報告並建議速進速退，把我軍撤至適當位置，左右均與友軍取得密切聯繫，免得孤軍陷入重圍，久曝師於新四軍腹地，並請副主任馮治安代向薛岳陳述，改變作戰方針。但是頑固的薛岳複電不準，認為新四軍主力仍在蘇北，沒有向魯南移動。只令我將馬家莊以東前鋒1個團稍後撤，主力即在馬家莊附近築工警戒，不斷派隊搜索情況，相機進展。到31日止，我方已偵得新四軍調到我方的部隊已有11個師單位之多，判斷新四軍主力北調，我方必有陷入重圍致遭覆滅的危險。但薛岳不採納我的建議，我當時認為，事已如此，只好孤軍奮戰，也臨時召開了軍事會議，作了決心打下去的戰鬥部署：即以44旅固守馬家莊以西及南北地區，形成一個據點，與馬家莊師司令部保持聯繫；169旅固守馬家莊以東及以北地區為一據點；師司令部、直屬隊及第1快速縱隊以馬家莊為核心，在馬家莊西南地區構成陣地為中央固守區，各部隊應加強工事及副防禦設施。這個部署實際上是脆弱的，等於一字長蛇陣，處處薄弱。我判斷新四軍必然是一個沿我軍周圍預設好的包圍圈。我對團以上幹部說：這是一個生死關頭，只有拚命打下去，或者可以死中求生。勉勵他們同心同德應付這個危局，並認為12月30日及31日會有大戰打的，於是各方面都把挨打的架子撐好了，期待著戰鬥的來臨。（馬勵武：《蔣介石整26師馬勵武部嶧被殲記》，《文史資料選輯》第28輯，第77～78頁）
1947年元旦，馬勵武感到自己判斷有誤，認為戰爭可能過幾天才會發生，上午在師司令部舉行了元旦慶祝會及會餐。在電話上徵得了兵團司令官李玉堂的同意，將前方指揮任務交給副師長曹玉行和參謀長鄭輔增負責，遂乘車返回嶧縣當面與李玉堂商談作戰部署，並祝賀新年。