早在2月6日，毛澤東電示華野同意以主力北上殲滅李仙洲集團時，就指示：若執行此方案，對外應裝出打南面的架勢，使李仙洲集團放手南進，而我秘密北移全軍，殲滅該集團，並攻佔膠濟路。
2月10日，華野下達行軍命令，以主力4個縱隊分3路兼程北上。左路，第1、第6縱隊進萊蕪西南方向羊流店地區；中路，以4縱為先頭部隊直進蒙陰；右路，7縱直進青山石以東蔡庄、上溫地區。還部署8縱立即開進新泰東北的張庄地區，9縱立即由膠東開至南麻地區，10縱開至萊蕪西面的魯西鎮地區。命令各部隊務於2月16日前進至預計地點集結待命。2月18日發起戰役。
為了迷惑敵人，掩護主力北上，華野採取了以下措施：一是留兩個縱隊（第2、第3縱隊）由陳士榘指揮偽裝華野主力，在臨沂以南地區實施正面防禦，節節阻擊敵人，鉗制南線歐震集團。二是令一部地方武裝積極進逼兗州，並在運河上架設浮橋，在黃河邊籌集渡船，使敵即使發覺我軍主力已不在臨沂附近，也會錯誤判斷我軍準備西進，渡運河、黃河與劉伯承、鄧小平率領的晉冀魯豫野戰軍會合，從而難以立即判明北上作戰的真實意圖。
華東主力揮師北上後，第2、第3縱隊在臨沂外圍阻擊敵人5晝夜後，於15日撤出臨沂城，當日晚，南線敵軍佔領臨沂後，鼓吹「大捷」，宣稱「在臨沂外圍殲共軍16個旅」。
對於華野棄守臨沂之舉，蔣介石、陳誠與第二綏靖區司令官王耀武三人判斷各不相同：王耀武卻從航空偵察中發現大量解放軍部隊在向北行動，對進佔臨沂的「捷報」產生懷疑，判斷華野系放棄臨沂掉頭北上，趕緊在16日命令李集團縮回萊蕪、顏庄地區。
但蔣介石、陳誠卻相信了他部屬製造的「捷報」，又得到共軍在運河上架橋，有西渡模樣的情報，認為共軍「東臨大海、西際湖山、局促一隅，流竄非易」。「似將在東阿、范縣間渡黃河」，因此嚴令李集團再度南進，確保新泰、萊蕪，並派部隊向蒙陰、大汶口側擊「陳匪」。同時又令第11師、第64師等部西開臨城，沿津浦路北上消滅「奸匪」。