就在劉鄧野戰軍為執行毛澤東的渡黃河的指示，進行準備工作的時候，劉鄧首長還在指揮室考慮從哪裡突破黃河的問題。
從哪裡突破黃河，是劉鄧集中考慮的問題。李達參謀長回憶：「這時，我們司令部已經有了『空中優勢』，即情報處已經有了美軍觀察組從太行撤走時留下的通信設備，並培養了一批技術嫻熟的報務員。敵軍師以上部隊來往的電訊，情報處幾乎都能截獲。他們甚至連敵軍電台報務員的指法都很熟悉，只要一收聽訊號，即能判斷出是哪支部隊的幾號報務員拍發的。」（李達：《揭開戰略進攻的序幕》）
通過截獲敵軍電報，我方把黃河南岸敵軍部署摸得清清楚楚。晉冀魯豫野戰軍司令部6月18日發布的《情字第1號通報》說：「黃河歸故後，蔣軍第4綏靖區劉汝明即抽調55師之74旅、181旅及68師之81旅、119旅共4旅之眾，擔任河防守備。自開封至東阿長達約500華里之防線，守備薄弱，有些地區只得進行游擊防禦。」劉汝明部是舊西北軍，不是蔣介石嫡系。這些部隊編製不完整，戰鬥力不強，讓他們守黃河也是無精打采，在黃河南岸隔一里地修一個小地堡，還要讓老百姓替他們站崗放哨。劉汝明本人住在鄭州，根本不到前線去。就是蔣介石也沒想到我軍會出擊，他仍把主力擺在魯南，要與華野決戰。當劉鄧主力由安陽向魯西南運動時，他卻命令王仲廉由新鄉向安陽反擊，與我軍走了個南轅北轍。
掌握了敵情，劉鄧於6月20、26日連續發布強渡黃河，實施魯西南戰役的命令。決心以第1、2、3、6縱隊從張秋鎮（今河南台前縣）至臨濮集（今屬山東鄄城）150公里地段上強渡黃河。首先消滅劉汝明集團的兩個師，再求殲敵於運動中。
具體部署是：以冀魯豫軍區獨立1旅先行秘密渡河，在戴廟至孫口段黃河南岸接應1縱渡河。1縱由魏山、張堂、林樓渡口渡河，會同獨1旅殲滅鄆城之敵。原在河南的獨立2旅在舊城集至臨濮集段接應6縱渡河，6縱由濮縣東南的李家橋、於庄、大張村渡口渡河，會同獨2旅殲滅鄄城之敵。2縱由孫口、林樓渡河，協助1縱作戰。3縱為總預備隊，視情況渡河擴大戰果。
6月23日，劉鄧率4個主力縱隊由安陽地區向魯西南秘密出動。為了保證渡河的秘密性和突然性，劉鄧命令太行、冀南部隊在豫北發起佯攻，以豫皖蘇軍區部隊向開封以南出擊，轉移國民黨軍的視線。部隊晝伏夜行，國民黨軍的飛機天天在黃河上方巡弋，卻沒有發現我軍行動的蹤跡。30日，劉鄧指揮部到達壽張鎮（今屬山東陽谷），各部隊也到達預定渡河地點。