就在政治家和軍方首腦為了戰與不戰糾纏不休的時候，日本陸海軍的參謀人員已經在為未來的戰爭做著積極的籌備。11月5日，大本營綜合陸海軍意見，制定了《關於促進對美、英、荷戰爭的草案》，這一方案在11月15日的大本營和政府聯絡會議上獲得通過。方案規定：戰爭的要領是帝國應實行閃電戰，摧毀美、英、荷在東亞及南太平洋地區的根據地，確立戰略上的優勢地位，確保重要資源地區和主要交通線，形成長期自給自足之有利態勢，同時用盡一切手段引誘美海軍主力適時加以殲滅。
至於為何將美、英、荷全部列為下一步的作戰敵手，日本內部也經過了長時間的爭論。日本南方作戰的終極目標是荷屬東印度，如果以武力直取這一目標，其前進道路上的障礙就是兩翼的菲律賓和馬來亞，屁股後面還有個香港。香港處於日軍的包圍之中，還好說一點。馬尼拉和新加坡卻不容小覷，分別是美國和英國在遠東最重要的軍事基地。如果不和英、美作戰，當然是好，但是荷蘭敗亡之後，荷蘭政府已流亡倫敦，英、荷已形成不可分割的一體。對荷蘭作戰，也就是同時對英國作戰，所以英國的屬地都必須列入作戰範圍，再說那些地方的資源也非常豐富。剩下的就是考慮美國與英國、荷蘭之間的關係，以確定是否把菲律賓列入南方作戰的範圍。
1940年7月，在制定《適應世界形勢演變的時局處理綱要》時，日本軍部的出發點還是以美、英分離為前提。當時政府和大本營的考慮是，敦刻爾克大撤退後的英國本土岌岌可危，日本如果對英國動武，美國未必會為英國火中取栗。
隨著歐洲戰局的進展，美、英的關係也越來越親密，美國開始不遺餘力地援助英國，日本陸海軍因此產生重大分歧。大本營海軍部認為英美關係是密不可分的，在對南方行使武力時必須將菲律賓包括在內。而陸軍的見識明顯就差一點，認為打英國和美國不一定會參與進來，儘可能別惹美國這個瘟神，不贊成同時對菲律賓行使武力。
海軍認為陸軍的想法絕對是一廂情願，理由如下：
一、假如拋開菲律賓進行南方作戰，勢必要遭到以菲律賓為基地的美軍之側擊，南進的日軍陸海軍時刻處於危險之中，此乃兵家之大忌也。
二、確保爪哇、蘇門答臘、婆羅洲等南方資源地帶同日本本土之間的海上交通，對於未來的持續作戰是絕對必要的，日本必須通過這裡將南洋掠奪的石油和各種物資運回本土，菲律賓對這一海上生命線是致命的威脅。
三、再進一步說，為便於南方作戰的順利實施，把菲律賓作為作戰中間基地和補給基地是非常必要的。
到1941年春天，隨著日美關係的不斷惡化，特別是日軍進駐法屬印度支那後美國做出的過度反應，大本營陸軍部逐漸意識到，要想讓美國置身事外好像已不可能。南方地區同樣也是美國橡膠、錫等戰略物資的主要來源地，日軍佔領新加坡和荷屬東印度對菲律賓也造成了重大威脅，美國不參戰也可能導致全面喪失對中國問題的發言權，因此羅斯福絕不會隔岸觀火。不攻擊菲律賓也許能讓美國暫時不介入戰爭，但容許美國在西太平洋保留這樣一個巨大的軍事基地，等到其增援兵力到達後，將會對日軍的繼續作戰產生致命的影響，日軍連先發制人的機會也喪失了。既然如此，索性一不做，二不休，連你也一起幹掉。陸海軍的意見終於取得了統一。美、英、荷於1941年4月21日在新加坡召開的聯合軍事會議，更加堅定了日本將其作為一個進攻整體的決心。因此，在9月6日御前會議上通過的《帝國國策實施要領》中，美、英、荷已經成為一個整體。
要說這日本陸海軍是故意抬杠，一點也不為過。在攻佔南方地區的次序上，雙方又開始爭執不休。海軍主張向右迂迴從菲律賓方面向婆羅洲、爪哇、蘇門答臘再到馬來亞，陸軍主張向左迂迴從馬來亞方面向蘇門答臘、爪哇、婆羅洲再到菲律賓。最後商定的結果是都別迂迴了，對菲律賓、馬來亞兩方面同時進行奇襲，最後在荷屬東印度會合。當然，經過山本大將的據理力爭，突襲目標中加上了珍珠港。
歐洲的戰爭爆發之前，日本陸軍參謀本部一直未著眼於未來打大戰，戰鬥行動一直局限於亞洲大陸。隨著英、法相繼捲入戰爭以及《三國同盟條約》的簽訂，1940年年末，日本陸軍統帥部開始著手制訂對美、英、荷的作戰計畫。最初制訂的僅僅是對馬來亞、菲律賓等地的區域性作戰計畫，1941年4月改為制訂綜合作戰計畫。在此期間，陸海軍統帥部的作戰參謀之間，始終保持著緊密聯繫。到了1941年8月，陸海軍已基本完成了各自作戰計畫的制訂。
早於戰爭計畫的戰爭準備早已展開。8月15日，日本聯合艦隊下令於10月上旬達到實戰所需的戰鬥能力，根據要求，海軍徵用商船265艘，總噸位112萬噸。9月18日，陸軍發布南方作戰的預備命令，陸軍先後6次（5次在9月、1次在10月3日）宣布成立臨時部隊番號以及向南調兵的計畫，預定參戰部隊開始向中國的南部、中國台灣、中國海南島、帛琉群島、法屬印度支那等地區集結。同時在上述區域建立航空和海運基地，加緊對作戰物資的儲備。
1941年10月，隨著空降部隊的建立，日軍開始了以佔領巨港、巴厘巴板等油田及煉油設施為目標的針對性軍事訓練。為了防止敵軍在逃跑前破壞油田及相關設施，在荷屬東印度作戰中，日本將首次使用傘兵突襲。
對於未來的作戰，日本可謂是未雨綢繆。陸軍參謀本部自1940年就開始組織力量對南方一些用兵要地進行實地考察，搜集軍事情報。至開戰前的這一段時期，從菲律賓到馬來半島，從馬尼拉到新加坡，從關島到緬甸，布滿了日本陸海軍派出的間諜。他們以商人、遊客或者外交官的身份對當地的防務、機場、交通、橋樑、登陸海灘等進行考察，尋找當地潛在的合作者。英國、荷蘭在這些地區的殖民統治不得人心，菲律賓也一直在與美國鬧獨立，所以這些情報人員得到了當地日僑和土著居民的大力幫助和支持。他們獲得的寶貴信息源源不斷地彙集到東京大本營。
舉例說明。1940年夏天，陸軍參謀本部作戰參謀國武輝人少佐以外交官的身份進入馬來半島，重點對英國遠東最大的軍事基地新加坡進行考察。國武少佐經過實地考察後發現，新加坡這個島嶼與馬來半島頂端只有一條約1000米長的堤壩相連。這座號稱東方直布羅陀的軍事要塞，從海上進攻的確是困難重重，但若從陸上進行包抄，也就是從北面進攻的話，就能免去不少麻煩。國輝少佐還發現，儘管從地圖上看從泰國邊界到新加坡只有五六條河流，但實際上大小河流有250條之多。如果守軍在後退時炸掉橋樑，就會極大地遲滯日軍的進攻速度。在選擇登陸地點和制訂具體作戰計畫時，這些因素都給予充分的考慮。後來在實戰中，日本選擇不斷在守軍的後方登陸，導致英軍的連續潰敗。
1940年10月12日，陸軍參謀總部對位於上海附近地區的第五師團下達了實施登陸作戰訓練的命令。12月6日，在中國華南地區的日軍近衛師團、第十八師團、第四十八師團也根據參謀總部的命令開展了適應熱帶地區作戰的軍事演習。
接著，1940年12月中旬，日軍在台灣成立了專門研究南方作戰的中心機構——「台灣軍」戰術部，部長由林義秀大佐擔任，但真正的推動力來自赫赫有名的豺狼參謀辻政信。戰術部負責對各兵種部隊在南方作戰中的戰鬥、裝備、軍需、給養、衛生防疫、海岸地形、潮水漲落等事項進行研究。
1941年6月，由「台灣軍」戰術部主持，以步兵一個大隊、炮兵一個中隊為骨幹的演習部隊在海南島舉行了登陸之後的熱帶地區長距離機動演習。為了檢驗士兵在熱帶炎熱環境下的生存能力，辻政信把全副武裝的士兵裝入悶熱潮濕的船艙，讓他們三人擠一張榻榻米，在近50攝氏度的高溫下，只允許士兵喝少量的水，就這樣關了整整一個星期。這些骨瘦如柴的士兵在如此惡劣的條件下，攜帶著馬匹和裝備，成功在開闊的海灘上登陸。演習環繞海南島一周，行程1000公里，相當於從泰國南部登陸到新加坡的機動距離。辻政信中佐根據這次演習的研究結果編寫了名為「熱帶叢林作戰戰務必讀」的實戰指南，在開戰前分發給參加南方作戰的全體官兵。
在此之前的1941年3月，陸軍統帥部在九州島也進行過一次參謀旅行演習，對有關參戰部隊的主要參謀人員進行關於登陸作戰的戰前訓練。接著，自3月下旬至4月上旬，在大本營主持下，開展了以攻佔新加坡為目標的大規模的陸、海、空聯合演習。由在上海專門接受登陸作戰訓練的第五師團、駐滿洲的第五飛行集團及聯合艦隊一部組成演習部隊。演習方案是由長江口舟山群島出發的登陸作戰部隊在海空軍掩護下，一面摧毀敵海空部隊的阻擊，一面通過中國東海在北九州進行登陸，最終攻佔佐世保海軍要塞。這次演習的總指揮就