日本在正式對德奧宣戰後，首先行動的不是陸軍而是海軍。根據與協約國商定的分工，日本海軍將組織南遣艦隊，負責保障西太平洋航線的安全並奪取德國在赤道以北的全部島嶼，包括馬里亞納群島，加羅林群島，馬紹爾群島，帛琉群島以及太平洋海底電報的通信中心雅浦島。為此，日本海軍組織了兩支南遣艦隊，第一南遣艦隊在9月12日便南下了。但兵力卻原遜於英法的期望，第一南遣艦隊由戰列巡洋艦鞍馬號為旗艦，戰列巡洋艦筑波號、裝甲巡洋艦淺間號、第16驅逐艦隊（2艘驅逐艦）以及運輸艦南海丸、遠江丸組成。在日本發動對華戰爭時，第二南遣艦隊尚在編成中。
但日本海軍主力並未將肅清德國海外殖民地當做第一要務，主力投入到了侵華戰爭中。至9月15日中日談判尚未破裂之前，日本海軍已將主力編為三個艦隊，其中第一艦隊由加藤友三郎中將指揮，負責黃海方面哨戒並保護通航。計有戰列艦2艘（攝津、安藝），輕巡洋艦2艘（笠置、音羽）以及5艘驅逐艦組成的三支驅逐艦隊。
第二艦隊負責青島攻略，由加藤定吉中將指揮，計有4艘戰列艦（周防、石見、河內、丹後），3艘裝甲巡洋艦（磐手、八雲、常磐）、2艘輕巡洋艦（千歲、千代田、）海防艦2艘（沖島、見島），水上飛機母艦若宮丸，驅逐艦8艘以及5艘大型運輸艦。
為了遏制孱弱的中國海軍，日本還組織了第三艦隊，負責東中國海方面哨戒，任務是封鎖並相機殲滅以上海、廣州為基地的中國海軍，該艦隊由土屋光吉少將指揮，編有戰列艦2艘（攝津、石見）戰列巡洋艦2艘（金剛、比睿），輕巡洋艦3艘（新高、秋津州、利根），海防艦春日、日進，以及9艘驅逐艦和5艘炮艦。
相比於陸軍，日本根本沒有將中國海軍放在眼裡。的確，比起亞洲第一、世界第四的日本海軍，中國海軍實在是太弱小了。
以日本海軍的實力，完全可以攻入長江進入中國腹地。根據日本掌握的情報，中國在吳淞口及長江沿岸並未修築大型江防炮台，但海軍軍令部給第三艦隊的兵力卻僅夠封鎖上海中國海軍。這就有些意思了，俄國對日本的海上威脅已經解除，日本在西太平洋幾無敵手，如果徹底消滅中國那幾萬噸軍艦，有什麼必要組建以哨戒黃海保證通航的第一艦隊？海軍是進攻型軍種，被動防禦註定要吃敗仗的。日本人這樣排兵布陣，既有外部的因素，更主要的是內部因素。
外部原因之一是因為英法強烈禁止日本攻入長江進入中國腹地以挑起與中國的全面戰爭。英法擔心中國做出過激的反應，就此將中國逼入同盟國陣營，青島之戰後這種情緒尤為強烈。內部因素呢，日本並不准備與中國全面開戰，既因財政之困擾，拿不出錢來打一場滅國之戰，也因為沒有把握。更重要的是他們獲知了中國海軍擁有兩個潛艇編隊，擁有20艘以上的進口潛艇，軍令部擔心艦隊的反潛能力不足，如果被中國潛艇擊沉大型軍艦就是笑話了，所以才編組了以護航為目的的第一艦隊和以封鎖為目的的第三艦隊。日本對中國的海上戰略就是封鎖，將中國海軍堵在港口內就行。
跟陣容豪華的日本海軍相比，中國海軍就很寒酸了。有些乞丐跟龍王斗寶的感覺。
新中華成立後，全面接管了滿清留下的海軍遺產，海軍以上海、福建、廣東為三大基地，對於渤海灣和黃海反而放棄了。這是無奈之舉。山東擁有漫長的海岸線，但由於德國和英國艦隊的存在，幾無中國海軍的立足之地，渤海灣自旅順丟失後，這片中國內海反而沒有中國海軍的活動空間。於是將基地設於南方，緩慢地積蓄力量，以待時機。
龍謙定都北京的第二個月便組建了海軍司令部，以他老資格的總參謀長、山東軍司令官方時俊出任海軍總司令。龍謙為海軍發展確定了「培養人才、積蓄力量、等待時機」十二字方針。確定國防建設的重點在陸不在海，至少在十年內，國家不會為海軍建設花大錢。
方時俊正確地理解了龍謙的意圖。沒有跟陸軍建設爭資源，而是積極落實龍謙的十二字方針，一方面搜羅人才，請出了薩鎮冰、嚴復、載澤等海軍耆宿，組建了福州海軍軍官學校和上海海軍技術研究院，請來了美國海軍退役及現役軍官充任教官以培養海軍人才並展開海軍兵器研究。一方面整頓現有力量，組建了東海、南海兩支艦隊以培訓官兵。第三就是大力扶持造船工業，為海軍騰飛打下基礎。
這個過程中方時俊最展現自己能力的就是搜羅人才。不惜降尊紆貴請出了薩鎮冰、嚴復等人。進而通過他們將滿清培養的海軍人才「一網打盡」，全部吸納至新中華海軍中。然後又大力招收回國效力的華僑加盟海軍，最後則是花大錢聘卿美、德等國的海軍教官及技術人才，費盡心力地搭起了海軍的架子。
方時俊總理1910年出訪美國時，撿起了滿清與美國簽署的海軍一攬子協定，這是美國樂於達成的。但中方修改了原協定的內容，大幅度減少了水面艦隻的購置，特別是巡洋艦和驅逐艦的購置，轉而購買造船設備，擴充了江南造船廠，添置了大型船塢，並與美國聯合成立了美中太平洋航運公司以擴大中美航運能力。當然也買了幾艘美國的戰艦以滿足美國人的要求。至1914年夏，中國海軍兩支艦隊的水面艦隻共有巡洋艦7艘，驅逐艦7艘，炮艦11艘，總噸位不足5萬噸，其中大半兵力被置於環境相對安全的南海艦隊。
至1914年夏，海軍總兵力超過了兩萬人。值得一提的是，海軍兵員不是來自於陸軍，而是招收自大中學畢業生。海軍軍官（除了幾位耆宿），全部來自福州海軍學院（最初學制兩年，1913年起延長至3年）及留美、留德的學員。海軍中來自陸軍的軍官（包括海軍司令部各級參謀）極少，完全不成比例。這個情況使得海軍徹底脫離了陸軍，成為了一支觀念、思維都與陸軍有著極大差別的軍種。到了1914年，陸海兩軍的不同風格已經展現，比如陸軍官兵抽煙的居多，而海軍官兵則基本沒有吸煙著，比如海軍軍官通一門外語的比例很高，但陸軍則很少。導致一些蒙山軍高級將領譏笑海軍為假洋鬼子。當時，沒有任何人意識到海軍擺脫陸軍自行發展的意義，直到建國二十餘年後，海軍已經發展為一支不容陸軍小覷的大軍種，海軍才在國家大政上發出越來越強烈的聲音。
方時俊並非故意走上「獨立」於陸軍之外的道路。一方面是因為龍謙要求他立足自身培養人才，另一方面是陸軍軍官基本不願意去海軍，就連他司令部的組建都費了很大力氣。
龍謙雖然確定了先陸後海的原則，但對於海軍的投入還是逐年增加的，加上美國的專項貸款，建國五年來對於海軍的投入接近了滿清打造北洋艦隊的總量。這些錢卻大部花在了潛艇購買和製造上。
1911年春，中德簽訂了海軍合作秘密協議，除了購買德國2艘最新的U型潛艇外，還委託德國製造4艘同型潛艇併購買了全套圖紙，拉開了海軍潛艇發展的大幕。以後三年間，購買德國潛艇的數量逐年增加，累計達22艘之多。不僅如此，德國還在1912年轉讓了一座潛艇工廠和全套的魚雷技術，中國在南昌建立了魚雷工廠，可以在德國工程師的指導下在本土建造遠洋潛艇及潛艇的主要武器魚雷。
就潛艇技術而言，德國領先全球，所以中國瞄準了德國而不是美國。1912年底，上海海軍技術研究院在德國專家的幫助下設計了一款大型潛艇，這艘潛艇是在德國U型攻擊型潛艇基礎上改進的，大的結構沒有改變，但噸位及全艇尺寸增加了。定員32人，柴油動力，水面1700馬力，水下1200馬力，水下排水量達到900噸，吃水3.65米，全高8.25米，航速水面15節，水下9節，潛深達到50米，最大的變化是取消了德國潛艇裝備的105mm艦炮，使得該型潛艇的武備只剩了魚雷。可攜帶16枚魚雷，共有4具魚雷發射管（前2後2）。
這款被命名為劍魚級潛艇是共和國第一艘有著自己設計思想的遠洋潛艇，對德國潛艇思維有了革新。獲得了德國潛艇專家的肯定，德國專家對中國人取消火炮的思維認為是一次革命性顛覆，將引發潛艇戰術的巨大改變。建議德國海軍也仿效中國取消火炮那個基本不發揮作用的雞肋，專心發展魚雷攻擊戰術。
雖然潛艇發展取得很不錯的成績，但當時在海軍霸主英國的影響下，大炮巨艦主義盛行，各海軍強國專心發展新一代戰列艦，認為戰列艦才是決定海戰勝負的關鍵。對於潛艇這種新玩意，除了受到英國強力打壓的德國，包括日本在內，都不太重視。
中國海軍另闢蹊徑的戰略思路受到了海軍內部的質疑。隨著國力的復甦，海軍要求添置大型戰艦的呼聲也出現了。1913年春節，南海艦隊司令官薩鎮冰海軍中將致信龍謙，請求購置兩艘戰列艦以壯聲勢。為此，國防部在上海召開了絕密的海軍發展研討會，龍謙在會上拋出了令海軍耆宿們難以接受的「戰列艦」無用論。
「我可以大膽預言，戰