1937年8月11日，上海閘北區的居民一覺醒來，發現街道上全是軍服筆挺、威風凜凜的中國軍隊士兵，清一色的德式鋼盔、德式槍械，一時間目瞪口呆，其錯愕的表情後面，一則以喜，一則以憂……
所謂「一則以喜」，這要從1932年的「一二八抗戰」說起。當年日本人借口「僧人被殺」事件對上海發起侵略，蔡廷鍇、蔣光鼐率領的十九路軍和張治中率領的第五軍奮起抵抗，最終中日簽訂《淞滬抗戰協定》。但戰爭雖然停止了，上海周邊地區卻被劃為和平區，中國的軍隊不能入駐，這豈不是令國人氣煞？如今推門一看，自己國家的軍隊不顧什麼狗屁協定，一夜之間便齊刷刷地開了進來，老百姓怎能不感到揚眉吐氣、不感到興奮莫名呢？
那，「一則以憂」又怎麼講呢？不說大家也明白，這打仗嘛，難免生靈塗炭，禍及己身，何況這還是人口密集的城市區。子彈炮火都不長眼，真打起來，老百姓還是先退避三舍的好。於是乎，當天便有數十萬百姓攜家帶口，從閘北區湧進了公共租界，以至於租界內的人口激增，並帶動了房租、物價的暴漲……戰爭迫在眉睫！老百姓從來就沒有離它這麼近過。
中國軍隊突然進駐閘北後，日本人大驚失色，他們派出大量的軍人戴著防毒面具，並令虹口區（日本租界）的所有商鋪住宅都關門關窗，說是有大量軍隊要由兵艦登陸，以恫嚇來虛張聲勢。在鬧騰一夜後，又有數十萬的虹口居民在次晨逃進公共租界，直到後來，居民們才知道這是日本人的緩兵之計，因為他們當時根本沒有想到中國軍隊會先發制人。
8月13日，日本人送出一個最後通牒，聲稱只要「中國軍隊撤退，一切可以談判」，其態度軟化，也是因為他們尚沒有做好準備。「七七事變」後，日軍行動主要集中在華北，對華中、華東地區則採取緊急撤退僑民的措施，到8月份後，上海的日本租界里已經集中了數萬僑民，另外還有3000多海軍陸戰隊駐紮在虹口區。
中國軍隊搶先採取行動是由一個突發事件引起的，那就是8月9日的「大山勇夫」事件。大山勇夫是日本海軍陸戰隊的一名中尉軍官，他於當天帶著水兵齋滕要藏駕駛摩托車來到虹橋機場並企圖強行沖入，結果被守衛機場的中國保安隊當場擊斃。此事件發生後，日方要求撤退中國保安隊、拆毀防禦工事等無理要求，蔣介石接報後，隨即下令向上海進軍。
事實上，中國軍隊這次「先發制人」的行動並不是突然之舉，早在7月30日，京滬警備司令張治中便向南京提出，如果上海情況異常，「似宜立於主動地位，首先發動」。蔣介石隨後複電，「應由我先發制敵，但時機應待命令」，張治中將所部正規軍化裝為保安隊進駐虹橋機場，便是未雨綢繆之舉。
日方見中國軍隊這次來真格的，也是十分驚慌，因為他們當時在上海的兵力十分有限，而要從本土調兵的話至少需要一周的時間，這才會做出又是恫嚇，又是談判的反覆之舉。就在日方發出最後通牒的當天，進駐閘北區的中國軍隊精銳87師、88師便向日軍發起了猛烈的攻擊，戰略意圖就是要將日本在上海的兵力全部消滅。
戰鬥打響後，中國軍隊迅速攻入虹口，但日軍在租界經營多年，早已修建了很多堅固的壁壘，加上停泊在黃浦江上日軍艦艇的炮火支援，因而中國軍隊的進展並不快。開戰沒多久，88師264旅旅長黃梅興便在戰場上為國捐軀，所部傷亡近千人，足見戰鬥之激烈與殘酷。次日，中國軍隊出動空軍對日本艦艇、海軍陸戰隊司令部、匯山碼頭等進行轟炸，海軍也出動僅有的兩艘魚雷快艇，並將日本旗艦「出雲」號炸傷，大大鼓舞了前線的士氣。經過數日苦戰之後，中國軍隊先後佔領了滬江大學、五洲公墓、寶山橋、八字橋、日本海軍俱樂部等要地，並將日軍壓縮在虹口與楊浦的黃浦江左岸狹窄地帶。
但是，要想將日軍徹底消滅也不是一件容易的事，因為參戰的中國軍隊雖然都是德式軍械，堪稱中國第一流的軍隊，但因為嚴重缺乏重武器，因而日軍得以負隅頑抗，等待後援。19日，與87師、88師淵源頗深的第36師（這三個師均由中央軍校的教導總隊擴編而來，長官為張治中）從西安被急調而來，並立刻投入左翼戰鬥。21日，中國軍隊攻入匯山碼頭，嚴重威脅到正在死守的日本海軍陸戰隊。
儘管日軍在戰鬥中損失嚴重，但中國軍隊的損失更大，最終未能徹底拔掉日軍的據點、全殲在滬日軍，而在23日，日本援軍已經在松並石根的率領下，分別於吳淞口、川沙等地登陸，迫使中國軍隊將兵力北移，以堵截增援的日軍。由此，虹口、楊浦之圍便在無形中被化解。
蔣介石令中國軍隊在上海進攻日軍，其中的一個戰略意圖便是希望英美等國捲入戰爭，但由於這些列強都處於觀望態度，而日軍對此也十分謹慎，儘管其一度誤傷了美國的一艘巡邏艇，但隨後便迅速賠償了事。因此，蔣介石的意圖並沒有實現。
但是，這並不代表公共租界就絕對安全。就在中國軍隊與日軍激戰之時，日軍飛機在南京路「大世界遊樂場」扔下了一枚大炸彈，當場炸死了1000多人，傷者更是不計其數。「大世界」位於公共租界與虹口區的邊緣地帶，原本是人來人往的繁華中心，這下立刻變成了人間地獄。據當事人回憶，周邊樓宇都被爆炸聲震得搖晃了起來，很多人被震暈，過了好幾分鐘才清醒過來；等到睜眼一看，周圍全是飛沙走霧，街上的人群驚慌得四處逃散，而炸彈爆炸的中心，更是被炸得面目全非，到處都是死屍和斷手殘臂，極其可怖。過了幾十分鐘後，前來尋找親人的人哭聲震天，而一排排完整或者不完整的屍體，還在地上淌著血，構成了公共租界當年最恐怖的畫面。幾天後，南京路先施公司門前也同樣被炸，死傷人數也很多。
在日軍登陸以後，雙方在獅子林、月浦、新鎮、羅店至瀏河口一線（今寶山區一帶，戰線從閘北、楊浦擴散到上海郊區）形成對峙，在此期間，雙方的後援部隊源源不斷地開來，中國軍隊這邊有羅卓英的第15集團軍、薛岳的第19集團軍、上官雲相的第11軍團，張鈁的第12軍團，這四個部隊與江防軍組成左翼軍，由陳誠擔任總指揮；中路軍方面，除了之前的87師（師長王敬久）、88師（師長孫元良）、36師（師長宋希濂，以上三人均為黃埔一期生，此階段番號均上升為軍），另外又開來了桂系的廖磊第21集團軍、胡宗南的第17軍團（此時中路軍總指揮由朱紹良替換了張治中）；右翼軍的壓力稍小，除了桂永清的中央軍校教導總隊較有戰鬥力外，其餘大都為暫編或雜牌部隊。
在這一階段，雙方投入的兵力遠遠超過前期，戰鬥也比前一階段更加激烈。正可謂「一寸山河一寸血」，國運相搏，寸土必爭。守備寶山的第18軍姚子青營，全營600餘官兵在9月7日的戰鬥中全部殉國，秦慶武團在9月18日的戰鬥中全團殉難，其他參戰部隊的傷亡也大都接近一半，很多補充上來的新兵，官長甚至連他們叫什麼都不知道，便在當晚的夜襲中為國捐軀（大部分中國軍隊的武器遠不如日軍，只能利用夜間和對地形的熟悉將白天失去的陣地奪回來），而正是這些無名英雄，用他們的血肉之軀鑄造了中國的鋼鐵長城。
日軍這邊的消耗也很大，只好由國內繼續增派第9師團、第13師團、第101師團及特種兵一部的重藤支隊（台灣旅）前來參戰，雙方隨後在羅店、蘊藻洪、大場鎮等地展開激戰，反覆爭奪。戰鬥進行到10月26日，大場鎮被日軍所奪，蘇州河北岸的中路軍腹背受敵，只得向上海北站與江灣間的陣地轉移，這時的戰鬥已經開始向上海外圍轉移了。
在中國軍隊主力撤退後，只有一支小部隊留了下來，這就是抗戰史上著名的「八百壯士」。「八百壯士」其實是88師第524團第一營的官兵，對外稱一個團800人，實則是一個加強營，官兵只有411人。當時南京方面決定讓這樣一支小部隊繼續留在閘北，主要也是向國際社會表明抗戰決心並鼓舞士氣，而「八百壯士」駐守的四行倉庫位於蘇州河北的西藏路橋，其建築原本是上海四家銀行（即金城、中南、大陸、鹽業四銀行）共同出資建設的倉庫（建於1931年，佔地0.3公頃，建築面積2萬平方米，屋寬64米，深54米，高25米，系一座鋼筋混凝土結構的六層大廈，也是這一地塊的高層建築，非常堅固）。
第524團第一營的營長為楊瑞符，謝晉元為團附（對外稱團長，原團長為韓憲元，後在南京保衛戰中殉國），他們在接到命令後即率所部官兵411人入駐四行倉庫並掩護大部隊撤退。等到大部隊都撤走後，四行倉庫的西面、北面已被日軍佔領，東面、南面則為公共租界，四行倉庫成為一個「孤島」，而駐守的「八百壯士」也就成了名副其實的孤軍。
「八百壯士」進入倉庫不久，日軍出動飛機坦克向四行倉庫發起了猛烈的進攻，謝晉元、楊瑞符率領所部官兵頑強抵抗，屢創日軍。在公共租界這一邊，數