日軍佔領熱河後，河北、平津暴露於日軍的進攻鋒芒之下。張學良下野後，蔣介石命軍政部長何應欽兼代軍事委員會北平分會委員長，控制華北軍政大權，負責北方軍事，同時任命內政部長黃紹任何應欽的參謀長。何應欽手下轄有14個軍，約35萬人，其中以第二師黃傑部、第二十五師關麟征部、第八十三師劉戡部、第二十九軍宋哲元部、第五十九軍傅作義部、第六十七軍于學忠部的戰鬥力較強。他們配置於長城到灤河一線，分兵防禦各關口，從渤海到察哈爾，戰線長有三五百公里。當時的中國軍隊依靠長城為唯一的防禦工事，戰事最激烈的便是長城各口保衛戰。長城沿線成為中、日軍隊鏖戰之地。從東北淪陷至盧溝橋事變之前，1933年的長城抗戰，是中、日間規模最大的戰事。中央軍、東北軍、西北軍、晉綏軍等共同參加了戰鬥。
1933年3月上旬，日軍第六、第八等師團4萬多人在飛機、坦克、火炮的配合下從冷口、喜峰口、古北口三個方向向長城一線發起攻擊。關東軍司令官武藤信義從長春到達錦州，直接指揮進攻長城線的作戰。
冷口之戰是長城戰役的第一仗。3月初，日軍在追擊從熱河前線潰退下來的萬福麟部時已乘勢佔領了冷口關。奉命增援的第三十二軍商震部一三九師於3月7日乘日軍立足未穩，於傍晚果斷地發動了反擊，收復冷口。日軍於3月底反攻冷口，但在商震部頑強的防守下，進攻沒有得逞。
喜峰口是北平與熱河的交通咽喉，3月5日，日軍第八師團先遣部隊偷襲冷口得逞後，師團主力停止向冷口前進，改為向喜峰口疾進。9日，日軍開始對喜峰口進攻，並乘萬福麟部立足未穩之際，佔領了喜峰口外約20公里的前哨據點孟子嶺。
第二十九軍宋哲元部本來前往冷口增援，但在喜峰口危急後，又馳援喜峰口。第二十九軍第三十七師王長海團以半天前進100多里的速度，從遵化趕到喜峰口，乘天色已暗，潛登山頭，一舉將日軍所佔制高點奪回。
當晚，一〇九旅旅長趙登禹派出兩個營的兵力越出長城夜襲日軍，凌晨3點進入敵陣，燒毀了日軍行李車10餘部，殲敵500多人，拂曉，日軍發起反攻後，趙部且戰且退返回長城之內。日軍以強大的炮火連續攻擊喜峰口陣地兩天，雖給守軍造成相當傷亡，但日軍也付出重大傷亡的代價，並且仍無法突破第二十九軍的陣地，雙方反覆拉鋸。
第二十九軍將領秦德純、張自忠、馮治安、何基灃等經會商後，決定利用第二十九軍官兵夜戰與近戰的特長主動出擊，以趙登禹、佟澤光等兩個旅的兵力分兩路潛至日軍側背，於3月11日晚進行大規模的夜襲。
當夜，趙、佟兩旅兵分兩路而行。當趙旅攻入日軍炮兵陣地時，疲勞的日軍已進入夢鄉酣睡，萬萬沒有想到白天挨打的中國軍隊還敢發動夜襲，於是在睡夢中便被大刀隊用大刀、刺刀結果了性命。第二十九軍官兵們將日軍陣地上的裝甲車、大炮統統加以破壞，然後回到原陣地。這次大規模的夜戰，殲敵1000多人，給日軍意外的打擊，成為長城抗戰中最大的一次勝利，大刀隊的威名立即傳遍了全中國。這場戰事，距今已經間隔了70年。談到這次戰事，留在人們記憶中最明晰的，還是第二十九軍的大刀隊。從當年激動人心的新聞報道，到後來「大刀向鬼子們的頭上砍去」的雄渾歌曲，再到歷史教科書不惜筆墨的詳細記載，它成了抗戰史上最引人入勝的故事之一。大刀成了一種符號，一種毅然決然的精神，一種操起傢伙奔向前線的熱血衝動，一種為生存而反抗的禮讚。
經過7天7夜的激烈較量，日軍在喜峰口陣地上未能佔到第二十九軍的便宜，便轉而攻擊羅文峪，想攻擊第二十九軍的側背。羅文峪守軍最前線的一個營在阻擊日軍時大都陣亡，但第二十九軍已有準備，下午便增兵反攻，擊退了日軍。
3月18日，日軍再攻羅文峪，劉汝明與張自忠部全力抗敵，團長李曾志腿部受傷，仍在前線指揮，王春生營長力戰陣亡，他所率的一營官兵僅剩下70多人，但仍堅守陣地，粉碎了日軍的計畫。喜峰口在歷經多日戰火後，城牆壁上彈洞累累，但它仍然牢牢掌握在第二十九軍戰士手中，使日軍望而生畏。日本報紙承認喜峰口的戰鬥喪盡了日本「皇軍」的榮譽，受到了60多年來未有的侮辱。
長城線上的古北口位於北平東北約200公里，也是從承德到北平的重要孔道，它的東西兩面都是崇山峻岭，形勢十分險要。從熱河南下，日軍將這裡作為一個主攻目標。蔣介石忙於調集大軍在江西從事內戰，長城告急後，他派譴原在江西東南部參加圍剿紅軍的第二十五師北上，後來又將駐兵潼關、洛陽的第二師及湖北的第八十三師北調。這北上的3個師合編成第十七軍團，由軍團長徐庭瑤統率。第二十五師關麟征部到達北平時，北方已經是冰天雪地，而來自南方的官兵們尚是赤足草鞋。當時朱慶瀾組織的抗日後援會及時捐贈了皮大衣以及挖掘工事的工具，才解決了他們的燃眉之急。
3月10日凌晨，二十五師趕到古北口。原在古北口防守的東北軍第六十七軍王以哲部在古北口外的青石樑陣地上與日軍苦戰4晝夜後，已呈不支之勢，於3月9日下午退往古北口以南佔領陣地。日軍第八師團長西義一在日軍於青石樑遇阻時趕至古北口督戰，11日，日軍終於佔領了古北口關。日軍向在關南設置的第二道防線的關麟征部開始進攻，並對陣地的右翼進行包圍。師長關麟征見狀，率領師部特務連趕往增援右翼陣地，準備指揮反擊。途中，他被日軍的狙擊手用手榴彈擊傷，副師長杜聿明接替他指揮，保持陣地不失。
12日上午，日軍的進攻更為猛烈，二十五師師部的通訊線路被炸斷，陣地被日軍切為兩段。古北口一戰十分激烈，連日軍也承認是「激戰中的激戰」。二十五師消滅日軍2000多人，而自己激戰3晝夜後兵員傷亡有4000多人，其中連排長死傷3/4，士兵死傷3/5，杜聿明決定放棄對古北口的爭奪，退守新的陣地南天門。徐庭瑤下令由黃傑的第二師頂上去替代二十五師守衛距古北口5公里處的南天門，屏障北平。
18日，在天津主持策反活動的關東軍特務機關長坂垣征四郎通知關東軍司令部，預定北洋軍閥餘孽張敬堯於20日在北平發動叛亂，要求日軍在長城沿線加強進攻以便配合。20日夜間，第八師團開始攻打南天門。第二師在八道樓子、四二一等陣地與日軍激戰5晝夜，傷亡過重，由劉戡的第八十三師再頂上去防守南天門，血戰3晝夜，陣地工事完全被毀，26日退往南天門以南600米處佔領陣地。後來中國軍隊由南天門退到石匣鎮，又由石匣鎮退往密雲，節節抵抗，節節撤退，陸續打了兩個月。在這場慘烈的激戰中，雙方均有重大傷亡，日軍傷亡5000人，中方傷亡更多，時間之長與戰鬥之烈為長城抗戰之最。
為呼應古北口、南天門方面的戰事，4月下旬，日軍第八師團第三十一聯隊3000多人佔領了興隆鎮，企圖攻擊徐庭瑤軍團的側背。徐庭瑤調第二十六軍蕭之楚部收復興隆。第二十六軍於27日上午攻入興隆鎮，將殘敵圍困於縣署與興隆山上，蕭軍逐步逼近日軍據守的房屋，迫令日軍投降。但此時，南京政府軍政部次長陳儀和日本駐上海海軍武官根本博已經開始交涉華北停戰問題，根本博提出停戰的要求之一便是讓中國解除對興隆日軍的包圍。5月1日，何應欽令蕭軍解除包圍，這才使興隆的日軍逃脫了被全殲的命運。
關東軍在熱河作戰時輕鬆得勝，如同行軍一般。但它在長城沿線作戰中傷亡很大，到3月下旬雙方已呈對峙局面。無奈之下，日軍便將作戰重點轉向北平東北的冀東。何應欽見冀東前方的第五十七軍何柱國部處境危險，下令何軍撤回到灤河一線。當時輿論不知內情，為之嘩然，指責何應欽不該輕棄土地。冀東的戰鬥首先從日軍攻打併佔領沙河寨與石門寨開始，第五十七軍在海陽鎮與2000多名日軍反覆爭奪，失而復得多次，直戰至4月3日才被迫放棄。7日，何柱國指揮所部在湯河一線集中兵力全線反攻，部隊在炮火掩護下收復了海陽鎮，然後繼續向前推進，日軍不支向後退卻。日軍交戰後知道冀東不易輕取，便從冷口等地進軍，威脅何柱國軍側背。在何軍反攻剛有進展時，日軍佔領了冷口，商震部向灤河兩岸撤退，冀東戰線全線動搖。恰在此時，日本軍部不贊同關東軍超越長城線在冀東作戰，於是冀東日軍開始後撤，大部分退至長城各口附近。
日本軍部與關東軍已經考慮如何佔據有利的形勢停戰，關東軍參謀長小磯國昭在東京建議關東軍越過長城一線作戰，得到了日本天皇的批准。日軍從長城與冀東各方面展開全面進攻，擺出對平津志在必得的架式，以誘使中方簽訂城下之盟。
中國軍隊經過長時間的戰鬥，已經消耗很大，在日軍的強攻下已呈不支之勢。5月21日北平軍分會召開各軍將領會議，未有結果，只決定由徐庭瑤任北平城防司令，軍政首腦機關做好撤出北平的準備。當日