五四運動的風雲人物、北大學生許德衍曾回憶說，在一戰結束後的半年中，「學生們真是興奮得要瘋狂，而各種名流們也勤愈講演」，「公理戰勝強權」的口號「激動了每一個青年的心弦，以為中國就這樣便宜的翻身了」。
但是，世間物往往是這樣，希望越大，失望也就越大。在巴黎和會開幕後，隨著各種壞消息的不斷傳來，國人的熱情也就從爛漫的春天回到了蕭瑟的冬日，各種希望也像被風吹起的五顏六色的肥皂泡，最後還是落在堅硬的地面，殘忍的破碎了。
5月2日，總統府外交委員會事務長林長民在北京《晨報》上發表文章，正式對外公布了巴黎和會上中國外交的失敗。消息傳出，北京的學生們震驚了，北京的人民震驚了，全中國的人民都震驚了！
3日下午，由北京政界中知名人士所組成國民外交協會（其中便有熊希齡、梁啟超、蔡元培等名流）召開會議，討論並決定於5月7日（也就是日本在1915年「二十一條」談判時下最後通牒的那一天）的國恥日在中央公園召開國民大會，以抗議這強權的和會。
和國民外交協會那些文質彬彬的紳士相比，北京的學生們已經沒有這個耐性了，他們哪裡能等到5月7日？就在同一天的下午，北京各校的學生代表們決定晚上七點在北河沿北大法科大禮堂舉行全體學生大會，參會者除了北大學生之外，還包括法政專門學校、高等師範學校、中國大學、朝陽大學等十三所學校的學生。
當天晚上，北大學生和其他學校的學生代表們集合於北大法科大禮堂，很快便將大禮堂擠得水泄不通，連禮堂外都聚集很多人。在當晚的大會上，發言的學生有丁肇青、謝紹敏、張國燾、許德衍及外校代表夏秀峰等人，謝紹敏同學更是激憤異常，他當場咬破中指，撕裂衣襟，在上面血書了「還我青島」四個大字！
在這一刻，整個禮堂都沸騰了，青年學生們的鼓掌聲、喝彩聲和激動的淚光交相輝映，有的學生相互擁抱而泣，有的人則緊緊攥著拳頭仰天而嘆，會場上充滿了悲壯蒼涼的氣氛。
這時，一個學生跳上主席台高喊道：「哭有什麼用！我們要行動！同學們，我們現在就募捐，明天到天安門遊行去！」
聽了他的話之後，會場內的學生紛紛將身上的銀元、銅幣、手錶甚至戒指乃至帽子都捐了出來。隨後，學生們分頭準備，有制定遊行路線的、有製作標語橫幅的、還有外出聯絡其他學校的……這一晚，多少年輕的朋友一夜無眠。
5月4日下午一點左右，來自北京十幾個學校的三千多名學生從四面八方彙集到天安門，他們在金水橋前的兩個華表下豎起了一幅碩大的對聯：
「賣國求榮，早知曹瞞遺種碑無字；傾心媚外，不期章惇餘孽死有頭！」
在對聯的另一邊，前一天晚上北大學生謝紹敏咬破手指所血書的「還我青島」也懸掛在那裡，隨著學生們的激憤而飄搖。
來到天安門的學生大多手持標語，上面分別寫著：「取消二十一條」、「誓死力爭」、「不作五分鐘愛國心」、「寧為玉碎不為瓦全」、「誅賣國賊曹汝霖、章宗祥、陸宗輿」、「頭可斷，青島不可失」，等等。在行進的過程中，學生們還不斷呼喊著這些口號，並將傳單發給沿街的民眾。
傳單便是運動的宣言，一個是古體，一個白話體，凡愛國之士，不可不讀：
嗚呼國民！我最親愛最敬佩有血性之同胞！我等含冤受辱，忍痛被垢於日本人之密約危條，以及朝夕祈禱之山東問題，青島歸還問題，今日已由五國共管，降而為中日直接交涉之提議矣。噩耗傳來，天暗無色。夫和議正開，我等所希冀所慶祝者，豈不曰世界中有正義，有人道，有公理，歸還青島，取消中日密約，軍事協定，以及其他不平等之條約，公理也。即正義也。背公理而逞強權，將我之土地，由五國共管，倚我於戰敗國，如德奧之列，非公理，非正義也。
今又顯然背棄山東問題，由我與日本直接交涉。夫日本虎狼也，既能以一紙空文，竊掠我二十一條之美利，則我與之交涉，簡言之，是斷送耳，是亡青島耳。夫山東北扼燕晉，南控鄂寧，當京漢津浦兩路之沖，實南北咽喉關鍵。山東亡，是中國亡矣。我同胞處此大地，有此山河，豈能目睹此強暴之欺凌我，壓迫我，奴隸我，牛馬我，而不作萬死一生之呼救乎？法之於亞魯撤勞連兩州也，曰：「不得之，毋寧死。」意之於亞得利亞海峽之小地也，曰：「不得之，毋寧死。」朝鮮之謀獨立也，曰：「不得之，毋寧死。」
夫至於國家存亡，土地割裂，問題吃緊之時，而其民猶不能下一大決心，作最後之憤救者，則是二十世紀之賤種。無可語於人類者矣。我同胞有不忍於奴隸牛馬之痛苦，亟欲奔救之者乎？則開國民大會，露天演說，通電堅持，為今日之要著。至有甘心賣國，肆意通姦者，則最後之對付，手槍炸彈是賴矣。危機一發，幸共圖之！
有學生嫌這份宣言過於文縐縐了，於是又以白話體擬定了一份更通俗的：
現在日本在萬國和會要求并吞青島，管理山東一切權利，就要成功了！他們的外交大勝利了，我們的外交大失敗了！山東大勢一去，就是破壞中國的領土！中國的領土破壞，中國就亡了！所以我們學界今天排隊到各公使館去要求各國出來維持公理，務望全國工商各界，一律起來設法開國民大會，外爭主權，內除國賊，中國存亡，就在此一舉了！今與全國同胞立兩個信條道：
中國的土地可以征服而不可以斷送！
中國的人民可以殺戮而不可以低頭！
國亡了！同胞起來呀！
這份宣言卻簡單易懂，當時分發一空，傳誦一時。隨著學生們的集聚，跟隨而至的民眾也越來越多，他們也都為學生的愛國熱忱所感動，並跟著一起高呼口號。
在經過一陣短暫的演講後，學生們隨即向東交民巷的使館區列隊進發，擬向各國公使請願並求爭取國際公義之同情。在途中，民國政府的教育次長袁希濤、北京的步軍統領李長泰和警察總吳炳湘監聞訊趕來，但他們並不能阻止學生的前進。到了東交民巷後，儘管美、英、法三國使署對學生的到來表示歡迎，但巡捕房堅決不放行，結果數千名青年學生在五月的烈日下被曬了近兩個多小時，最終還是不能通過。
使館區請願受阻之後，學生們義憤填膺，激憤異常，隨後便決定改道前往賣國賊曹汝霖家示威。儘管這次遊行的總負責人傅斯年擔心途中會出意外，但此刻他已經無法阻止學生運動的洪流。
這一天的中午，曹汝霖和章宗祥正應大總統徐世昌之邀前往總統府赴宴，學生遊行的消息傳來後，有人曾勸他們暫時不要回府，但曹、章兩人不以為然。在三點左右，曹汝霖和章宗祥一起回到了趙家樓衚衕西口的曹宅。
曹、章兩人回到曹宅不久，陸軍部航空司長丁士源和一位名叫中江丑吉的日本記者來訪，儘管他們已經得到學生要來趙家樓的消息，但當時曹宅外已有上百名警察保護，因此也就不以為意。他們覺得學生們不會搞出什麼名堂，即使出現暴烈舉動，也能被警察所制止並加以驅散。
四點左右，大批學生來到趙家樓的曹宅門口，形勢立刻為之改觀。儘管警察們已經嚴陣以待，但數千學生高呼「打倒賣國賊」的口號聲如同排山倒海一般，足以令宅內的人膽戰心驚。
很快，一些學生一邊高呼：「賣國賊曹汝霖出來見我！」一邊猛烈的叩擊曹宅大門，局勢開始失控。警察們見勢不妙，隨即上前勸阻叩門的學生，雙方發生衝突。在混亂當中，有學生繞屋而走，尋找其他入口。突然，只聽「嘩」的一聲，曹宅的大門被打開了，外面的學生們一下就衝破了警察的阻擋，他們蜂擁而入，四處尋找賣國賊曹汝霖。
學生們首先發現的是曹汝霖的老父和小妾，但他們並沒有對兩人動手，而是放走兩人，繼續尋找曹汝霖。但是，學生們找了半天，也沒有發現曹汝霖的蹤跡。
那這幾人哪裡去了呢？
很多人以為曹汝霖在大門被打破的時候逃出去了，事實上並非如此。據曹汝霖的回憶，他在學生闖進大門後，倉促間躲進了其婦及其女卧室中間的一個箱子間，但學生們卻並未細細搜查，他們進屋之後只是噼噼啪啪砸門窗玻璃，然後扔擲屋內的瓷器（既是賣國所得，砸了它又有何妨？），在亂嚷了一陣後，他們又出去了。
四點半左右，曹宅突然起火，躲在鍋爐間的章宗祥幾個人慌忙竄出，由於章宗祥穿著禮服，一下就被人認出，結果被堵在後門被學生痛毆（學生以為他是曹汝霖），有個學生拿了根鐵杆敲了章宗祥的腦袋，章宗祥順勢倒地，學生們以為他被打死了，一些人便一邊嚷著「曹汝霖」被打死了，一邊逃跑了。聽了這個消息後，另外一些人則興高采烈的紛紛趕來，要看看「曹汝霖」是不是真的被打死了。
趁著這個間隙，日本人中江丑吉沖了過來，他將章宗祥攙扶著，連抱帶拖的出了後門，隨後又將章宗祥推進