在對德絕交問題上，段祺瑞輕鬆搞定了黎總統和國會，但到了參戰問題，他第一個考慮的卻是盤踞地方的各省督軍們的意見。為此，老段特以召開軍事會議為名，將各省督軍們請到北京，目的就是要爭取他們在參戰問題上的支持。
對於應不應參戰，這些地方軍頭們大都想法簡單，他們覺得如果參戰的話，想必要抽調自己的軍隊，從而影響到自己的勢力，因此大部分人開始是持反對意見的。譬如安徽督軍倪嗣沖，他在蚌埠動身前便發表了一番高談闊論，稱中國不能參戰，如果參戰的話一定會惹禍上身，導致亡國云云；等到了天津後，倪嗣沖又大罵鼓吹參戰的梁啟超，稱他是「亡國文妖」，欲陷國家於滅亡云云。
對於倪嗣沖的言論，老段雖然覺得十分不爽，但還是非常重視。因此，倪嗣沖一到北京，老段便親自登門拜訪，並向老倪解釋了參戰的原因和好處。在老段點明「參戰不需出兵」的玄機之後，倪嗣沖恍然大悟，立刻來了個一百八十度的大轉彎，他揮舞著手大聲道：「參戰！一定要對德國宣戰，越早加入越好！」
除了安徽督軍倪嗣沖之外，當時來到北京的還有直隸督軍曹錕、山西督軍閻錫山、河南督軍趙倜、山東督軍張懷芝、江西督軍孟恩遠、察哈爾督軍田中玉等人，即便是沒有來的督軍，也派出了自己的代表。唯獨讓老段覺得遺憾的是，同為「北洋三傑」、而且是各省督軍中實力最強的馮國璋卻沒有來。據他派去的專使靳雲鵬報告，馮國璋對參戰一事似乎模稜兩可，不甚贊成，這讓老段有點不太高興了。
在召開會議之前，老段和自己的幾個親信傅良佐、曲同豐、靳雲鵬（這三人與老段有師生之誼，並與徐樹錚共稱為段祺瑞的「四大金剛」）上下活動，多方拜訪，力圖取得督軍們對參戰問題的理解。特別是傅良佐，他在徐樹錚被派到歐洲考察軍事後最受到老段的重用，對老段也是言聽計從，不遺餘力。
經過一番努力後，這次軍事會議的氣氛既融洽，又熱烈，各省督軍對老段的參戰主張完全贊成，可以稱得上是一次成功的大會、團結的大會，這在吵吵鬧鬧的民國初年是十分難得的。
在開完會之後，督軍們意猶未盡，他們隨後竟然興緻勃勃的前去集體拜會各在京的協約國公使，並表達出強烈的參戰意願；而那些協約國的公使們更是求之不得，他們又是設宴，又是舞會，對督軍們報以了極為熱情的招待。在這中外互動中，各方其樂融融，一起達到了中國近代以來的外交最高潮。
軍人集體拜會外國公使，這在外交界可是前所未有的稀罕事，算是開了洋葷了。當時的輿論對此頗有微辭，但那些軍頭們此刻正在興頭上，他們才不在乎文人筆杆子下的扯淡呢。這不，5月1日正趕上老段開內閣會議討論參戰案，這幫武夫聽說後便結夥前去圍觀……各省督軍們倒要看看，這民主議政到底是如何個搞法，在他們看來，既然如今民主共和了，人人當家作主，那他們作為各省代表，參政自然是理所當然嘛！
這次的內閣會議，人丁本來不旺，因為內務總長孫洪伊被免職後職位一直空缺，教育總長范源濂正在休假，財政總長陳錦濤和交通總長許世英因牽扯賄賂案而正在迴避，外交總長伍廷芳則因提出了辭呈，此刻也不便參加內閣會議。由此，參加這次會議的除了總理老段外，實際上只有海軍總長程璧光、司法總長張耀曾和工商總長谷鍾秀三人。
等到各省督軍們闖進來之後，本來冷冷清清的會議室立刻變得歡快熱鬧了起來。按理，各省督軍未經邀請是不應該參加內閣會議的，但這些傢伙大多是老段的老同事或者老朋友，總理既然不說話，那其他人也就不好說什麼了。
倪嗣沖和老段是老鄉，又一起共事多年，一向口直心快的他第一個發言：「歐戰即將結束，我們又不用出人出槍，現在趕緊加入協約國，越快越好，就不用再討論了！」其他幾個督軍也附和道：「對！對！不然就來不及了！」
老段聽了這些老朋友的話，心裡十分自在，便拿眼睛看其他幾個閣員，想聽聽他們是什麼意見。這幾個閣員，海軍總長程璧光是甲午時期的海軍將領，張耀曾和谷鍾秀都是留學日本的高才生，這三人傾向革命黨，原本不是段祺瑞的派系中人，只不過老段在組閣時希望博取「人才內閣」之美譽，也便於獲得南方支持而特別延請入閣的。還沒有等到這三人發言，山東督軍張懷芝便搶著說：「參戰事不宜遲，我們山東的百姓恨死了德國佬，政府要是再不決定的話，到時地方上要是鬧起來，我可不負責！」聽了張懷芝的話後，其他督軍你一言我一語的，一半是鼓動，一半是威脅，愣是三位閣員的話給憋了回去。
段祺瑞見會議開到這裡，也就順水推舟的總結道：「要不，咱們就參戰？」還沒等其他閣員反應，督軍們便又是捶桌，又是跺腳，大聲吼著：「參戰！參戰！不用再說了！」程璧光三人見這些人實在是不成體統，但也知道說不過他們，只好默許了參戰案的通過。
等到事情辦好，老段親自把老朋友們送到門口，在對他們表示感謝後，又不免有些擔心的說：「咱們內閣這邊是順利通過了，但不知道總統府那邊怎麼樣，上次還因為和德國斷交的事情與黎總統鬧得不愉快呢！」倪嗣沖拍著胸脯大聲道：「總理放心，這事包在我們身上，黎總統一定沒有二話！」
三天後，各省督軍們再次興高采烈的出現在總統府，想要順勢說服黎總統。這次仍舊是倪嗣沖打頭炮，他在黎元洪的面前喋喋不休的彈著「中國必須參戰，不然無法在國際舞台上立足」的老調子，一點都不顧及傾訴對象的表情和反應。等到倪嗣沖說到「某某國的公使也贊同中國加入協約國」的時候，忍了半天的黎總統實在是按捺不住了，他一拍桌子，斥責這些武夫說：「你們這些人，身為地方軍政長官，如何擅離職守，跑到北京來了？！你們是軍人身份，怎麼能擅自和外交使團交涉？還闖入國務會議干涉國政，實在是豈有此理！」
在督軍們的眼中，黎元洪一向是「菩薩低眉」，沒想今天突然來了個「金剛怒目」，一時還真有點不太適應。你想，這些武夫在袁世凱的時候也不曾被這樣訓斥過，這下氣焰立刻矮了下去。吉林督軍孟恩遠還想辯解兩句，但一看黎總統滿面怒容，也只好和大家一起唯唯諾諾的退下去了。
等到那些督軍們走了後，總統府的人都很高興，說：「大總統今天的脾氣發得好，這下那些人就再也不敢來欺負我們總統了！」
那些督軍們就不這麼想了，他們在離開總統府後，覺得黎元洪這人簡直是莫名其妙、不可理喻，你也不想想，老子們在前清的時候，早就已經是統制了，你一個小小的協統算個屁啊？不過是走了狗屎運當上了總統，你還以為自己多能耐呢？現在不得了了，敢和我們北洋系對著干，哼哼，有你的好果子吃！
在督軍們的遊說無果後，段祺瑞只好帶著閣員們親自去總統府，要求黎元洪在提交國會的對德宣戰案上蓋印。黎元洪雖然訓斥了那些督軍們，但他在段祺瑞的面前還是沒有底氣，但當他把宣戰案交給監印官唐浩鎮蓋印的時候，唐浩鎮卻將之推到一邊，說：「這個印我不能蓋。」
在總統府中，唐浩鎮不僅是反對參戰的，而且他還是黎元洪的親家（其女許配黎元洪的長子），因此黎總統也不好強逼他。唐浩鎮不蓋印，國務院的人不答應了，首先是剛剛銷假回來的內務總長范源濂跳了起來，他指著唐浩鎮的鼻子罵道：「你是什麼東西？你說不蓋就不蓋？」
雙方僵持了幾分鐘後，段祺瑞騰地站了起來，一言不發的走了出去。范源濂氣得話都說不出來，隨後也摔門而去，連門上的玻璃都給震碎了。在其他閣員們離開後，黎總統又覺得後怕起來，他擔心段總理再來一次離京出走，只好親自在對德宣戰案上蓋好印，隨後派人送到國務院。
在這次爭鬥中，黎元洪再次退讓，但他仍舊希望國會能夠阻止參戰案的通過。而在另一邊，段祺瑞和各省督軍們也都積極奔走，向國會議員們遊說政府的外交政策。5月8日，段祺瑞將國會中主要黨派的議員代表請到國務院，向他們解釋了對德宣戰的原因：一、中國在宣戰後不參與歐洲戰事，無需派兵；二、德國已經轉攻為守，頹勢日顯，失敗已經是指日可待；三、俄國在革命後仍舊繼續對德作戰，俄德和談乃子虛烏有。
段祺瑞等人的這些遊說活動應該說還算正常，但在國會對參戰案進行投票前的兩天卻突然出現了一些不和諧的現象，譬如北京城內突然出現了很多自稱「公民」、「代表」的隊伍，他們拿著各色小旗子來到國會前面遊行，並強烈要求對德宣戰；而與此同時，有很多號稱是外地的「人民團體」也紛紛發來電報，要求國會儘快通過參戰案。
袁世凱在迫使國會選舉他為大總統的時候，曾經用軍人搞過「公民團」的勾當，毫無疑問，這次的「公民」、「代表」們也同樣是形跡可疑。更讓人笑掉大牙的是，有幾個機靈的報社記者在查找這些號稱「外地」發來的電報時，卻發現它們無