「讓出」總統，段祺瑞決定踏踏實實地當總理。當然，他要當的總理可不是袁世凱時代的虛位總理，而是責任內閣制下的實權總理。
自民國初建以來，責任內閣制的行政主導體制便在「臨時約法」中得到確認，但在袁世凱當政時期，內閣並不居於主導地位。想當年，宋教仁為實現這一政治理想捨命奔走，直到臨死都未能如願，現在卻要依靠段祺瑞來完成了。
如同支持黎元洪繼任總統一樣，各國對段祺瑞組閣均表現出樂觀其成的態度。他們對中國各派政治軍事力量及其頭面人物的情況進行了分析，認為南方各派尚成不了氣候，只有段祺瑞能暫時控制住中央政權，並鞏固和擴大各國在華利益及影響。
國內方面，首先涉及北方的幾個政界大佬，其中黎元洪已經做了總統，但他在北方的聲望無法與段祺瑞相提並論，他就算是為了保住總統寶座，也得依賴於段祺瑞。
另外兩位：徐世昌在北方的聲望高於段祺瑞，可是實力不濟，同時又無法融洽與南方的關係；馮國璋的實力倒不錯，也是北洋系中唯一一個能與段祺瑞匹敵的角色，然而政治影響力和號召力也不及段，並且他身居長江下游的南京，做個地方實力派首領固無問題，要爭奪中央政權就鞭長莫及了。
此時的中國雖然尚未形成歷史上又一個南北朝，但南北兩派勢力已經涇渭分明：長江以北，基本上是北洋系的天下；長江以南則存在著多種政治軍事力量及其頭面人物，除了以馮國璋為首的北洋地方實力派外，還包括西南地方實力派、以梁啟超為首的進步黨人、以孫中山為首的國民黨人，等等。
總的來說，南方各黨各派都肯定了段祺瑞在「二造共和」中的表現，同時認為他是解決時局危機的核心人物。護國運動的發起者、梁啟超的學生蔡鍔早在袁世凱取消帝制時，就提出了「總理攝政」的主張，後來又曾通電錶示：「時事多艱，非芝老（段祺瑞）莫勝此任。」
段祺瑞當政後，所做的第一件大事就是統一南北。在他發出相應號召後，陝西、四川、廣東在三天內就取消了獨立，接著雲南、廣西也電告各方，表示支持段祺瑞組閣。
但是，南方各黨各派支持段祺瑞也是有條件的，主要包括廢除「民三約法」、迅速恢複「臨時約法」和重開國會、懲治帝制禍首十三人等。
段祺瑞嘗到過被國會當眾質問以及議案無法通過的苦頭，他的本意是繼續「民三約法」，以避免國會重開後自己受到掣肘。南方各黨各派識破後，立即群起圍攻，近一個月的新舊約法之爭由此而起，段祺瑞新內閣的組成亦不得不一再推遲。
面對南方巨大的反對聲浪，段祺瑞被迫做出讓步，表示政府對恢複「臨時約法」一開始就沒有歧見，目前需要的只是研究如何恢複的問題。
這是段祺瑞用來拖延的一個政治花招，如果不靈，他還準備了硬的一手，即以辭職相威脅。
不料硬的碰到了更硬的。1916年6月25日，駐滬海軍突然宣布獨立並加入了護國軍。
在二次革命和護國戰爭中，袁世凱曾用海軍運兵南下，對獨立各省進行鎮壓和威脅。現在海軍加入護國軍，反過來對北洋政府形成了嚴重威脅——在擁有制海權和海上運兵工具之後，護國軍橫可進入長江，縱可到達津沽，甚至直接開入北洋政府的核心區域。
段祺瑞頓感事態嚴重，經過反覆考慮，他決定接受南方關於約法和國會的要求。6月29日，經段祺瑞等人副署，黎元洪公布申令，宣布遵行「臨時約法」。同一天，黎元洪又宣布依據「臨時約法」，於兩天後重開國會。
新舊約法之爭至此告一段落，段祺瑞組閣的障礙也隨之解除。黎元洪重新任命段祺瑞為國務總理，並由段祺瑞出面組織新內閣。
除了恢複「臨時約法」、重開國會外，南方提出的主要條件只剩下「懲治帝制禍首十三人」一條。「帝制禍首十三人」包括楊度、梁士詒、張鎮芳、段芝貴等，多為袁世凱政府或幕府成員，段祺瑞與他們的私人關係較為密切，段祺瑞雖然反對他們在帝制時期的做法，但又對這些人在袁世凱失勢後未對故主反戈一擊表示肯定。
段祺瑞認為「十三人」都可以赦免，他不能饒恕的是陳宧。陳宧在帝制活動中出力不小，不過這並不是段祺瑞反感陳宧的原因，他所深惡痛絕的恰恰是陳宧宣布獨立的舉動。
倒不是說陳宧不能改變原先的政治立場反對帝制，但在段祺瑞看來，作為袁世凱座下第一寵幸之人，陳宧在公開場合反對帝制可以，卻不能因為個人利益得失而忘恩負義，在私情上背叛袁世凱，乃至於給故主的心臟插上致命一刀。