北洋系的基礎，建立在小站練兵時期，那時，袁把全部心力都用在建軍工作上，他躬親部署一切，如：軍隊的編製和調遣，將領的選拔和補充等。其後政治上袁的地位日高，北洋軍的發展也日大，袁自然不能兼顧北洋軍，於是馮段諸將的權力因之逐漸提高。袁當總統後，精力分散到外交、財政、政黨方面，軍事就付託給北洋系的大將手中。這時，「北洋三傑」的情況是：馮國璋外調南京，主持長江一帶的軍事；段祺瑞在中央統理全國軍事；王士珍卻退隱正定。段以陸軍總長身份，不但對北洋軍系獨攬大權，即對於全國軍事亦有統籌之權。段倚賴徐樹錚，徐有才氣，可是和北洋系的淵源不深。北洋軍的新生力量，多數是由段所培養和提拔，不過袁對軍事並不放鬆，所以便在總統府內設立軍事處以控制全國軍事。
段有段的個性，民國以後，袁段之間總有點心事，北洋系裡相傳有這麼一段故事：
袁稱帝以前，小站舊人早已恢複了跪拜禮，段祺瑞獨不肯，他對於其他問題倒無所謂，就反對在民國時代還要曲膝。馮國璋勸他說：「芝泉，你別任性吧，皇帝和終身總統有何區別？跪拜禮和脫帽鞠躬禮又何嘗不是一樣？」馮拉了段一齊到袁那兒去拜年，自己先跪下去，段見馮下跪，沒有辦法，只得依樣畫葫蘆了。袁見了這兩員大將跪在自己面前，倒有點不好意思，慌忙站起身來，呵著腰說：「不敢當，不敢當！」
馮、段坐了一會，再至袁克定處，也行跪拜大禮，心中當然是十二萬分委曲，怎知這位大少爺卻端坐不動，受之泰然。段一肚子冤氣，怒沖沖地跑出來，埋怨馮說：「你看，老頭子倒還謙遜不遑，大少爺卻架子十足，哪裡拿我們當人！我們做了上一輩子的狗，還要做下一輩子的狗！」馮亦連連搖頭說：「芝泉，莫說你發怒，我亦忍耐不住，今後我跟著你走，我們不能再當一輩子狗了！」馮、段的不滿，後來有人傳給克定，埋怨他不該擺架子激怒了北洋的兩大將，怎知克定卻淡淡地說：「這正是我的安排，這兩個人都是老頭子養大的，現在他們都有點尾大不掉，我若不折折他們的驕氣，將來他們更不得了，難免不爬到我的頭上呢！」北洋軍人那一年都向袁行跪拜禮，袁在接受他們大禮時，總是喊著自己兒子的名字說：「你們快來還禮呀！」袁克定從不答應，儼然以未來儲君自任。
這是小過節，卻使北洋系的將領對袁離心；不過這還不是致命傷，最致命的，是他們逐漸感覺到袁不肯向他們說真話，又想解除他們的兵柄，他們覺得：「鳥還未盡而弓已藏，狡兔未死而走狗將烹！」「既然老頭子已不把我們當作人了，我們又何必對他忠心呢！」
在「北洋三傑」中，王士珍比較最隨和，沒有個性，因此袁對王特別放心。民國成立後，王士珍就回到正定原籍，不問民國政治。由於袁對段的倔強深感不滿，有意要排斥段，因此便有借重王的必要。民國3年春天，袁派長子克定乘專車到正定去迎王進京，王表示無意於再參加政治活動，袁克定說：「參不參加政治是一件事，父親邀請你去京談談又是一件事，如果你一天不啟程，我也只好留在正定促駕，無顏面回北京了。」王被大公子這麼一逼，終於情不可卻地隨同袁克定來到民國時代的北京。袁立刻頒授王為陸軍上將，並且派為陸海軍大元帥統率辦事處坐辦。
統率辦事處是民國3年5月9日成立的，由陸軍總長、海軍總長、參謀總長及大元帥特派的高級將領組織之。陸、海、參三部總長是當然辦事員，第一批所派的辦事員，只有蔭昌、王士珍、薩鎮冰三人，其後加了蔡鍔等。這是袁把全國兵權從陸軍部抓回自己手裡的一項具體措施。自從統率辦事處成立以來，總統府的軍事處也就取消了，段祺瑞退為辦事員之一，而陸軍部的重要職權都移轉到辦事處，陸軍部就成為一個名存實亡的機關了。
袁在宣統初奉「旨」養痾時，曾把價值30萬元的府學衚衕私宅慷慨地贈給段祺瑞，段從那時起便住在這所房子內，在該宅辟一個側門以與陸軍部軍需司的走廊相通，經常由這門出入。自統率辦事處成立後，段就不大到部議公，一切部務都交由他所寵愛的門生——陸軍次長徐樹錚代拆代行。徐樹錚是段最親信的人，可是卻是袁所最討厭的人。一次袁表示要把徐樹錚調職，段覺得這簡直是成心在找他的麻煩，因此沉不住氣大聲地說：「很好，請總統先免我的職，總統要怎麼辦，便怎麼辦！」
民國4年5月，正當日本提出廿一條的時候，陸軍部上了一道請求增加職員薪金的呈文，袁親筆批了如下的：「稍有人心，當不出此！」八個大字。由於段不到部辦公，自然對陸軍部公事也不看，有次袁問段某件公事，段說不知道，袁馬上正顏厲色地質問段：「怎麼，剛剛我才看到陸軍部送來的公文，你是總長卻不知道？」廿一條簽署後，袁克定公開向人表示：所以要向日屈服，只是因為中國不能抗日；為何不能抗日？因為陸軍不能作戰，陸軍部務無人負責，因此袁政府不能孤注一擲，冒險去抗日。在這種情況下，段終不得不向袁呈請辭職，並且不俟批准赴西山養痾。袁有意拉擾蔡鍔，準備讓入京不久的蔡鍔接任陸軍總長；後來還是決定仍給北洋的嫡系，於是陸軍總長一職便落在王士珍身上。
段祺瑞的請辭，當然是被迫的，但是他亦一直在病中，所以他請辭後即赴西山養痾，而袁則一再挽留，只准段請假，一再給予延期，同時派王士珍代理，王因為不肯賣友，所以一再表示不肯就任陸軍總長。
民國4年5月31日袁才派王士珍署理陸軍總長，並發表明令給段祺瑞，給假兩月，頒人蔘四兩，醫藥費5000元。原令如下：
「前據陸軍總長段祺瑞呈稱：自去冬患病，飲食頓減，夜不成寐，迄至今春，遂致咯血，多方診治，時輕時重。醫言血虧氣鬱，脾弱肺熱，亟當靜養，服藥方能有效，迄今四月有餘，方值國家多故，未敢言病。現大局稍就平定，擬請開去差缺，俾得安心調理，冀獲速痊等情。當傳諭少給假期調養。茲據續請開去各項差缺，俾得安心調養，庶獲就痊等語。查自辛亥改革以來，該總長勛勞卓著，艱險備嘗。民國初建，憂患迭乘，數年經營，多資臂助，因而積勤致血衰氣弱，形容羸削，迭於會議之時面諭該總長酌於一星期抽兩三日赴西山等處清靜地方調養休息，以期氣體復強，而該總長以國事為重，仍不肯稍就暇逸，盡瘁國事，殊堪嘉敬。茲據呈請開缺，情詞肫摯，本大總統為國家愛惜人才，未便聽其過勞，致增病勢，特著給假兩個月，並頒給人蔘四兩，醫藥費五千元，以資攝衛。該總長務以時局多艱為念，善自珍重，並慎延名醫，詳察病源，多方施治，切望早日就痊，立即銷假。其在假期內如有軍務重要事件，仍著隨時入內會議，以抒嘉謨而裨國計。此令！」
段正式解除陸軍總長職務是這年的8月29日，與這命令同時公布的，是由王士珍接受段的陸軍總長遺缺。段離職後，袁又指使肅政廳彈劾徐樹錚訂購外軍火浮報40萬元，並於6月26日免去他陸軍次長職，以田中玉繼任。袁段之間由於段的病假，袁的明令給假種種而惹起滿天風雨，爭傳袁段正式決裂，因為所有跡象都顯現兩人之間有問題，袁越做作，越啟人疑竇。8月3日段發表通電闢謠：
「廿年前大總統在小站練兵時，祺瑞以一武備學生充下級武秩，與大總統素無關係，乃承采及虛聲，立委為炮隊統帶，升任統制，不數年由千總微秩，擢道員、總兵、副都統各職。及大總統東山再起，祺瑞復見任湖廣總督、陸軍總長各職，以大總統知祺瑞之深，信祺瑞之堅，遇祺瑞之厚，殆無可加。是以感恩知己，數十年如一目，分雖部下，情逾骨肉。近數年來，祺瑞因吐血失眠，吁懇息肩，乃包藏禍心之某國報紙，以挑撥離間之詭計，直欲誣祺瑞為忘恩負義之徒，甚至偽造被人行刺之謠，更屬毫無影響，不得不略表心跡以息訛言。」
中國官場向是謠言越辟越真，段所謂行刺及某國報紙，原來是這樣的：陸軍部曾發生茶役偷置炸彈案，日本報紙指為是袁欲謀殺段的政治陰謀。
北洋軍人都認定袁、段分家的導火線是袁克定編練「模範團」觸發的。自袁小站練兵起，他即積極抓緊軍隊，不過自他當總統後，已沒有更多時間全神貫注于軍隊，北洋軍人多是段的學生和部屬，下級軍官幾乎全是段所培植，因此，段在北洋系中的勢力便漸漸抬頭。加以馮國璋調往南京後，中央全國軍事完全由段統率，在北洋系中馮段可說是勢均力敵，現在段卻超過了馮，馮心中自然很不高興。因此袁克定主張把兵權拿在自己手中，同時另創一支生力軍，馮是從旁極力推動的。
在大元帥統率辦事處未成立時，袁克定便經常和德國的丁克滿少校，法國的白禮蘇中校討論軍事學和訓練新軍的問題。為了成立一支更新的新軍（20年前袁世凱在小站練兵時，即是為了建立新軍；新軍經過20年，已變成了舊軍了），袁克定向袁建議，在統率辦事處下面成立一個模範軍，由大元帥兼模範軍軍長，這個計畫和清末宣統年間攝政王載