在幾千年的中國封建社會裡，誰握有軍權，誰就能夠左右政局，主宰天下。在培植軍隊對自己的忠心上，袁世凱比曾國藩和李鴻章更進一步——在新軍的建立和訓練過程中，袁世凱就向部隊暗自輸送了一套理念，這一支部隊的絕對權威，就是他本人。
※※※
甲午戰爭的潰不成軍，對年輕氣盛的袁世凱來說，打擊是巨大的。清朝的軍隊由早期的八旗和綠營，到晚清時曾國藩湘軍、李鴻章淮軍，建制上發生了很大變化，裝備和作戰能力有了很大進步，在平定太平天國和捻軍中，摧城拔寨，攻無不克，沒想到遇到小小的日本，竟如此不堪一擊。這一點，讓清軍上下感到震驚。熟讀兵書的袁世凱感到怎麼都不能理解，也嚥不下這口氣。
戰爭期間，袁世凱的差事是：前往山海關外處理前線軍務，協助周馥向前線轉送軍需物資。因為不在前線，袁世凱有力使不上，只好給有關部門不停上書，談及自己軍事上的一些想法和策略。袁世凱的這些建議，大都石沉大海。甲午戰爭失敗後，李鴻章因為被朝廷認定為消極作戰，同時又作為替罪羊簽訂了《馬關條約》，引起朝野上下的不滿，全國上下一片聲討。袁世凱也朝議不佳，有不少人將中日戰爭的爆發怪罪於袁世凱在朝鮮的肆意妄為。重壓之下，李鴻章只好躲進北京的賢良寺避風頭，袁世凱也灰溜溜地告假回河南省親。
甲午風雲的硝煙散去之後，袁世凱一方面招集了一幫幕友，靜居於京城的河南會館，參考一些現代軍事著作，嘗試撰寫現代兵書；另一方面，袁世凱還有意拜訪了不少富有名望的大臣。湘軍名將劉坤一，就是在與袁世凱的交談中，發現這個年輕的河南人是個人才。劉坤一很快向光緒皇帝力薦袁世凱，認為袁世凱堪用。很快，光緒正式召見了袁世凱，以示鼓勵。袁世凱在見到光緒之後很激動，寫了洋洋萬言上書，想通過翁同龢遞交給光緒。在萬言書當中，袁世凱首先表明甲午戰敗並不可怕，只要能破除積習，因時變通，便是一個大的轉機；袁世凱陳述了改革軍制、採取西法的重要性；圍繞著向西方學習的中心，對清廷用人、理財、經濟、軍事、外交等方面的改革，提出了一系列的設想。在文中，袁世凱無論對國際局勢的分析，還是對改革方案的設想，都顯出遠見卓識，思路清晰，翔實具體。從這一部萬言書可以看出，袁世凱當時對於西方政治、法律、軍事和經濟的瞭解，並不在康有為之下；而且袁世凱的措施和手段，遠比康有為的想法更切實可行。遺憾的是，袁世凱的上書，並沒有引起習慣於傳統思維的翁同龢的重視，上書仍是石沉大海。
因為竭力主張變法，袁世凱對於甲午戰爭之後興起的各種力量極其關注。袁世凱上書後不久，康有為、梁啟超在北京發起成立第一個維新政治團體——強學會。袁世凱積極參與其中，並為強學會捐納了五百金。在當時，這是一筆不小的數目，由此可見袁世凱對於維新的熱衷。當然，袁世凱對於康有為等的做派稍稍有點看不上，認為他們畢竟是書生意氣，很難成大事。很快，天賜良機，袁世凱的鑽研有了用武之地，清廷此時打算組建一支現代化部隊，讓各大臣推薦人才。在李鴻藻、翁同龢、李鴻章、張之洞、劉坤一等人的聯合舉薦下，光緒帝下旨，任命袁世凱為新建陸軍督辦大臣。
關於袁世凱的陞遷，後來長期駐中國的日本記者佐藤鐵治郎在他一九○九年出版的《袁世凱》一書中，曾經記述過這樣一段軼聞：馬關談判時，李鴻章和日本首相伊藤博文在談判之餘閒聊，說到中國人才難得的話題。伊藤博文就問李鴻章：「袁世凱現任何事？」李鴻章說：「小差事無足輕重。」伊藤博文就說：「以袁世凱之才，僅任無足輕重小事，無怪無人才也。」如果這段談話屬實的話，從中可以看出，日本政界對袁世凱還是有敬畏之感，知道袁乃難得人才，清之能臣。
一八九五年底，袁世凱奉旨前往距天津六十餘里、離北京三百里左右，素有京津南大門之稱的潦水套，這裡是天津與大沽口之間的一個小站，所以也稱小站。後來，這個地方被正式命名為新農鎮。在這裡，袁世凱接管了舊式定武軍，按照朝廷的旨意，督練清廷的第一支新建陸軍。小站練兵的重任，讓時年三十六歲的袁世凱意氣風發。從少年起，袁世凱的志向就是帶兵打仗，現在有了這個機會，袁世凱內心的激盪就可想而知了。當年編練朝鮮親軍，袁世凱主要以淮軍操練法為主，吸納了一些英美和德式操練法。此番小站練兵，袁世凱的目標是打造全新的現代軍隊，自然不能採取訓練淮軍的舊辦法，而是全盤更新，以西方和日本現代陸軍的方式，對這支軍隊進行改造。
一是編制上：新建陸軍以過去四千七百五十名定武軍為基礎，又在河南、山東、皖北、蘇北、奉天等地招募二千二百五十人，共計七千人，編為一軍。聘請了十多名德國、日本、美國軍事教官教學；成立了陸軍督練處，下設參謀、執法、督操三個營務處及糧餉局、軍械局、轉運局、軍醫局、教習處等，訂立各種章程，完善軍隊的組織制度；建制以德國和日本軍隊為準，分為步、炮、馬、工程、輜重五個兵種。各兵種內部分工明確，職責分明。各基本戰術單位既能獨立作戰，又能彼此協同；既能充分發揮機動性、靈活性，又能集中、統一應付大規模、複雜的戰鬥局面。
二是軍官的使用與培養上：建軍伊始，袁世凱「用人唯賢」，把大批北洋武備學堂畢業，受過系統西方軍事教育的年輕人網羅到小站，比如段祺瑞、馮國璋、王士珍、曹錕、王懷芝、王英楷、王占元、何宗蓮等，都被委以重用。這樣，新軍的高中下級軍官全是武備學堂畢業的。袁世凱的「同鄉故舊」，只有徐世昌、阮忠樞、劉永慶、雷震春、江朝宗、沈祖憲等十數人，淮軍舊人更是屈指可數。大量具有近代專門軍事知識和技能的人充當軍官，保證了新軍指揮體系的科學化、職能化、正規化。袁世凱制定的《新軍官制》，明確規定了軍官資格、官階、考核、晉陞等條例，以培養和引導新軍軍官迅速成長。正是從他編練的新軍中，走出了四個民國總統（袁世凱、馮國璋、徐世昌、曹錕），六個民國總理、陸軍總長（段祺瑞、王士珍、段芝貴、唐紹儀、張懷芝、靳雲鵬），以及三十四個督軍。
三是士兵的訓練和教育上：在提高新建陸軍軍官素質的同時，袁世凱也著力於士兵素質的提高，對士兵進行系統軍事訓練和思想教育。袁世凱根據中國國情，將西方操典、軍規、條規進行認真篩選，制訂和頒布了數十種章程、法規，如《操場暫行章程》、《夜戰章程》、《行軍暫行章程》等，通過規範化的軍事訓練，提高士兵的戰術和體能水平。為了激勵士兵成材，袁世凱分別在炮兵、步兵、騎兵三營及軍部開設了炮兵學堂、步兵學堂和德文學堂，選拔優秀的士兵入學，經過兩年的學習，考試合格者，除獲得相應的軍階職位外，成績突出者還送國外留學。後來名噪一時的孫傳芳就是由此送到日本留學的。針對新軍士兵文化偏低的特點，袁世凱繼承了前輩曾國藩與李鴻章的帶兵經驗，主持編撰了適合新軍的《行軍歌》、《對兵歌》、《勸兵歌》等，融軍規、軍令、軍紀及教育於一體，通過通俗、易懂、易記的歌詞，對士兵進行了潛移默化的教育。比如《勸兵歌》這樣唱道：
諭爾兵，仔細聽：
為子當盡孝，為臣當盡忠。
朝廷出利借國債，不惜重餉來養兵。
一兵吃穿百十兩，六品官俸一般同。
如再不為國出力，天地鬼神必不容。
自古將相多行伍，休把當兵自看輕。
一要用心學操練，學了本事好立功，
軍械是爾護身物，時常擦洗要乾淨；
二要打仗真奮勇，命該不死自然生，
如果退縮干軍令，一刀兩斷落劣名；
三要好心待百姓，糧餉全靠他們耕，
只要兵民成一家，百姓幫忙功自成；
四莫姦淫人婦女，哪個不是父母生，
爾家也有妻和女，受人羞辱怎能行；
五莫見財生歹念，強盜終究有報應，
縱得多少金銀寶，拿住殺了一切空；
六要敬重朝廷官，越分違令罪不輕，
要緊不要說謊話，老實做事必然成；
七戒賭博吃大煙，官長查出當重刑，
安分守己把錢剩，養活家口多光榮。
你若常記此等話，必然就把頭目升。
如果全然不經意，輕打重殺不容情。
看得出來，這樣的《勸兵歌》通俗易懂，也透露出袁世凱的喜好和性格。
四是武器裝備上：袁世凱的做事還是有氣魄的，新建陸軍的武器裝備，都是當時世界上最先進的，裝備全部從德國進口，清一色的曼利夏步槍、馬槍、手槍和格魯森速射炮；裝備了電台、手錶、帳篷、雨衣、雨帽、毯子、軍