清朝在袁世凱小站練兵以前，有過三種軍制：最早的是「旗兵」和「綠營」，到了曾國藩組織鄉團後，所謂湘軍、淮軍，官式名稱叫做「勇營」。
旗兵是清王朝的原始軍制。最初只有四旗，以旗的顏色別類，分黃旗、白旗、紅旗、藍旗；以後增加了四旗，為鑲黃旗，鑲白旗、鑲紅旗、鑲藍旗。乃把原來的黃、白、紅、藍稱為正黃旗、正白旗、正紅旗、正藍旗編為左翼，鑲黃等四旗編為右翼，這就是清入關前的原始兵力，總稱「兩翼八旗」。後來由於蒙古的歸附，又縮了「蒙古八旗」，原有的則稱「滿州八旗」。入關後因明軍投降和整編。復有「漢軍八旗」。這廿四旗總兵數共28萬人。
清統一中國後，把旗兵中最基本的部隊編為「禁旗」，禁旗都是在長白山下打天下的子弟兵，他們負責北京警衛和國防責任，等於是中央軍。其餘漢、蒙、滿等廿四旗約20萬人，則分別駐防於各省及重要城鎮，以為鎮伏漢族的武力，稱為「駐防八旗」。
旗兵駐防的防區開始時非常謹嚴，那是為了對漢人加以鎮壓，所以八旗官兵都是攜帶家眷，分駐中國本部各省，防區共8處，有的設駐防將軍，有的設副都統，有的設城守尉。國防要地和關外則有防區25處，設都統和副都統，如密雲副都統、熱河都統之類。
旗營的官兵是世襲制度，生而食糧，數傳之後，腐敗已極，竟有列名行伍而不識弓弩為何物。光緒中葉，外侮日亟，滿族有遠見的王公大臣，乃有整頓旗營之議，派遣八旗子弟出洋留學，如蔭昌、良弼等都是。同時積極整理各省駐防旗兵，挑選精壯編成「八旗練營」；有「洋槍兵隊」、「洋槍馬隊」、「備練馬隊」、「洋槍步隊」等編製，聘任教官為新式的訓練。可是八旗子弟嬌養已慣，滿洲人當年勇武矯健的風氣已經完全喪失，所以整頓自整頓，旗營的腐化已至不可救藥的程度。
比「旗營」稍後組成的清軍，是「綠營」，綠營和旗營同稱為「經制兵」，就是國家的軍隊。
綠營的制度完全仿照明代，官兵全部是漢族，因為所用的旗子顏色是綠的，所以稱為綠營。最原始的編製全為明朝的降軍以及收編的隊伍，經過整編後也很像樣。清廷因為這支軍隊熟悉內地的地理人情，用之鎮壓漢人非常有效，一般市井之徒，遂得借綠營以達到騎在人民身上的目的，因為只要考中武科，就可為綠營官長，雖不識之徒也無所謂。
綠營歸兵部所轄，全國兵營可分為「在京」和「在外」兩種。「在京綠營」由步軍統領（即九門提督）統轄；下分左右兩翼，各設總兵，總兵之下則為城防營，有副將、參將、游擊、都司、守備等官。另有一部分在京綠營，分屬於漕運總督，專任護漕之責，其職務等於護路警察。至於「在外綠營」則直屬各省，由總督或巡撫節制調遣，所以各省督撫的官銜有「節制軍務兼理糧餉」一項，就是指綠營。綠營統兵的軍官有提督、總兵、副將、參將、游擊、都司、守備、千總、百總、外委等。軍隊編製以營為單位，設管帶一人，每營500人。全國的綠營總數共約50萬人。綠營到了清末，餉給過薄，乃多虛額，檢閱時則以僱傭市井無賴充數，武官由捐納出身，軍隊缺額在半數以上，腐化已極，以致太平天國軍興，勢若破竹，綠營乃遭淘汰。
旗營、綠營既成廢物，曾國藩招募土著編練「勇營」，就是後來名重一時，鎮壓太平天國的湘軍和淮軍。由於這場戰爭的表現，勇營竟取得國軍的地位，加以旗營形成虛設，綠營僅存形式，所以勇營就成為清廷鎮內御外的唯一武力。勇營的部勒方法，為明代戚繼光的遺規，以弓矢刀矛為武器主力，鳥槍火統為輔助。淮軍李鴻章延英人戈登編練洋槍隊，是為中國採用新式軍械的開始。
勇營軍紀很壞，擄掠姦殺，視為慣常，曾國荃所統之兵尤甚，攻入南京時竟至全城為墟，一個小兵都身懷巨萬；而清廷當時爵賞太濫，所以太平天國戰事結束後，勇營之腐敗，至於不堪言狀。而湘、淮兩軍將領也都恃功而驕，數次對外戰爭，一敗塗地，尤其是甲午戰爭，淮軍衛汝貴全軍覆沒，舊軍之劣點，完全暴露，於是清廷才下決心汰除舊軍編練新軍。
由於旗營、綠營都已腐蝕已極，而勇營也只是曇花一現，甲午戰前，清廷有識之士已警覺到清軍的不堪一戰，所以李鴻章在直督任內乃銳意摹仿西法練兵，辦了一個天津武備學堂，由戈登代為購置新式槍械，聘請德國軍官為教練，由滿人蔭昌為總辦。可惜軍事教育和軍隊組織並不能配合，因此天津武備學堂畢業的學生，被分派到淮軍的各軍去擔任教習，教練新操，而軍隊指揮權則仍舊在舊統帥手中，一切戰略戰術依然陳舊，因此甲午之戰，淮軍一敗塗地，淮軍中最有名的盛軍統領衛汝貴全軍覆滅。這時清廷上下恍然大悟，僅只是西法練兵還不夠，整軍經武必需徹底的大改革。於是兩江總督張之洞首先練自強軍於吳淞，聘用德國教官，一切規模體制全部仿效德軍。另一方面在北洋指派胡燏棻練定武軍十營，假小站舊日周盛昆、周盛渤所統領盛軍的營地為練兵場。盛軍原在小站屯田，所以有完整的營房和已開墾的稻田，由於盛軍覆沒於中日甲午之役，因此小站也隨之荒廢，定武軍即以此為營房。
編練新式陸軍的同時，清廷在各省組織了巡防營。巡防營是挑選舊綠營和勇營的精壯，另招募民丁，編組而成，其性質系以保衛地方，如警察保安隊，其編製分為馬隊和步隊，馬隊全營設官、弁、兵、夫共189名，馬135匹，每營分為「中」、「左」、「右」三哨。步隊全營設官、弁、夫共301名，每營亦分為「中」、「左」、「右」三哨。巡防營在各省均有，且因地方之需要，劃分為若干路，以「中」、「前」、「左」、「右」、「後」或「東」、「西」、「南」、「北」、區別之，每路各設統領一員。步、馬各營則設管帶和哨官等統率之，還有訓練新式槍操的，則設教習一職。
巡防營的章制當然是不符合戰術原則，不過倒是一支經過了新式訓練，並使用新式武器的軍隊，可是由於分子的來源良莠不齊，而帶兵官又多為舊武官或是候補道（當時的候補道，有辦法的則遇缺即補，所以人們稱為萬能候補道），對於新式軍事知識一無所知，因此巡防營乃變成有名無實，和勇營的曇花一現差不了多少。
巡防營一直存在到辛亥時候，各省紛紛獨立，乃把巡防營改為師旅或警備隊、保安隊。唯一例外的是新疆，直到民國21年（1932年）仍有巡防營存在。
光緒廿一年（1895年）十月，醇親王奕譞、慶親王奕劻和軍機大臣翁同龢、李鴻卓、榮祿會商奏請改革軍制，逐步訓練新軍以代替完全不能「保清衛國」的綠營，於是便在北京附近訓練新軍。這時直隸總督是王文韶。清廷最初是派長蘆鹽運使胡燏棻到小站練兵，這支軍隊命名「定武軍」，聘請德國人漢納根擔任教官。幾個月後，胡燏棻遷調為蘆漢鐵路督辦，於是滿清政府改派袁世凱以浙江溫處道頭銜，留在小站接統定武軍，改名為「新建陸軍」。定武軍原有4000餘人，袁接統後便擴充為7000人，成立了「新建陸軍督練處」。
保薦袁世凱督練新軍，也是由醇親王奕譞、慶親王奕劻、軍機大臣翁同龢、李鴻章、榮祿聯名專折，摘錄如下：
「竊查歐洲各國專以兵事為重，逐年整治，精益求精，水師固其所長，陸軍亦稱驍勇。中國自粵捻削平以後，相沿舊法，習氣漸深，百弊叢生，多難得力，現欲講求自強之道，固必首重練兵，而欲迅期兵力之強，尤必更革舊制。臣等於去歲冬月，軍事方殷之際，曾請速洋隊，仰蒙簡派廣西臬司胡燏燏棻會同洋員漢納根，在津招募開辦，嗣以該洋員擬辦各節，事多窒礙，旋即中止。另由胡燏棻練定武軍十營，參用西法，步伐、號令均極整齊，雖未盡西國之長，實足為前路之導。今胡燏棻奉命督造津蘆鐵路，而定武一軍接統乏人，臣等公同商酌，查有軍務處差委，浙江溫處道袁世凱，樸實勇敢，曉暢戒機，前駐朝鮮頗有聲望，……相應請旨飭派袁世凱督練新建陸軍，假以事權，俾專責任，現先就定武十營，步隊三千人，炮隊一千人，馬隊二百五十人，工程隊五百人以為根本，並加募步隊二千人，馬隊二百五十人，共足七千人之數，即照該道所擬營制餉章編伍辦理，每月約支正餉銀七萬數千兩，至應用教習洋員最失緊要，應由臣等咨會出使德國大臣與德國外部選商聘訂。……果能著有成效，尚擬逐漸擴充……」
袁世凱受任主持訓練新軍事宜，從此開始了他燦爛的一生，這就是小站練兵。
當時積極促請清廷重整陸軍的，以胡燏棻和袁世凱最力。胡曾將英使所交來的《應時練兵說帖》求寧波王修植編修代擬條陳。王文辭敏捷，對新政研究有素，遂寫成兩稿，第一稿是以英使說帖為藍本，第二稿是加以文字的煊染。胡以第二稿送至京師督辦軍務五大臣慶親王和榮祿，胡因得練定武軍十營；袁世凱聞聽胡練兵的經緯，乃日日趨訪王修植，並和王修植、張錫鑾、孫寶琦、潘克俊四人結成盟兄弟。當