載灃對於兵權是非常重視的，這可能跟他出使德國的經歷有關。
光緒二十七年（1901年），載灃以皇帝兄弟的身份出使德國，德皇讓亨利親王招待載灃，亨利帶著載灃參觀了德國軍隊。這次參觀給載灃留下了深刻的印象，亨利告訴載灃，在德國皇室里，皇家子弟全部都是從陸軍學校畢業。他們從低級軍官一直升到高級將領，因此德國的軍權牢靠地掌握在皇室的手中。
載灃回國之後，把德國的這種軍事思想轉告給光緒，認為大清應該模仿德國，皇家子弟必須掌控軍權。
載灃監國後，想把軍權牢牢地抓住。1908年十二月初三，載灃頒布了一道詔書，宣布禁衛軍的指揮權歸攝政王。載灃還派人出洋考察，回來後訓練禁衛軍。宣統二年，載灃又提出振興海軍和陸軍，命肅親王善耆、鎮國公載澤、兵部尚書鐵良、提督薩鎮冰創辦海軍。我們知道，李鴻章本來已經創辦了海軍，但是中國海軍在甲午中日海戰中全軍覆沒。
為了將陸軍權力集中在自己的手中，載灃也採取了一些措施。以前各省督撫都身兼陸軍部尚書和侍郎等職，載灃覺得這樣不行，只會讓督撫的權力過大，於是決定將各省的兵權回收到中央，各省督撫如果要調兵的話，必須先經過中央部門的同意。在中央，載灃把軍權交給自己的兄弟們，貝勒毓朗管理軍諮處事務，載灃六弟載洵掌管海軍，七弟載濤掌管禁衛軍。
在載灃看來，對自己掌管軍權威脅最大的是袁世凱的北洋集團，所以他重用大量留洋的留學生，企圖取代袁世凱北洋海軍的勢力，他將一批忠於自己的留學生放到軍隊的重要崗位上。
載灃急欲振興大清，但是效果不是很明顯，因為載灃任命的這些人不具備軍事領導的才能。這些八旗子弟已經完全喪失了祖先們的尚武傳統，這些人要想在軍隊中站穩腳跟是不可能的。