早在1910年初，龍謙便指示已經出任國防部長的王明遠牽頭研究制定軍銜制。
這個機構設在了國防部宣傳局，就叫軍銜設計小組。以王明遠為正，司徒均為副，起初只有七八個人，後來逐漸擴大為近百人。
到去年年底，王明遠和司徒均領導的軍銜設計小組在收集調研了各國軍銜制資料後，參照德國陸軍拿出了一個方案，共六級十八檔。第一級為元帥級，設計了兩檔，分別為大元帥、元帥；第二級為將官，四檔：一級上將、上將、中將、少將；第三級為校官，三檔：上校、中校、少校；第四級為尉官，三檔：上尉、中尉、少尉；第五級為士官，四檔：上士、中士、下士；第六級為兵，兩檔：上等兵、列兵。
軍銜制定小組同時拿出了軍銜對應的職務（編製軍銜）與評銜標準，這個很重要，沒有這個就沒法子進行評銜了。
軍銜方案中軍銜嚴格對應了職務。一級上將為國防部長、總參謀長、各軍種司令，軍區司令的基本軍銜。上將為副總長、軍種副司令、軍區副司令的基準軍銜，中將對應師長，少將對應副師正旅，上校對應副旅正團，中校對應副團級，上尉對應營級，中尉對應連級，少尉和上士對應排長。中士和下士對應班長。
報告上報龍謙後，劃掉了大元帥一級，顯然這個軍銜是給他留的。除掉他，沒人當得起這個軍銜。但他認為沒這個必要了。
龍謙仔細閱審過方案後批了一段話：軍銜設立要考慮國防軍的現狀和發展，還要考慮與外軍對等來往的基本原則。似應從嚴從簡為宜。
大約在春節前，龍謙召集了方聲遠、洪粵誠、王明遠、司徒均、商鳳春、宋晉國等人開了個會，專題研究了軍銜問題。對於方聲遠堅持設立大元帥的要求，龍謙說，「這個軍銜顯然是留給我的，但不合適。憲法已經規定總統為武裝力量的最高統帥，授大元帥給總統就重複了。再說，封建制度被我們反掉了，民主共和制度已初步成型，未來的總統未必是軍人出身，為長久計，不要讓後人為難吧。」
於是，大元帥一檔被去掉了。
去掉大元帥後，元帥無疑是國防軍最高軍銜，是軍人的最高榮譽。對於元帥一檔，龍謙談了自己的看法。第一設置元帥是必要的，但標準應從嚴，以維護其神聖性。如果國防軍搞出幾十個元帥，那就不是元帥而是大白菜了。第二是隨著國防軍的發展，軍兵種的日益細分，有沒有必要設置軍種元帥呢？比如陸軍元帥，海軍元帥，炮兵元帥，工程兵元帥……如果這樣，那麼無疑還要設共和國元帥了。這令我很困惑。如果設共和國元帥，那樣的話，共和國元帥與大元帥有什麼區別呢？另外，他對一級上將的設置也不甚滿意，將來在領徽肩章上的區別也麻煩，如果在上將與元帥間需要過渡的話，還不如直接設置大將軍銜呢。
對於少將之下直接到上校，龍謙認為美軍設准將很有道理，軍銜當然應對應軍職，但也要考慮資歷問題。合理的情況是，每一個職務都應當對應兩個軍銜，比如團長，可以是上校，也可以是中校。龍謙對於設立軍銜的基本思路是低配，因為國防軍放在世界範圍內看還很弱小，自大就可笑了，現在低配軍銜沒有壞處。那麼，少將軍銜主要就留給師職了，旅職軍官一些資歷老的授准將挺好，將來與外軍交往，也沾些便宜，對等交往嘛，准將也是將嘛。所以龍謙認為將級還是設為四級好，有了准將，少、中、上三級的含金量相應升高，一級上將或者大將就不必設了。
司徒均贊成龍謙低配軍銜的意見。但王明遠卻認為高配未必不好。目前國防軍還很弱小，滿打滿算也就二十來個師，加上預備役部隊，也就百十萬人的規模。但國土面積決定我們肯定要擴軍，二十幾個師無論如何是不能滿足國防需要的。前次唐努烏梁危機，精銳部隊全部調入北方只能勉強應付東北方向，新疆那邊還敞著大口子，這怎麼能行呢？軍隊理解總統先顧及經濟發展的戰略，但為了國家根本利益，應提高軍人的待遇，讓優秀青年將從軍視為人生的第一選擇，這才是最關鍵的。軍銜制有益於增加軍人的優越性和自豪感，我認為設立大將軍銜並且高配。
龍謙肯定了王明遠關於提高軍人待遇的意見，「軍銜制實施後，肯定要修訂軍官的待遇，高於政府公務人員是應該的。確定的原則是，正師對應省部長，旅長對應市局長，團長對應縣處長。但稍高於政府首長。明遠也提到了國家經濟還很困難，不宜過高。考慮到軍人的在住房、伙食、服裝上的優惠，我們還要提高傷殘、犧牲軍人的待遇，軍人的實際收入肯定明顯高於地方。我一直認為，體現社會地位的主要因素是經濟地位，我們這套組合拳打出去，軍心不會不穩的。明遠剛才的發言沒有點透一件大事，那就是宣傳問題。總政治部取消了，併入了國防部，要注意大力宣傳建國諸次戰役，平定外蒙以及唐努烏梁海戰役的英雄人物，大力宣傳魯山，在全社會培養和樹立尚武風氣，讓軍隊系統的英雄模範人物成為青年們學習效仿的榜樣。要徹底扭轉自宋代以降社會重文抑武的風氣。這件大事事關國家前途，必須抓緊抓好。在這個前提下，軍銜制的設置評定卻要從低從嚴，要給軍官們留下進步的空間。假如世界局勢發生重大變故，國防軍投身於世界範圍的大戰爭，我們再修改軍銜條例嘛。」
會議結束後，龍謙將會議紀要批轉給師長以上將領以徵求他們的意見。封國柱、程二虎、葉延冰、藍心治、胡宗玉、石大壽、吳念、熊勛等將帥均對即將實行的軍銜制感到振奮和期待，認為軍銜制的實行標誌著國防軍正規化建設的進步，有益於提高軍人的榮譽感。對於軍銜等級的設立等技術細節，他們也提出了自己的看法。但不約而同地提出了設立大元帥軍銜的要求，認為該軍銜既是最高軍銜，也是最終軍銜，除了蒙山軍的締造者，無人有資格享有該軍銜。也就是說，這是一個特定的，一次性的軍銜。
「如果司令不出任大元帥，對全軍的士氣是一個極大的打擊。」胡宗玉這樣寫道。
根據主要將領們的意見，國防部及總參謀部最終確定的軍銜製為六級十七檔，取消了原方案中大元帥與一級上將兩種軍銜，但增加了准將一級。
龍謙回京後的第三天召集了一個主題為軍銜制的高級別會議，除了國防部、總參謀部這兩個軍政軍令系統的主要首腦外，政府、議會、海軍、聯勤總部及衛戍區的主要首腦都參加了，軍銜評定小組的成員自然也參加了會議。王明遠在通報意見徵集後，最後通報了軍銜制的設置、評定及授予系列準備工作的完成情況。
設置軍銜序列是最簡單的，評定則複雜的多。解決了序列設定後，王明遠牽頭的工作小組已經拿出了軍銜評定的實施細緻，以現有職務為基準，同時參考軍齡和戰功兩個因素。會議的重點是討論評定細則。
在討論開始前，龍謙就實行軍銜制講了話，他在闡述了實施軍銜制的意義後，講了四點意見。
第一，他對軍銜工作小組一年多來的辛勤工作表示感謝，「這是一件很辛苦的工作，也是一件得罪人的事。你們出色地完成了任務，使得我們可以坐在這裡討論確定了。我建議明遠對於參加這項工作的同志們進行專項嘉獎，並給與現金獎勵。」
第二，自己絕不出任大元帥一職，「這個，絕對不要再說了，我知道大部分老戰友的心情，但情況變了，我們即將建立一個嶄新的國家，廢除終身制是其主要特點，軍隊要適應這個變化。所以，軍銜制中不設大元帥一級了。這個軍銜，我不要，以後也不會有人要了。」
第三，活著的，不授元帥。「在座的很多將帥為新中華的誕生立下了大功，註定是要寫入歷史的！西沽對八國聯軍的血戰，白嶺支隊在黑溝台、沈旦堡的戰功，時俊、延冰指揮的德州戰役，大壽、熊勛、范德平、盛光等人指揮的錦州戰役，封國柱等人指揮的長沙、汀泗戰役，王明遠平定東南，藍心治、吳念向西南及西北的進軍，奠定了蒙山軍全國勝利基礎。而司徒呢，運籌帷幄之中，決勝千里之外，他是優秀的總參謀長啊。還有宋晉國、連樹鵬等後勤戰線的元勛們，一樣是功勛卓著。授他們元帥該不該呢？完全應該，開國元勛嘛。但是，我還是不主張授他們元帥軍銜的，為什麼？因為我們奪取政權的勝利其實很渺小，後面的大仗、惡仗還很多！你們要相信，當十年後，二十年三十年後，再回頭看我們現在的功績，其實很渺小，不值一提。元帥軍銜給你們留著，等你們再建大功特別國戰的大功的後授予，那樣更有意義，更令人服氣。但這次還是要授一名元帥的，授給誰？我想你們不會忘記蒙山，不會忘記遙遠荒涼的唐努烏梁海，我應為，元帥軍銜應當追授給他。」
魯山！王明遠，寧時俊及程二虎的眼睛濕潤了，尤其是封國柱這個曾長時間擔任魯山副手的人，立即被濃烈的懷舊情緒所籠罩。魯山的戰功，才華以及對龍謙的忠誠都應列蒙山軍諸將之首，可惜天妒英才，在開國大典的同日陣亡於蒙古高原了。
「魯將軍山歿於國戰，授予元帥