鄧小平說：「我是一個軍人，我真正的專業是打仗。」1926年，鄧小平投筆從戎，躋身軍旅，擔任教官。紅軍時期，他領導發動百色起義，創建了紅七軍、紅八軍；抗日戰爭時期，他擔任一二九師政委，立馬太行；解放戰爭時期，他作為總前委書記，統領百萬雄兵解放了大半個中國；社會主義建設時期，他擔任國防委員會副主席，為軍隊建設嘔心瀝血；「文革」期間，他臨危受命，出任中央軍委副主席兼總參謀長，大刀闊斧地主持軍隊整頓。
1981年，77歲的鄧小平，出任中央軍委主席，成為人民軍隊的最高統帥。
鄧小平上任伊始，集中考慮的一個問題就是要把人民軍隊建設成為一支強大的現代化、正規化的革命軍隊。
1981年9月，鄧小平觀看了人民解放軍在華北某地舉行的軍事演習。這是新中國成立以來人民軍隊規模最大、投入兵力最多的一場諸軍兵種實兵實彈演習，代表了當時中國軍隊的最高水平。在五天的演習中，鄧小平認真地看、嚴肅地聽，但話語並不多。演習進行到精彩處，他也會鼓掌，卻並沒有像其他人那樣顯得興奮異常。他的整個情緒，始終是平穩和深沉的。
華北軍事大演習結束的第二天，也就是9月19日，鄧小平檢閱完部隊後，發表了重要講話。他說：「必須把我軍建設成為一支強大的現代化、正規化的革命軍隊。我們一定要在國民經濟不斷發展的基礎上，改善武器裝備，加速國防現代化。」
實現軍隊現代化，首先要解決的問題是處理好軍隊建設與整個國家經濟建設的關係。鄧小平認為，經濟建設是黨和國家的中心工作，是軍隊建設的基礎，軍隊建設必須服從經濟建設這個大局。在國家經濟困難的條件下，軍隊只能走精兵之路。通過體制改革，精簡編製，實行「消腫」以節省開支用於現代化裝備。
由於種種歷史原因，人民解放軍的「臃腫」問題由來已久。裁軍「消腫」是鄧小平很早的心愿。據不完全統計，鄧小平從1975年到1984年的10年間，對於「消腫」問題，談了多達數十次。在此期間，雖進行過4次精簡整編，但「消腫」問題一直未能得到很好解決。至1985年，人民解放軍軍費只有191億元人民幣，僅占同年美軍軍費的2％，不及前蘇聯軍費的零頭，而人民解放軍的員額卻是美軍的兩倍，與蘇軍持平。軍費中相當大的一部分被眾多兵員的「人頭費」佔去了。這不但是國家和人民的沉重負擔，也直接限制了部隊武器裝備的發展和戰鬥力的提高。據統計，我國1953年至1983年30年間的武器裝備發展費，比美國1982年一年的同類經費還少200億元人民幣。
一方面是軍費數額很低，另一方面卻是兵員多，結構又不合理。據有關資料，當時世界幾個主要國家的官兵比例是：蘇聯為1:4.56；美國為1:6.15；聯邦德國為1:10；法國為1:17。而中國是1:2.45，平均每個軍官領導兩個半士兵。
中國軍隊的軍官多，首先是由於機關龐大。每個軍區有十幾名或幾十名省軍級以上領導，鄧小平說，打麻將都能湊好幾桌。他有一句尖刻的話，從1975年講到1985年：「這樣龐大的機關，不要說指揮打仗，跑都跑不贏。」
對裁減100萬，有些領導人擔心會減弱軍隊的戰鬥力。鄧小平作了一個生動的比喻：虛胖子能打仗？軍隊要多節省開支，改善武器裝備，更要提高軍政素質，這就必須減少數量。
在以上認識的基礎上，鄧小平充滿信心地指出：「再減100萬，一是必要，二是沒有風險。好處多得很！」
鄧小平指出，與其說是「精兵」，不如說是「精官」。「這是個得罪人的事情！我來得罪吧！不把這一矛盾留給新的軍委主席。」
裁軍百萬，決心難下，實施起來更加困難。
在1975年至1984年的幾次精簡整編中，同樣的問題多次出現：機關精簡一次，膨脹一次，邊減邊增，互相攀比，人浮於事，陷入「精簡-增編-再精簡-再增編」的怪圈，甚至出現了增編大於減員的反常現象。
面對400萬大軍，從哪裡下手對全軍更有指導作用呢？這就要弄清軍隊主要「腫」在哪裡。儘管當時中國軍隊有400萬，但連隊並不充實，臃腫的是各級機關。各級機關，副職過多，每個軍區有十幾名甚至幾十名領導，還有什麼「團職保密員」、「營級打字員」等等。
對全軍來說，幾乎每一個人都面臨著進退去留的選擇和被選擇，幾乎每一個軍人家庭的利益都會受到觸動。難怪有人說，這是一次從上到下、從裡到外的「立體震蕩」，是一次脫胎換骨的「大手術」。一夜之間，人民軍隊有60萬幹部被列為「編外」，陸軍部隊的建制單位有1/4要撤銷，其中包括那些有著幾十年光榮歷史，立過赫赫戰功的部隊。
在面臨被撤銷的福州軍區，有些幹部要軍區司令員江擁輝找中央軍委首長，建議不要撤銷福州軍區。江擁輝語重心長地勸大家：「百萬大裁軍是黨中央、中央軍委做出的英明決策，我們必須無條件服從。至於撤銷哪個軍區，要等軍委決定，我們誰也沒有權力去干擾軍委決策。我自己不能去找門子，也不准你們去拉關係。」在江擁輝和福州軍區其他領導的共同努力下，福州軍區撤銷後的移交工作進行得非常順利。
濟南軍區某團，前身是1929年在井岡山組建的「中央軍委警衛營」，抗日戰爭時期，改為「八路軍總部特務團」，內稱「朱德警衛團」。這個團轉戰南北，聲譽日隆。該團要合併組建的風聲傳開後，幹部、戰士一時想不通。於是，團隊請來老政委講傳統，組織重新認識團史，「針尖對麥芒」地對出現的各種問題做工作。經過努力，大家終於明白：珍惜榮譽，應該成為服從大局的動力，不應該成為阻力；光榮傳統應該在精簡整編中發揚光大。
廣大幹部帶領戰士堅決服從和執行精簡整編方案，在個人名利得失面前，交了一份合格答卷。無數事例不可辯駁地證明：人民解放軍是好樣的！
百萬大裁軍以其輝煌的戰果，在人民解放軍軍史上寫下了濃墨重彩的一筆。各總部、各軍兵種、各大軍區和國防科工委機關及其直屬單位撤併機構，人員精簡40％。調整後的軍區，戰區範圍擴大，兵源充足，物質資源雄厚，戰役縱深加大，從而提高了大軍區的獨立作戰能力。較大幅度地調整各兵種的編成比例，加強了特種兵部隊。凡保留下來的陸軍，軍級建制全部改編為「合成集團軍」，與原陸軍的軍相比，集團軍的火力、突擊力、機動能力都有所加強，提高了現代條件下的合成訓練和作戰能力。全軍撤銷或合併了一些初級指揮院校和專業技術院校。院校數量精簡12%，人員數量減少20%。
結合精簡整編，按照革命化、年輕化、知識化、專業化的方針調整配備了三總部、大軍區、軍兵種的領導班子。有人把這形象地比喻為既「消腫」，又「輸血」。調整後的三總部領導班子的人數比原來減少23.8%，大軍區領導班子的人數比原來減少一半。在平均年齡上，由原來的64.9歲下降到56.7歲，每個班子中都有40歲、50歲、60歲左右的幹部，基本上形成了梯次結構年齡。知識結構也進一步改善，60%的幹部具有大專以上文化程度，75%的幹部經過院校培訓。