1934年夏，中央蘇區第五次反「圍剿」失敗，迫使中央紅軍不得不於10月開始戰略大轉移——長征。在此歷史重要關頭，葉劍英以其驚人的膽識和智慧，為黨、為人民作出了巨大貢獻。
紅軍長征前夕，葉劍英由中華蘇維埃共和國福建軍區司令員調任當時的中央革命軍事委員會四局局長，兼管軍委直屬隊的工作。他到任後，首先從各方面調查了解幹部情況，及時向軍委提出幹部配備方案。當時，不少同志因為抵制「左」傾錯誤，受到殘酷鬥爭，無情打擊。有的被以莫須有的罪名撤職，開除黨籍。在戰略轉移前，「左」傾錯誤領導者把這部分被打擊的幹部看作是「包袱」、「累贅」，想甩掉一批，殺掉一批。葉劍英在自己職權範圍內盡最大努力，抵制了這種錯誤的做法。他親自找這些同志談話，深人群眾中開展調查研究，深感其中的多數同志是對「左」傾錯誤領導不滿，擁護黨的好乾部，有的人雖然犯過錯誤，但性質並不嚴重；有的則是編余幹部。他認為，既不能把黨的這些寶貴財富視為「包袱」，隨意拋棄，更不能隨意殺掉。因此，他力主這部分幹部應該得到保護。於是冒著有可能遭打擊的危險，仗義執言，盡量設法讓他們一同隨軍突圍轉移。當時國家保衛局內部決定，對犯「錯誤」幹部開列了一個留走名單。名單上有五六十個幹部，分成A、B、C三類，一類是要殺的，一類是要留在蘇區的，另一類是可以參加突圍轉移的。當保衛局長帶著這份名單，徵求葉劍英意見時，葉據理力爭，要求盡量少留人，堅決反對殺人。凡是他了解情況的，逐個陳述自己對他們的看法，極力加以保護。名單上有邊章伍的名字，被劃入要槍斃的一類。葉劍英說，這個同志我非常熟悉，他畢業於保定軍官學校，很有學問，軍事理論和軍事素質比較高，是軍隊有用之才；他參加寧都起義也是有功勞的，工作很有成績，他是個好人，怎能把人家列為反革命呢？保衛局長被說服了，便把邊章伍的名字勾掉。此後，葉劍英與邊章伍一起共事多年，從未向邊提起此事。後來，邊章伍知道了這件事，激動地對妻子說，我這個腦袋是葉參座給保下來的，什麼時候也不要忘了他救命之恩！此事一直傳為佳話。
那張幹部「名單」是一個信號。葉劍英感到問題非常嚴重，自己有責任保護好一些蒙受冤屈的同志。
在一次討論如何組織軍委縱隊的會議上，他向軍委領導人提出了妥善安置和保護幹部的建議和方案，在他的提議下，經過軍委批准，組成軍委幹部團（屬隨營學校），保留戰鬥骨幹，收編紅軍大學和其他幾所已被撤銷的學校中的部分教員、學員和受「左」傾領導打擊排斥的所謂「犯錯誤」的幹部和編余幹部。這些幹部能分配到各個軍團和安排在軍委機關的盡量安排，隨時可以調入。這樣，保護了黨和紅軍的一批重要幹部，其中就包括蕭勁光、郭化若等。這批幹部在遵義會議之後，都先後恢複名譽並分配了工作，他們不僅在戰爭年代發揮了重要作用，而且在新中國成立以後，大多成為黨和軍隊的高級領導幹部。
當然，儘管葉劍英等主持正義的領導者竭盡全力進行保護，但由於自身處境也很困難，對一些被強行留下、在當時很有影響的重要幹部也愛莫能助，有的甚至是親密戰友，也無能為力。葉劍英後來回憶說：「李德這個人可厲害，他講不贏道理，就用組織手段整你、處理你。長征時很多幹部沒帶出來，像瞿秋白、古柏、毛澤覃、劉伯堅這些同志戰死的戰死，有的被殺掉。這都是李德他們搞的。」
葉劍英與劉伯堅是十分熟悉的老戰友。劉於1926年同鄧小平等先後被派到馮玉祥的部隊做政治工作。他的公開身份是國民軍聯軍政治部副部長，深得馮玉祥信賴。1931年在中央蘇區參與策劃組織寧都起義後，任紅五軍團政治部主任，功勛卓著。長征突圍前，「左」傾錯誤領導者因為他在莫斯科東方大學學習期間，反對過王明宗派集團，因此，被留在蘇區，擔任贛南軍區政治部主任。可是劉伯堅並沒有因為受排斥而消沉，仍然忘我地工作。為了護送主力紅軍渡過於都河，他親臨架橋工地，開展後勤支援工作，從早到晚，站立河畔橋頭，為長征戰友送行。他見到葉劍英，特意把酒餞別，傾訴衷腸。兩位老戰友依依不捨，心情十分沉痛。劉伯堅望著滾滾的東流水，對葉劍英說：「現在大隊人馬向西轉移了，我留在贛南沒有什麼作用，你還是想辦法反映反映，讓我跟著走吧！」其實，葉劍英又何嘗未反映過呢？他曾幾次把劉伯堅的要求向軍委作了彙報，提議讓他隨隊長征，但「左」傾領導者卻說劉伯堅「婆婆媽媽的」，沒有什麼用，就是不同意他參加長征。葉劍英無可奈何，只好互道珍重，灑淚而別。後來，劉伯堅在贛南的一次作戰中負傷被俘，堅貞不屈，壯烈犧牲。犧牲前，曾在獄中留下《帶鐐行》的著名詩篇。1962年，葉劍英在《建軍紀念日懷戰烈》詩中贊日：「紅軍抗日事長征，夜渡鄂都濺濺鳴。樑上伯堅來擊築，荊卿豪氣漸離情。」
這是多麼激越悲壯、寓意深邃的詩句啊！當年劉伯堅在於都河畔、黎板橋頭，送行惜別的情景，躍然紙上，使人想起戰國荊軻刺秦王，和與易水畔擊築送行的好友高漸離的詩句：「風蕭蕭兮易水寒，壯士一去兮不復還。」劉伯堅的壯烈一生，令人景仰不已。葉劍英每每回憶起這段歷史，心情都十分沉重，對「左」傾錯誤領導者深惡痛絕。他惋惜地說，他們在長征前有意甩掉的許多好同志，後來不少人慘遭敵人殺害，這是令人十分痛心的！
1934年10月初，中央頒布《野戰軍10月10日至20日行動日程表》，規定了中央紅軍主力轉移的出發日期和到達的地域。中革軍委發出第五號命令，決定將軍委、紅軍總司令部、總政治部及其直屬部隊組成第1野戰縱隊，又稱軍委第1縱隊，與主力紅軍一起行動，葉劍英任司令員兼政治委員。博古、張聞天、周恩來、毛澤東、朱德、王稼祥、李德等隨這個縱隊行動。此外，中共中央機關、中華蘇維埃共和國中央政府機關等單位組成第2縱隊，亦稱中央縱隊，李維漢任司令員兼政治委員。
10月10日，中央紅軍開始長征。中共中央、中革軍委率領紅1、紅3、紅5、紅8、紅9軍團，軍委第1、第2縱隊，共8.6萬餘人，從瑞金等地出發西進，進行大規模的戰略轉移。為保守軍事機密，中革軍委規定軍委及各部隊對外使用的代號是：軍委為「紅星」，軍委第1縱隊為「紅安」，第2縱隊為「紅章」。在戰略轉移前夕，總參謀長劉伯承因不滿李德的錯誤指揮而被降職到第五軍團當參謀長。從這時起至黎平會議，葉劍英以軍委第1縱隊司令員兼政治委員的身份主持總司令部的日常工作。
10月21日，葉劍英率領軍委第1縱隊隨主力紅軍從於都西南王母渡、新田之間，突破敵人第一道封鎖線，於25日全部渡過信豐河。11月8日，在汝城以南之天馬至城口間，通過第二道封鎖線。15日，在良田與宜章間，通過第三道封鎖線。12月1日，主力紅軍渡過湘江，通過敵人第四道封鎖線。在突破這道封鎖線時，面對國民黨軍幾十萬兵的前堵後追，博古等領導人一籌莫展，只是命令部隊硬攻硬打。紅軍指戰員經過浴血奮戰，雖然殺開了一條血路，卻付出了慘重的代價，中央紅軍折損過半，由出發時的8萬多人很快地減到3萬多人。紅軍戰士的鮮血染紅了湘江水，譜寫了一曲悲壯的戰歌。
突圍行軍中，葉劍英協助周恩來、朱德處理繁忙的軍務，及時傳達並貫徹執行軍委的各種命令、指示，隨時處理部隊行軍作戰遇到的各種問題。他經常找負責人碰頭，研究如何應付遭遇戰和防止敵人空襲問題，組織部隊克服各種艱難險阻，通過一道道封鎖線。許多小事，他也非常細心。路過湘西少數民族地區時，住在老百姓的木板房裡。這種木板房容易起火，他特意制定防火措施，防止發生火災。一路上，他最關心的是掌握敵軍的部署和動態。那時中共中央和地方黨組織已經失去了聯繫，有關敵人的情報來源主要靠兩條：一是地面偵察；二是通過無線電台偵聽，破譯敵台情報。葉劍英精心組織電台的同志分幾個梯隊交替行軍，晝夜堅持工作，保證通信聯絡暢通無阻，及時為軍委提供準確的敵我情況動態。電台的人員少，工作很辛苦，葉劍英在艱苦的行軍中，常去看望他們，稱他們是無名英雄，時時處處為他們著想，幫助解決各種困難。
紅軍渡過湘江，行進到湖南和廣西交界的西延山區。這裡，山勢陡峭，道路崎嶇。翻過山嶺，涉過河流，前面是一片開闊地。葉劍英帶領隊伍迅速通過開闊地，向對面的小山上走去。這時，周恩來走過來，告訴葉劍英命令部隊切勿休息，立即前進，防止敵人空襲。葉劍英馬上具體布置各單位注意防空。就在這時，敵機飛來了。葉劍英命令部隊在路邊隱蔽。敵機越飛越低。突然向著葉劍英及部隊隱蔽的山腰處俯衝投彈。葉劍英見勢不好，趕快跑開。剛跑了幾步，一顆炸彈正好落在附近，「轟」地一聲爆炸。葉劍英摔倒在地。
「參謀長，你？受傷沒有？」