羅榮桓第一次見到毛澤東，是在秋收起義文家市會師的時候。就是在里仁學校操場的那次大會上，毛澤東用生動形象的語言，深入淺出地講了許多革命的道理，指出了部隊在失利之後的前途，這使站在隊列中的羅榮桓感到像是久渴之後飲進了甘泉，非常暢快。當時，他正為起義失利後部隊缺乏明確的前進方向而無比焦慮。毛澤東的一席話，使他看到了希望，增添了信心。
羅榮桓是率領湖北通城、崇陽農民自衛軍參加秋收起義的。
羅榮桓並不是湖北通城人。他原籍湖南省衡山縣寒水鄉魚形鎮南灣村（今屬衡東縣），生於1902年11月26日。他原名慎鎮，字雅懷，號宗人。榮桓這個名字，是在他上小學時，校長為他改的。
羅榮桓8歲時進私塾讀書，後進入羅氏岳英小學讀高小，逐漸接受了自然科學等一些新知識和愛國主義思想；1919年，他到省城長沙進了協均中學，在這所由後來擔任過湖南省農民協會秘書長的柳直荀任校長的學校里，羅榮桓不僅學到了很多文化和科學知識，還受到了風起雲湧的愛國運動的熏陶，也就是在這時，他成了近視眼，戴上了眼鏡。
1923年夏天，羅榮桓到了北京，參加在湖南會館的一個補習班學習，一年後，考入山東私立青島大學預科。
青島兩年，羅榮桓既目睹了日本帝國主義在中國土地上耀武揚威的景況，又親身經受了「五卅」反帝愛國運動的磨礪。青島的政治空氣實在是太沉悶了，而國民革命的中心廣州又是那麼深深地吸引著這位胸懷報國大志的年輕人。終於，在1926年6月，羅榮桓離開了青島，前往廣州。
在廣州，近視眼給了他一個為難，他放棄了報考黃埔軍校的想法，只好寫信勸自己的弟弟羅湘來廣州報考黃埔軍校。
羅榮桓回到了已為北伐軍佔領了的家鄉衡山。
此時，正值湖南農民運動高潮，羅榮桓在家鄉積极參加農會工作，受到了大革命的戰鬥洗禮。
1927年4月12日，蔣介石發動「四·一二」政變，公開背叛革命，形勢日趨惡化。羅榮桓卻在這之後來到了當時革命的中心武漢。
這是暴風雨的前夜。
當一些人在險象環生的惡劣環境下退縮逃跑時，羅榮桓卻迎著風浪上，於5月加入了中國共產主義青年團，不久又轉為中共黨員。
嚴峻的時刻終於來到，7月15日，汪精衛在武漢「清黨」，轟轟烈烈的大革命失敗。就在這時，羅榮桓被中共湖北省委派往通城縣開展農運工作。
羅榮桓在通城很快組織起了一支農民自衛軍，不久，崇陽縣農民自衛軍來到通城，兩支農軍攜手攻佔了通城縣城，並聯合成立了通城、崇陽農民自衛軍，羅榮桓擔任了這支隊伍的黨代表。
自衛軍與駐在江西修水的國民革命軍第四集團軍第二方面軍總指揮部警衛團取得了聯繫。可是，當自衛軍在向修水轉移途中，卻遭到敵人的伏擊，隊伍一下子被打散，收攏後只剩下100餘人。
就在羅榮桓率隊繼續往修水趕的時候，發生了一樁小小的意外，當時，知識分子出身的羅榮桓攜帶著一隻箱子，裡面裝著自己的物件及二三百塊錢。由於天氣炎熱，山路崎嶇，提著箱子行軍的羅榮桓十分吃力，不停地換著提箱子的手。
又要翻一座大山了，羅榮桓正在犯愁的時候，兩個農軍士兵跑到他的跟前，指著箱子說：「先生，我們來幫你扛吧。」
「不用，我自己可以提。」羅榮桓連忙擺擺手。
一個士兵搶上一步，一面從羅榮桓手裡奪過箱子，一面說：「你先生是識文斷字的，哪裡提得動。還是我們幫你扛吧。」
羅榮桓見他們是自家兄弟，沒有再堅持，讓他們奪下了箱子。
傍晚，羅榮桓在宿營地怎麼也找不到那兩個士兵，原來，那兩人已經逃之夭夭了。
對此，羅榮桓非常懊喪。他後來提起此事時，曾說過：「那個時候，思想單純得很，以為大家都是來革命的，都是一樣的同志嘛！其實，並不都是來革命，混飯吃的，找出路的，大有人在。那個時候，我們都是『秀才』造反，脫不了書獃子氣。一個知識分子要成為堅定的革命者，不經過一番磨練是不行的。」
後來在延安時，毛澤東從羅榮桓的夫人林月琴那兒聽說了這事，哈哈大笑後說：「你看，真是非常老實，這確是羅榮桓同志的一個很大特點。不過，他也很善於總結經驗嘛，他從這件事就悟出了一個真理。因此他對是非、對正確和錯誤鑒別得特別分明。」
當然，這些都是後話。
丟了箱子又丟了錢，羅榮桓雖說有些懊喪，但仍然精神抖擻地隨隊伍來到修水。在這裡，通城、崇陽農民自衛軍被改編為暫編第一師師部特務連，秋收起義時又改為工農革命軍第一師師部特務連。羅榮桓擔任了該連的黨代表。
秋收起義爆發，羅榮桓帶領特務連參加了起義。然而，隨師部行動的特務連尚未打上什麼仗，起義就接二連三地失敗了。幾經輾轉，羅榮桓和部隊一同來到瀏陽文家市。
羅榮桓在這裡第一次見到了慕名已久的毛澤東，並且還聆聽了毛澤東的演講。
從此，羅榮桓開始了跟隨毛澤東南征北戰的革命生涯。
三灣改編，羅榮桓留了下來，他親眼見到這支將垮的部隊在毛澤東的領導下重新振作了起來，他敬佩毛澤東給舊式軍隊注入了新的政治靈魂，他看到了希望。
水口建黨，羅榮桓作為黨代表參加了毛澤東親自主持的全團第一批新黨員的入黨儀式。之後，他按照「支部建在連上」的要求，積極響應毛澤東關於在戰士中培養發展新黨員的號召，很快在特務連發展了8名新黨員，並在部隊行軍到遂川大汾時，主持了入黨儀式。毛澤東不僅出席了這次入黨儀式，而且還親自領著新黨員宣誓。
三灣改編和「支部建在連上」的活動，為創建新型的人民軍隊奠定了基礎，對此，後來一直從事我軍政治工作的羅榮桓深解其意。1956年，已經擔任了中央軍委總政治部主任的羅榮桓曾如是評說：黨的支部建在連上，小組深入班排，現在看起來沒有什麼，但是從總結歷史經驗來看，意義是偉大的。大革命時期的國民革命軍中，也有些黨代表是共產黨人，有的部隊也有我們黨的組織，但並沒有把黨的基層組織深入到連隊去。陳獨秀不重視軍事工作，甚至反對軍事工作，放棄黨對軍隊的領導，致使後來黨代表被趕出來了，主要原因就是沒有建立黨的基礎……毛主席提出支部建在連上，小組設在班排，與群眾直接聯繫，這對於加強黨對軍隊的領導起了決定的作用。
支部建在連上，是加強黨對軍隊領導的重要措施，而能否真正發揮支部的政治領導核心作用，關鍵又在於黨代表。毛澤東在《井岡山的鬥爭》一文中指出：「事實證明：哪一個連的黨代表較好，哪一個連就較健全，而連長在政治上不易有這樣大的作用。」
井岡山鬥爭時期，羅榮桓正是一個在政治上發揮了積極作用的優秀黨代表。
1927年11月，羅榮桓調任第三營九連黨代表。
個子高高，戴著一副眼鏡，話語不多的羅榮桓，看起來有點威嚴，九連一些戰士乍一接觸，還真有點害怕。幾個愛給人起綽號的調皮戰士，背地裡將羅榮桓叫作「大腦殼」。
連長聞知後非常惱火，將那幾個愛起綽號的戰士叫來一頓訓斥。
羅榮桓卻並不在意，他讓連長不要批評那幾個戰士。他說，雖然他並非贊成起綽號，可是也不覺得叫個綽號就會影響幹部的尊嚴或威信。在羅榮桓看來，作為黨代表，做好工作當然要有威信，可要讓人服氣，關鍵又在發揮自己的模範作用和先鋒作用，這是黨代表必須具備的基本條件。如果沒有這一條，也就建立不起威信。
羅榮桓以無聲的行動在給戰士們作著榜樣：打仗衝鋒時，他和連長肩並肩站在隊伍的最前頭，退卻時又在最後面負責掩護；行軍時，他的肩頭經常扛著幾支病號或掉隊戰士的槍，宿營時，他又堅持查鋪，逐個將戰士的夾被蓋好；有戰士病了，他要一天幾趟噓寒問暖，還吩咐做病號飯，而他自己病了，卻常常是不吭不聲，咬牙堅持。
羅榮桓以自己的模範行動贏得了戰士們的信任，不僅綽號沒人再叫了，而且大家都覺得他脾氣極好，一點架子也沒有，都願意跟他接觸。
羅榮桓在九連樹立起了黨代表的威信，九連成為了堅強的連隊。
1928年3月，工農革命軍在中村整訓，羅榮桓被調到八連，還是任黨代表。他努力工作，不久便使八連的面貌有了明顯的變化。
5月，秋收起義部隊和南昌起義部隊會合後成立了紅四軍，羅榮桓被提拔為紅三十一團第三營黨代表。
「八月失敗」，三營經受了嚴峻的考驗。毛澤東率三營赴湘南迎還紅軍大隊，行程數百里，打了十幾仗，全營沒有一個開小差的，真可謂是一支拖不垮、打不爛的紅色鐵軍。
這之後