走共產黨的路，就不能沒有自己的武裝。這個道理，彭德懷是愈發深刻地體會到了。他要首先緊緊地抓住自己這個團，將這支舊軍隊改造成共產黨領導下的新型的武裝力量。
在他的具體領導下，一團的士兵委員會秘密商定一些得力的措施，並且迅速行動起來了。當時，團部的書記、副官、軍醫正、軍需正等人都是壞傢伙。他們政治上反動生活上腐敗，早就該清洗出去了。彭德懷一上任，立即將張榮生調到團部任中尉傳令兵，在關鍵部位開始了「政治換血」。他還將師部發給自己的1200元的就職費公佈於眾，並且責令經濟清算委員會一筆筆查清前任團長留下的經費，實行經濟公開。
與此同時，他又向周磐建議：在師部成立一個正規的學兵連，由李燦擔任連長；選送士兵委員會骨幹和進步的官兵進學兵連集訓，這實際上是為以後那個轟轟烈烈的大事業作準備。
彭德懷就任團長期間，這支部隊有一個相對穩定的時期。於是，李燦和張榮生便一再催促他將他的結髮妻子劉坤模接到南縣住些日子。
提起妻子，彭德懷不能不動感情：五年多了，自己與妻子未見一面，她在家中含辛茹苦，悉心照料年逾八旬的老祖母和久病卧床的父親，直到兩位老人相繼去世。她，真是太苦太難了！
妻子被接來後，彭德懷便在城內官正街租了一套房子，臨時住下來。為了讓她學文化，提高她的思想覺悟，他又將她送進縣立第一高等小學五年級讀書，並且準備報考縣立第一中學。
當時，湖南正處於大革命失敗後的白色恐怖之中。第一團剛到南縣，人們還不了解這是一支什麼樣的部隊。一個大地主聽說軍隊來了，便以為又有了靠山，就大搖大擺地回到鄉里，不料一下子被士兵抓住遊街示眾了。這個地主嚇得屁滾尿流，連夜逃往長沙去了。老百姓見了，無不拍手稱快。
按照士兵委員會的章程，一團官兵在吃飯、出操和點名的時候，還堅持「口號式教育」，有問有答，讓大家不要忘記工農大眾，要為工人農民服務。他們還組織了業餘演出隊，在當地上演反帝反封建的小劇和曲藝，讓老百姓知道這支部隊到底是怎麼回事。
那些土豪劣紳見此情形，便想方設法拉主要軍官下水，他們的眼睛首先盯住了周磐、彭德懷等人。有一天，彭德懷發現周磐正與兩個名妓在一起鬼混，情知這個道貌岸然的師座已經上鉤了。這件事使他愈發惱怒了，所以，每逢誘惑他的禮品和嫖妓的請柬送來時，他都要揮筆重重批上兩個大字：「無恥！」然後讓馬弁退回去。他自己不腐化，也不準手下的官兵胡作非為，周磐也拿他沒有辦法。
人的感情是很複雜的。儘管周磐與彭德懷在政治立場和信念上出現了嚴重分歧，但是，周磐念及彭德懷對自己畢竟有救命之恩，所以對第一團士兵的正義舉動也不表示反對，他口頭上也時常講一些不忘工農的漂亮話。南縣、華容、安鄉一帶的土豪惡霸和地痞流氓懾於這支部隊的正氣，也只得收斂一下他們的反動氣焰。
這一年「雙十節」（即10月10日）之前，南縣縣衙企圖成立鎮壓民眾運動的「清鄉委員會」。消息傳來，彭德懷立即召集士兵委員會的核心成員研究對策，接著便趕往師部去摸周磐的底細。
他問周磐：「南縣的土豪劣紳打算成立『清鄉委員會』嗎？」
周磐說：「是呀，他們早發了請帖呢。」
「那麼，你去參加？」他的雙眼灼灼有光。
「哦，不，我不想去。」
「那就好。」 說話間到了「雙十節」。這天一大早，南縣的大街小巷直至近郊都貼滿了大標語。好傢夥，都寫的什麼？瞧瞧：打倒土豪劣紳！打倒清鄉委員會！打倒貪官污吏！打倒新軍閥！槍斃清鄉委員安百一！
每一張標語上都署著名。瞧瞧：第一團士兵委員會；南縣農民協會；南縣學生聯合會。這次行動，是李燦、張榮生等人根據彭團長的要求發起的，立即得到了工人、農民和學生的響應。
土豪劣紳們被這突如其來的場面嚇懵了，他們想找曾經上了鉤的周磐撐撐腰，可是這位一師之長杏如黃鶴了。他呢？他悄悄然長沙去也。據說，當地的一個惡霸看到這些鋪天蓋地的大標語，立時嚇自了臉，慌忙逃往長沙躲了起來，清鄉委員安百一的策劃隨之流產了。
這個罪惡的「清鄉委員會」，一直到第二年彭德懷的一團離開南縣的時候，也沒有成立起來。他們敢再來這一套？哼，不想活啦！第一團不斷為窮苦人撐腰出氣，引起了當地共產黨組織的重視。當時，南縣、華容、安鄉三個地區已經秘密恢複了中共特委。查1928年國民黨湖南檔案中《共產黨南華安三縣會議案》，可見如下的記載：尤應注意領導駐軍中士兵工作，而且要特別加緊在五師中趕緊組織黨的秘密士兵支部，並派得力同志入營工作。
「雙十節」過後的第二天晚上，彭德懷巡視營區之後便回到自己的宿舍，拿出段德昌送來的書正讀著，就聽得有人輕輕地敲門。來人是張榮生，他身後跟著一個陌生人，看上去這人約有二十五歲左右，戴禮帽，架一副墨鏡，身穿藍綢長衫，顯得文質彬彬而又有些神秘。
陌生人進屋後，將手中的一把紅紙傘往肩上擱了一下，接著將那傘靠牆立在門旁邊，然後很有禮貌地點點頭。這些舉動看似無意而自然，實際上是聯絡暗號，對方心領神會便將那傘拿到內室，從傘把的一個難以察覺的小機關里抽出密信和某個證物。
暗號對上以後，來人便主動上前緊握住彭德懷的手，說：「我叫張匡，是共產黨南華安特委派來與您接頭的。我們早就知道準備為窮苦人打天下的彭德懷了。」
彭德懷不禁一愣，這種情形是他料不到的。他壓抑著自己興奮的心情，再度仔細審視面前這個青年人，又以不易覺察的眼神瞟了張榮生一眼。張榮生微笑著沖他點了點頭。他便說：「哦，我不是共產黨。在軍隊里，大家都說我是國民黨左派，我沒有否認，也沒有承認。其實我沒有申請過加入國民黨 」
張匡聽到這裡，臉上露出些許的困惑神色。張榮生又在他背後沖彭德懷點點頭，那意思很明白：此人的確可靠。
於是，彭德懷親切地笑了，說張先生你不必疑慮了，我不僅是共產黨的同情者，我跟段德昌同志很熟悉呢，又說這位曾在我師擔任秘書長的共產黨人叫人佩服，他對我的幫助很大呢。
這時，張榮生對張匡的情況又作了詳細的介紹。彭德懷完全放下心來，十分坦誠地對張匡說：「我要求加入共產黨的願望是很迫切的，因為國民黨已蛻變為徹頭徹尾的反革命了。」
張匡聽了，輕輕噓了一口長氣。接下來的氣氛便十分融洽了。兩人開懷暢談了很晚很晚。對於打擊「清鄉委員會」的事，張匡首先表示欽佩和支持，說你們這麼干真是大滅了土豪劣紳的威風，大長了勞苦大眾的志氣！接著，他又委婉地批評說，如今形勢變了，不是北伐時期了，這樣公開暴露自己的身份，又是貼標語又是演話劇鬧得沸沸揚揚的，實在是太冒險了。
末了，他又十分真誠地說：「石穿同志，你的這個團可是一支不小的革命力量，一定要保存好呵，到時候就派上大用場了。」
「說得對！」彭德懷感到心裡一陣發熱，「往後，我們一定注意鬥爭策略。」話說到這種地步，還有什麼不能推心置腹地傾訴呢？於是，他再一次懇切地提出了自己要加入中國共產黨的迫切願望。
張匡說，他馬上回去向組織上報告，過幾天就會有一個明確的答覆了。
送走張匡之後，彭德懷興奮得一夜未眠。幾天之後，張匡又悄然來到彭德懷的住處，十分鄭重地說：「石穿同志，段德昌同志介紹你，也是特委集體介紹你加入中國共產黨。現在，特委已經討論通過了你的入黨申請，上報省委審批，再等幾天就有結果了。」
彭德懷一聽，禁不住站起來緊握住對方的雙手。說到段德昌的去向，彭德懷只曉得「馬日事變」之後，他悄然離開了第一師去了長沙。張匡告訴他，德昌同志在湖北沙市一帶組織民眾暴動的時候，手和眼睛都被打傷了。彭德懷一聽就急了，立即讓張榮生叫李燦一起來商量怎麼辦。想來想去，也只有讓段德昌化名章某，作為他這個一團之長的好朋友到南縣來，暫住在李燦的家中養傷。至於為他治療的醫生，還是派一團的軍醫官去妥善一些。又過了幾天，張榮生悄悄告訴彭德懷：段德昌已經到了李燦家裡。黃後，兩人以散步為由走出營區，又悄悄地來到李燦家。張榮生留在門外注意可疑的動靜，讓團長進屋裡去看段德昌。
屋中，一豆油燈若明若暗，兩雙大手默默地緊握在一起。許久無語。問到傷勢，段德昌說不要緊，已經好多了。接著，兩人便交換了對時局的看法。德昌的看法是：「八七」會議之後，我黨決定進行土地革命，不料又產生了盲動主義。如今，轟轟烈烈的大革命失敗了，陳獨秀右傾機會主義破產了，國共合作已經破裂了，然而，前車之鑒後車可戒，