不久，我到了以一支隊、八支隊為基礎成立的陝北紅軍第一團。團長賀晉年，政委馬佩勛，參謀長路文昌。下轄兩個連，第一連連長閻應娃（綽號衝鋒老閻），我任政治指導員，兼管二連的政治教育和思想工作；第二連連長陳文保。全團共有百餘人，陳舊長短槍四五十支，其餘都是大刀長矛。還有4匹馬：團長、政委、參謀長各騎1匹，由於我坐牢致殘，也有1匹。
紅一團初成立時，人數少裝備極差，但政治和軍事素質都很好，指戰員都是地方游擊隊和翻身貧、雇、佃農中的骨幹分子。幹部中一部分是有作戰經驗的來自紅二十六軍的同志，一部分是做過多年黨的地下工作的同志。黨支部建在連上，連指導員兼黨支部書記；排有黨小組班有黨員，黨的領導非常堅強。
要把一支由農民組織起來的隊伍，訓練成能征善戰無敵無畏的正規軍隊，要使每一個指戰員都成為自覺的無產階級革命戰士，就必須依靠黨的堅強領導，必須進行深入、細緻的思想工作。部隊政治教育的主要內容是向戰士講明紅軍的性質、任務，打仗的目的等。當時部隊流行兩句誓言：「扛革命槍不怕死，怕死不配扛紅軍的槍」。除此之外，部隊特彆強調鐵的紀律是無往而不勝的關鍵。
紅一團自成立以來，紀律嚴明，對人民群眾秋毫無犯，深得民心。一首信天游唱道：
山丹丹開花紅崖窪，
我送我的哥哥呀當紅軍。
山林的核桃河畔上的棗，
當兵就數上當紅軍好。
山坡上的蒿草根連著根，
窮人和紅軍心連著心。
我從學生娃到黨的地下工作者，沒有摸過一天槍杆子。剛一到連隊任職，許多戰士稱我為「李先生」，有的私下說風涼話：一個白面書生，拿筆寫字還差不多，扛槍打仗怕就不行了。我心想：是子長同志讓我來帶兵打仗的，我不能辜負他的重託。咱們過一兩個月再比高低。
我充分利用行軍作戰的間隙，爭分奪秒從練瞄準開始，並總結出一套好方法，那就是把靶子當作敵人，每次練習都集中思想，一定要打倒它，否則實戰中就會被敵人打傷打死。加之部隊的武器既舊又缺，每支步槍最多配給10發子彈。這就要求射擊技術十分過硬，人人都要達到「一槍定乾坤」的神槍手水平。帶兵的人更需自己首先達標。不出三個月，無論長短槍，我都能做到指到那兒打到那兒。戰士們服氣了：指導員把知識用在槍頭上，槍法到底比咱老兵還強。此後，做部隊的思想工作也比較容易了。這使我第一次體會到：做政治思想工作的人，也必須精通業務技術，否則，群眾只當你是個會說不會幹的沒本事的人。
紅一團自成立起，就既重視政治思想工作，又注重嚴格的軍事訓練，經過大大小小戰鬥的實際考驗，紅一團逐漸成長壯大起來。
當時面對的敵人井岳秀雖擁兵上萬，但因分散駐守在陝北20餘縣，除指揮基地榆林、綏德之外，每縣多則分攤上1個營、少則1個連的兵力，而且不敢遠離城堡和據點。我們卻沒有包袱，不必固守城池，便於時而集中兵力，出其不意地吃掉敵人；時而又化整為零，大膽分兵，拔除敵人扎在我根據地周圍的「釘子」，不斷殲滅其有生力量，相繼開闢新的革命根據地。
經過景吳塌、張家圪台、河口鎮、董家寺等4次大的戰鬥，紅軍摧毀了敵人許多據點工事，俘敵官兵100餘名，繳獲長、短槍200餘支。部隊裝備改善了，隊伍壯大了，越戰越勇。
董家寺戰鬥後，賀晉年和馬佩勛帶領陳文保的紅二連襲擊了安定縣，開闢了橫山、安定、綏德、米脂之間的大片蘇區。他們配合地方黨組織發動群眾，打倒了土豪劣紳、地主惡霸，組織了貧農會、赤衛隊，逐步建立了工農政權。
我所在的連隊，活動在秀延縣附近（秀延縣即安定縣北區，是蘇維埃政府為之命名的），配合高朗亭領導的九支隊，開闢了安定縣東區。1934年重陽節的清晨，我們以班為單位，分散隱蔽在折家坪、湫峪溝、馬家坪、單頭一線，待機消滅這一帶的反動分子。
陝北重陽節中午，有錢人家要吃油糕、餄絡，還要去登山，以避難消災。我們按照事先偵察好的情況，趁中午時分，出奇致勝，一網打盡了這一帶敵人的坐探和反動地主，並處決了9名罪大惡極的反動分子，清除了這條交通要道上的「障礙」。從此，陝北特委與清澗、延川、安定等縣的聯繫就暢通無阻，再也不必繞道了。同時，我們在這一帶建立了秘密據點，組織了貧農會、赤衛隊，武裝了群眾，建立了革命政權。接著又乘勝開闢了清澗縣與延川交界的大片地區。