康生被剝奪安全和情報部門首腦的職位之後，依然是毛澤東核心圈裡的成員，但是像劉少奇、任弼時和楊尚昆等人的觀點至少也和康生一樣具有份量。
緊接著日本人於一九四五年八月投降以後不久，主席和最高統帥開始商談建立一個新的聯合政權。在美國全權特使一系列的鼓勵之下，雙方進行了長時間的討價還價，就像沒完沒了的皮影戲。但是毛澤東和蔣介石都不準備妥協；他們運用各種手段，只是為了政治上和策略上的好處，並且等待恢複敵對行動的最佳時機。一九四五年十二月，協商以失敗告終，戰爭似乎追在眉睫。共產黨和國民黨之間早就預期的國內戰爭終於在一九四六年三月猛烈爆發了。
當毛澤東和蔣介石互相迴避時，康生抓住每個機會大肆宣揚他對秘密戰爭的擅長，希望毛澤東認識到他在反對國民黨的鬥爭中是必不可少的，但是毛澤東忽視了他。主席最終將他安排到他以前從未涉入的領域——土地改革。
從二〇年代後期開始，中國共產黨人首先提出，在中國，城市無產階級是否也能像在蘇聯那樣成為革命動力的問題，土地改革的想法遂成為中國共產黨的基礎——沒收富有的地主和富農的土地，將它們分給千千萬萬的貧農、僱農和無地遊民。國民黨和共產黨在土地改革政策方面是不一敢的，事實上，它破壞了兩黨的早期聯盟，並導致了一九二七年的國內戰爭。那一年，毛澤東寫道：「幾萬萬農民……其勢如暴風驟雨，迅猛異常……一切帝國主義、軍閥、貪官污吏、土豪劣紳，都將被他們葬人墳墓。」毛澤東知道，為了召集不滿的貧苦農民，共產黨需要提供給他們一些東西；而最能激勵他們的獎品是土地。
革命黨利用中國農村大片土地的時機已經成熟，人們向無法脫離貧困的農村人口大聲呼籲。在很多地方，地主殘酷地虐待僱農——在他們無法支付所要求的過高地租和榨取過多利息的時候，搶奪他們的妻子和女兒，僱用惡棍毆打任何一個引起麻煩的人。
一九四六年十二月十日，接到來自毛澤東、朱德總司令和共產黨最高民政官員劉少奇的命令，康生與一行七人從延安出發到甘肅省東面荒蕪的邊界地區——隴東，大約在延安以西一百英里處。他的使命是視察共產黨在幾年前獲得控制的地區創立的土地改革計畫。康生在隴東僅度過五個星期，但是這些日子使他對土地改革及其在共產主義革命中的地位持樂觀態度。
共產黨的土地改革政策在不同的地區有很大的不同，在較為貧瘠的地區，那裡經濟艱難，土匪、軍閥和乾旱使農民陷於水深火熱的悲慘境地。共產黨經常運用極端的手段消滅富農，就像斯大林清除鳥克蘭和俄國南方地區擁有土地的富農一樣。在土地肥沃、氣候溫和的地區，中國共產黨很難激發民眾對富裕農民和地主的憎恨；通常土地擁有者失去他們的土地，但是他們的生命得以存活。
康生在指導土地改革時採用最嚴厲的方法是不會令人訝異的。在隴東，他把自己裝扮成對正在進行的土改計畫的批評者，然後，在他退回延安時則指責隴東的領導有「右傾」思想——意思是對地主的一種溫和妥協的傾向。～九四七年二月二日，在他回到延安後不到一周，康生就在黨校發表了一篇粗暴的演講，這是他為了激進的土地改革需要所做的一系列講話中的第一篇。他號召使用一種新的民粹主義方法，「喚起民眾，然後把所有的問題交給他們去處理，這種方法能夠解決問題。」
康生的規則轉變成鄉村內無數復仇行動。康生不僅沒收地主的房子和財產，把他們的土地分給農民，而且煽動農民對地主和他們的隨從的仇恨。以社會正義的名義，鼓勵農民通過殺死地主和富農，來結清宿怨。康生豐富的經歷從未抑制他對土地改革的嚴厲措施的熱情：毫無疑問，他在其他方面也是這樣殘酷無情的。無論如何，這次地主不幸成為康生的目標。正如毛澤東在後一年中解釋的：「我們的任務是……消滅地主，把他們當作一個階級，而不是當作個人。」
一九四七年三月，康生從隴東回來五個星期之後，一支國民黨軍隊進攻延安，迫使共產黨撤離這座古老的城鎮。當國民黨飛機轟炸和掃射從延安撤離的軍隊時，康生和曹軼毆與共產黨的主力一起西進到黃河岸邊，在那裡，他接到命令去負責東面幾百英里以外的山西省土改計畫。他從共產黨主力部隊中離開，到山西省西北角臨縣的郝家坡建立司令部，康生在那兒待了將近四個月，整個夏季都用於檢查已經十分合適的土地改革計畫，以他自己的方法來糾正當地幹部的錯誤。康生採取標準方法，將地主和他們的家庭從土地上分離出來，他下令將他們處決。
在整個共產黨控制下的中國，土地改革與對地主的懲罰齊行並進，但是康生甚至對中國共產黨的同仁也施以恐怖。
在上海，康生曾利用紅隊出賣和暗殺那些支持黨內他的對手的共產黨員；在莫斯科，他曾運用秘密警察的力量來反對蘇聯學習的中國共產黨員；在延安，他曾利用社會事務部，逮捕大批以「拯救」為名而歪曲為敵特分子的年輕中國共產黨員。現在，在山西省的西北部，康生有意識地著手向那些被認為是同情共產黨的地主開刀。
在康生統治下的地區臨縣，有兩個在抗日戰爭中以支持共產黨而聞名的富有大財主，牛友蘭和劉少白。康生命令他的武裝親信去抓牛友蘭，然後當著召集起來的農民的面指責和羞辱他。康生取笑說，因為地主姓牛，應該像牛一樣對待他；為了使他的雙關語取得實際的效果，康生命令他手下的人在牛友蘭的鼻子上開個洞，在洞里穿上環，在環上綁根繩子，然後強迫牛友蘭的兒子牽著他的父親，鮮血順著他的臉流下來，滴在郝家坡狹窄而多塵土的街道上。劉少白受到牛友蘭命運的警告，趕緊向黨的總部求救，因而逃過一劫。
康生還攻擊那些早在他來到這個地區之前已經在這裡工作的共產黨下級幹部。有些足年輕知識分子，向來無心執行康生的錯誤政策，其他一些是在這個特殊區域加入黨組織的單純青年，對共產黨運動的偉大目標理解甚少。康生為他的受害者杜撰了「石頭」這個名稱：壓榨農民的石頭，阻礙調整計畫的石頭，需要清除石頭。在清除「石頭」的名單上，康生清洗了許多當地的共產黨員，將他們交給群眾的「批鬥」會，在會上農民們辱罵和毒打不幸的幹部。
康生還調查「土改工作組」的背景——調查人員大多數由目不識丁的共產黨員組成，他們是負責土改進程的機制，並且舉辦「批鬥」會，反對非無產階級或非農民出身的人。他在根除私人所有制的偽裝下，沒收私人的小物品——迫使社會出身較好的幹部與其他工作組成員分桌吃飯。
康生乞靈於中國古老的見解，來為他的行動辯護，派往一個地區的官員不可避免地會與富有而有影響的地方土紳結成聯盟。康生爭辯說，除非根除那些官員，否則土地改革將不會起作用。但是康生的記錄顯示，他只是利用這種爭論作為更大的暴行的借口；他在上海、莫斯科、延安和郝家坡對共產黨同仁的迫害總是說明，他不顧一切地鞏固自己的營壘。
康生提出的石頭理論有力地影響了整個中國的土改機構。五〇年代，當土改政策在全國各地實行時，黨的地方官員往往被當作「土豪」，隨著地主一併消失。（儘管康生抱有攻擊「石頭」的想法，但是他在文化大革命期間來了個大轉彎，他指責中國的國家主席劉少奇在二十年前的土地改革運動中「搬石頭」；這種矛盾絲毫沒有使康生顯得不安。）
中國共產黨中央委員會下令沒收土地的主要標堆，是看土地的擁有者是否有剝削僱農和貧農的記錄。但是康生認為這個標準過於溫和而不予考慮。他補充了其他三條衡量標準——「歷史、生活和政治態度」——不論多麼含糊不清，這使他很容易將地主和富農，與在蔣介石軍隊中服過役或者與國民黨有其他聯繫的普通農民混淆起來。他的目的是剝奪他們的土地，公開地羞辱、毆打他們，有時把他們槍斃、殺頭或活埋。
從以下統計例子，可以看到康生政策的效果，臨縣的蔡家崖村五百五十二戶人家中有一百二十四戶人家被劃為富農——超過實際分類的兩倍。雖然他在郝家坡實施暴行，但是康生仍然獲得毛澤東對他工作的讚揚；一九四八年四月，毛澤東指出，「康生同志」克服了阻礙郝家坡土地改革的「右傾」思想。
用這種方式，毛澤東顯示他仍支持他的前安全首腦。在毛澤東公開反對康生和其他人濫用權力的時候，他對康生的稱讚是有特殊意義的。毛澤東知道，郝家坡周圍地區的土地改革失去了控制（在稱讚康生的文章中，毛澤東承認「左傾」已經產生），但是他清楚地表示，他沒有讓康生承擔出現「偏差」的責任。
在康生和其他主張強硬路線的幹部的影響下，中國大部分農村地區的土地改革都以血腥、殘忍而聞名。黨內執行土改政策的小分隊被派到雖遙遠的島村，組織當地的農民，組成土改小組，他們發動貧農和僱農去反對富農。當仇恨達到極點時，農民被