一九三七年十一月二十九日，是康生一生中關鍵時刻的起點。那天傍晚一架蘇聯飛機出現在延安多雲的天空。共產黨人在歷經長征之後，於該年年初在這座陝北城鎮建立黨的總部。起先，在陸地的人們，包括毛澤東，以為那是日本轟炸機對根據地的定期攻擊；但是當飛機在上空盤旋尋找臨時停機坪時，它的身份才得到證實。龐大的人群，在毛澤東的帶領下（他坐著城中唯一的汽車——一輛破舊的救護車） 湧向機場，他們對飛機和飛機上的乘客感到好奇。這是近兩年來第一架降落在延安的飛機。
康生和他的同伴們，包括王明，在走下飛機時受到人們的熱情歡迎。雖然延安的共產黨人總是懷疑新來的人，但是由於長期缺少從莫斯科來的最新消息，他們同樣渴望從莫斯科來的共產黨領導人。當晚舉行了道地中國風格的歡迎會，一九三五年一月在遵義被推選為共產黨總書記、受過蘇聯教育的知識分子洛甫熱情地發言。他讚揚了每一位新來者：王明曾提高了中國共產黨在共產國際中的地位；陳雲完成了他在莫斯科的使命；康生在白色恐怖時期保護了上海的黨組織。
毛澤東也講了話，他用中國格言向新成員致意。當時四十四歲的毛澤東胖得令人驚訝，據說在他身上有某種柔弱的神態——這種印象被他的小手掌和高嗓音所強化。他在第一晚就向王明這位共產國際的發言人表示敬意。但是他所有樸實且謙恭有禮的言辭都小心地避免涉及長征時期所獲得的任何權威。他對新來者的小心謹慎是顯而易見的。
整個晚上，毛澤東與王明以及共產國際之間的緊張氣氛時對顯現出來。有人問到，是否繼續保持延安和蘇聯之間的航空聯繫，以便可以向中國共產黨空運武器和其他供給品，王明回答說，空運是不合法的、秘密的，根據斯大林與蔣介石達成的諒解，王明解釋道，蘇聯在中國的空中力量是資助國民黨政府的。所有的軍用物資都將運送給國民黨軍隊而不是共產黨。 「既然可以提供給蔣介石那麼多，」毛澤東嘆息道，「為什麼我們不能分到一小部分呢？」
如果說康生曾經對延安生活抱有任何幻想的話，那麼他很快就失望了。他那富有且有教養的家庭遺產，使他在共產黨的普通成員中成為一位遭到遺棄的人。他過去能毫無困難地融人上海那個大都市——同他一起的共產黨員有知識分子、大學生，或者至少有幾分老煉的工廠工人。但是現在，共產黨擴展到中國的農村地區，相當多的成員來自農民階層，百分之九十的共產黨員都以有農民的背景而自豪。 康生的高貴出身並不是使他孤立的唯一原因。在早些時候，他（同其他人一起）就敵視毛澤東，而毛澤東景初也不喜歡他的教條主義和拒絕放棄任何爭論的固執。
而且，對康生來說，延安和中國西北農村是一種令人討厭的環境：貧瘠、荒涼，不斷從戈壁刮來的風沙更加重了夏天的不適感，那裡，冬天的氣溫遠遠低於零度。共產黨的根據地處在一個幾乎完全被群山環抱的山谷里，每天只有很少的時間能見到太陽。三月到五月是最糟糕的時候，春季解凍的河水溢出堤岸，造成洪水泛濫。建造在緩緩流動的延河以南狹窄地帶的延安城，不過數英畝的古迹四周圍繞著古老的土堤，一座九層寶塔俯瞰著這個城鎮。
在延安，共產黨人住在黃褐色泥土的陡峭懸崖下開鑿出來的窯洞里。在隧洞的牆的盡頭，每個窯洞都是一個單獨的房間。窗戶和門上都糊著白紙以取代玻璃，可以透過一些光線，而蠟燭是其唯一能用來照明的東西；沒有電，也投有自來水。但是窟洞里冬暖夏涼，一些短期的訪問者把共產黨管理的居住設施稱為西北飯店，這一系列的窟洞一般有九英尺深、八英尺寬、九英尺高。一九三○年後期，黨的機關也被安置在延安城外，一個叫作楊家嶺的窯洞里。
當共產黨最初佔據這個小小的、似乎毫不知名的城鎮時，這裡大約有三千人口，有正在營業的兩三家店鋪和飯館。兩年中，由於日本人的入侵以及延安被譽為民族主義的強大堡壘，吸引了許多左翼分子和具有民族情感的中國青年來到這裡，使人口迅速增長了十倍。然而延安與上海的摩天大樓、花園、來自世界各地的人潮和擁擠的街道大不相同。甚至連康生年輕時生活過的山東，也很少與這裡蕭瑟凄涼並混雜著沙石和塵土的土地相似——越里「像大海一樣單調。」』
圍繞延安的陝西省在中國歷史上扮演了一個重要的角色。這裡曾經是兩千年前統一中國的殘忍秦王朝的故鄉。由於中國的邊境正好切斷蒙古人和土耳其人的領土，陝西常常受到來自北方的侵襲。當地居民狹長的眼睛和扁平的臉，顯然受到非中國血統的影響，他們與康生的故鄉山東的居民自然有很大的不同。
許多共產黨人都發現延安的落後。一度是中國共產黨員的朱其華，早年寫過一篇有關共產黨的報導，把延安描述為「一個純粹中世紀的、乏味的小鎮」，在那裡「毛澤東建立了他的柏拉圖式王國。這並不是偶然的……毛澤東的農民思想只有在這個落後的現世小鎮中才能找到營養。」
長征以來，延安的生活具有嚴密組織的軍營氣氛。各種嚴格的規章控制著生活作息和日常工作，乃至中國共產黨員的婚姻生活。丈夫和妻子除了星期六晚上之外實行分居。即使在上海白色恐怖最瘋狂的時候，夫妻們也生活在一起，暫時的性關係是很普遍的。但是在延安，黨試圖把共產主義式的生活道德強加於革命軍事組織之上。 根據一位觀察者所言：「每個人被要求放棄個人（羅曼蒂克的）興趣愛好，而傾向於共同的努力。」一位黨乾的女友投入另一個生活在延安的人的懷抱，他向她開槍報復，由於缺乏對「革命事業的奉獻精神」而被判有罪，並且遭到處決。
從毛澤東到黨內底層的每一位成員，每天都需要抽出幾小時參加體力勞動。中央委員會委員們指定每年要生產出一定數量的稻穀；因此，毛澤東和他的警衛員們負責耕種他居住的窟洞前面的一塊地。他們種植各種時令蔬菜，紡紗，織布，製作金屬製品。黨提供隹房、食物、衣服、醫療和「日常生活花費」——毛澤東每個月可領到相當於十二美元的生活費。其他中國共產黨領導人每月可領到相當於五美元的津貼，但是在共產黨平均主義的社會裡，工廠工人每月可領到三十美元，這使他們「生活得比將軍和政府官員要好」——這是一種傾向於「鼓勵工業化」的政策。
延安實施著紀律並且堅持極端嚴謹的禁慾生活，然而在延安四周所謂的邊區，其經濟在極大程度上依賴生產和出售棉花。
康生總是以為自己「比其他人更為平等，」他試圖適應這個新環境，但是要用他自己的方式。他的穿著風格是一種讓步。然而他不願穿上大多數人所穿染成藍色的棉上衣，康生選擇與八路軍制服相同的黃卡其布的軍用工作服，儘管他從沒在軍隊中服過役。一位他在延安的同時代人回憶，康生喜歡穿長統皮靴，騎馬，帶著外國種的獵狗打獵。那個時候，他的服裝還有其他區分的標記。從照片上顯示，他戴的不是他大多數同志所戴的尖頂軍帽，而是一○年代和一○年代在歐洲賽車手圈內非常流行的氈帽，一條圍巾很時髦地圍在他的脖子上。
康生還開始炫耀他那修剪整齊的小小八字鬍，英國紈褥子弟和歐洲教授，以及幾位與斯大林最接近的同志，包括莫洛托夫（Vyacheslav Molotov）和米高揚（Anastas I．Mikoyan）都喜愛這種鬍子。中國共產黨人很少有蓄鬍子的，有教養且知識廣博的神態造成康生與他的同事之間的差別。四個警衛是他通常的隨從，使他幾乎與坐在救護車裡到處奔跑的毛澤東一樣引人注目。他還雇了一個廚子，化曾是滿清末代皇帝溥儀的皇室廚師。當共產黨的普通成員靠小米、腌蘿蔔、腌白菜和偶爾才有的雞蛋維持生活時，康生卻享受著豐富的食物。
一些延安的觀察者注意到，康生很少有朋友，而且經常避開大多數的社交活動，尤其是當社交活動涉及外國人的時候。他偶爾會在公開的戲劇表演中吹奏樂器， 這是他年輕時的愛好之一；但是總的來說，他過著一種隱居的神秘生活。康生不久便以不祥的危險人物而揚名，許多人都避之惟恐不及。
到延安一年以後，康生從楊家嶺的窯漏搬遷到棗園的居所，一個延安以西幾英里的小村落。棗園是延安地區最早有吸引力的地方。雖然棗樹並不像它的名字所暗示的那麼多，但是棗園到處是李樹、杏樹、梨樹，從春天到初夏都開著鮮花，吸引了蝴蝶和蜜蜂。在五月和六月，康生的領地充滿了令人欣悅的生機。
不久，其他領導人，首先是毛澤東和他的工作班子，從他們的窯洞里搬出來，與康生一起住在棗園。毛澤東和其他領導人注意到這裡棗樹稀少，決定將它更名為延園。曾為上海大資本家虞洽卿雇請的專業書法家康生大筆一揮，將新名字鐫刻在延園人口處的石牆上。
康生在莫斯科的四年里，中國共產黨的地位發生顯著的變化。中國共產黨不再是一個秘密的地下組織，而成為國民黨軍事行動和