康生在莫斯科度過了接下來的四年時光，完成了他的政治教育並且成為政治恐怖方面的全才。他頻繁而密切地同蘇聯秘密警察來往， 度過了斯大林「大肅清」時期最黑暗和恐怖的日子，逐步深入了解在一個共產黨國家裡秘密警察的價值。在他回國後的五年里，康生常常自誇他在莫斯科什麼也沒學到；對蘇聯官員他還會嘲笑地補充說，否則他會陷入「教條主義」——毛澤東主義者稱呼盲目跟從俄國人理論的術語。
然而，康生在蘇聯學到的東西，幫助他在以後中國共產黨同國民黨為大陸的統治權而戰鬥的十二年時間裡，爬上了中國共產黨的最高層。
當康生於一九三三年七月抵達莫斯科的時候，莫斯科是世界上激進主義者的首都，「社會主義的聖城」——這是革命能夠成功，能夠消滅舊翩度，並且在共產黨統治下創造一個新社會的明證。從一九一七年十月布爾什維克推翻沙皇並奪取權力以來，莫斯科的革命光輝吸引了數百名年輕的中國人，他們中許多人都是共產黨送來進行特別訓練的。但是也有一些年輕的國民黨人，那時國民黨還是個反帝國主義的革命政黨；比如其中有蔣介石的兒子蔣經國。還有其他理想主義的、自由流動的激進分子。
當康生和曹軼歐抵達那兒的時候，莫斯科除了為鳥托邦式的嚮往之外，幾乎沒有任何魅力。郊區顯得骯髒，人民穿著毫無生氣、未經洗滌的衣服，穿者身上並散發出一種「羊糞般難以容忍的氣味」；商店外面排著長隊；餐館裡菜單上列的大部分菜肴是點不到的。莫斯科這些物質外觀對習慣於骯髒和貧窮的中國訪問者來說，並沒有引起震驚。但是俄國人的飲食，特別是新鮮蔬菜的缺乏，對於他們來說是甚感艱難。蘇聯的經濟政策，從那時候到最近，一直把重點放在軍事和重工業上面，以犧牲全體公民的福利為代價。當時像現在一樣，俄國人的產品質量很差：他們生產的鎖，要麼是鎖上了打不開，要麼是打開了鎖不上，要麼是既打不開也鎖不上：門與門框的楔合是如此糟糕，以致必須用紙和破布堵住門隙，截斷穿堂風：
公共汽車在路上都顛碎了；電梯總是「不聽指令」。生活對於蘇聯公民來說是相當糟糕的，但是外國人還有另外的負擔，那就是在懷疑目光的監視下生活。歐洲法西斯主義和日本侵略帶來日漸增長的威脅，加強了俄國人對外國人的畏懼和憎恨情緒，普通公民都迴避外國人。很少有負責國際事務的官員會屈尊同康生和曹軼歐那種一見便知是外國血統的人交談。
莫斯科亦有使人快樂之處——芭蕾、劇院、博物館和藝術畫廊全都輝煌燦爛，克里姆林官也同樣如此，雄偉而富麗堂皇，還有俄國教堂洋蔥頭般的圓屋頂，活像來自工業荒原的蒼白月亮，聳立在天際。可是，在習慣於上海以及熙熙攘攘的人群、供貨充足的商店和無數的餐館之後，莫斯科似乎就顯得灰色、官僚主義、凄涼破敗。
蘇聯首都的毫無生氣並沒有使康生和像他那樣虔信者的熱情冷卻下來。大多數到蘇聯的激進來訪者們近乎精神上的狂熱使他們易於忘記了長途跋涉、破舊的住房和日常困苦的生活。除此之外，身為一位住在莫斯科的外國共產黨的領導人，康生享有蘇維埃菁英階層授與的特權。他同曹軼歐一起，住進了勒克斯旅館（Hotel Lux）。這家旅館從二○年代起接納了許多來自全世界自稱革命家的匆匆過客。居住者中很少有人在歷史上留下痕迹，但是康生卻有一些令人感興趣的鄰居，包括日本共產黨領導人野坂參三，他最後隨康生返回中國，以及南斯拉夫共產黨員約西普·布洛茲（Josip Broz），後來以鐵托（Tito）這個名字聞名於世。
勒克斯旅館又暗又臟，但是它的波希米亞情調使它成了一個令人愉快的避風港。叉大又舒適的房間帶有傢具，包括床、沙發、桌子和椅子——除了電話，每樣東西都很舒適。座落在高爾基大街上——當時一條主要的商業購物大街，這座旅館使中國人想起他們祖國熙熙攘攮的人群。
勒克斯旅館是外國人的社交場所。阿格妮絲·史沫特萊（Agnes Smedley），一名曾在中國工作過的激進派美國記者，在一九三三年和一九三四年訪問勒克斯旅館，並遇見過王明和康生。資深的共產國際官員們經常出席那兒的社交活動，當時許多海外訪問者正在商議如何推進世界革命的進程。中國人在東方勞工大學（Uy of the Toilers of the East）、列寧學院（Lenin Institute）、莫斯科周圍的軍事院校里學習，還不時被召集到勒克斯旅館。對於康生來說，語言並不是主要問題；從他在青島禮賢中學時代時，他就掌握了足夠的德語來同勒克斯旅館裡的德國代表團進行交流，雖然對俄語還文理不通，但是他很快就練就流利的口語。許多俄國官員慣常工作到夜裡，並在晚上十點到十一點舉行聚會。這正適合康生，他的生活習慣有點像貓頭鷹。
為了標明這是他生命中另一個新階段，康生最後一次改了名。他丟棄了「趙容」這個過去五年里為他服務過的名字，而採用了「康生」。他的新名字的文字含義是「健康的生命」，但是康生選擇它時，他無疑想到的是「生」這個字在古漢語中還意味著「學者」的意思，因此他稱呼自己為「健康的學者」。
儘管外國人在發「康生」這個音時並不困難——在共產國際的英語宣讀中有時候被翻譯成Kon Sin或Kang Sin，但是它對於中國人的眼睛和耳朵來說，卻是個陌生的名字。它反映了長壽這一傳統的中國式慾望，但是它赤裸裸地關心肉體存在的表達方式，泄漏出一種對於健康的強烈渴望。康生一些從上海時期就結識的老朋友繼續稱他為趙容，直到六○年代，然而在他一生的餘下時間裡，他一直使用康生這個名字。
康生抵達莫斯科正值適宜季節。那時正是夏天，春天的雨水和泥沼代之以溫暖與舒適，城市的公園裡一片綠郁蔥蔥。
更意味深長的是，那時正是中國共產黨與蘇聯關係的鼎盛時期，因此康生能夠利用他在這個社會主義祖國所度過的時間，來提高他在中國共產黨內的地位。
毫無疑問，兩種共嚴黨勢力中的一方控制了最高權力。
蘇聯人在一九二七年和一九三三年之間，在中國共產黨的領導中安排了一任任的後繼者。共產國際促成了對陳獨秀的驅逐和瞿秋白的浮沉，並實際操縱了李立三在黨內地位的上升和下降，還有王明就職擔任中國共產黨的首腦。到一九三三年，共產國際不再力圖干涉中國內政的貫徹，但是在黨的總政治路線方面仍有發言權。有些中共黨員，包括在一九二七年四月大屠殺以後轉向托洛茨基主義的人，和抵制米夫讓王明就職擔當中國共產黨領導的人，早在一九三一年一月就已經向莫斯科（不成功地）進行了挑戰。但是中國共產黨和俄國人之間的關係上所出現的第一次嚴重分裂，是由簡單的通訊問題引起的。蘇聯無線電同上海共產黨的聯繫，在一九三四年國民黨調查科對黨的藏身處進行突擊搜查時被切斷了；幾個月以後，中國紅軍又丟失了電碼本，從而失去了同莫斯科的聯繫，其時紅軍正開始穿越中國西部的群山峽谷，進行無序的長征。
對於康生來說是幸運的，他在上海時的庇護人王明現在是駐共產國際中國代表團的團長。共產黨總部原來計畫要王明動身前往江西，讓康生接替他擔任駐莫斯科的代表團首腦，但是因為中國安全環境的不斷惡化，王明不能——或者不願——冒險踏上這趟旅程。因此王明仍留在莫斯科，康生被任命為副團長。康生也許感到失望，但是他也知道，王明繼續留在蘇聯，他能因此而得益不少。身處蘇聯政治危險環境中的老練投機者王明，緊緊依靠共產國際遠東局首腦、曾在一九三一年任命他擔任黨的領袖的帕維爾·米夫，以及袼奧爾基·德米特羅（Gei Dimitrov），一位身材高大、體格強壯、態度嚴肅的保加利亞人，斯大林在國際共產事務方面的顧問。
共產國際的關係對康生來說特別重要。共產國際作為一個在理論上代表世界各國共產黨的獨立辦事機構，在二○年代初就成為蘇聯政策的工具。它的工作人員在俄國社會享有特殊的地位：他們接觸的是資深的蘇聯官員；能獲得戲劇和芭蕾以及紅場上軍事檢閱的各種入場券；亦可在專為名流菁英服務的商店裡購物。
當一個人獻身於領導世界革命的事業時，共產國際就賦予它的成員一種在歷史上扮演獨一無二的角色的感覺。共產國際的密謀性突出了它的神秘氣氛。那些代表共產國際在諸如巴塞隆納、紐約、柏林、上海這些形形色色城市裡活動的秘密特務，一邊秘密潛伏，一邊開始看到一個新世界的形成；由於同他們發生聯繫，康生也漸漸確信他是命定的組成部分。
當康生抵達座落在奧佐德·尼里亞特（Ozhod-Niriat）那幢共產國際辦事處古老大廈的環形走廊時，他同王明的聯繫在這個異國他鄉也成為一種效果靈驗的法寶。其他中國人已經發現，要在莫斯科