中山大學位於莫斯科阿羅罕街，是一座很平常的四層樓房，教室、學習室、圖書館、食堂、宿舍、教職員辦公室全設在裡面。
中山大學校長卡爾·拉狄克，是位波蘭出生的國際共產主義運動活動家。學校里黨的書記為工人出身的波蘭人阿戈爾。1925年11月下旬，中山大學正式開學。當時的蘇聯共產黨負責人之一托洛茨基主持了開學典禮，在講話中他說：「一個俄國人，不管他是一個同志還是一個公民，只要他從今天起對中國學生遞來瞧不起的眼光，或輕蔑地聳聳肩膀，那麼他就沒有權力自稱是一名俄國共產主義者或是一名蘇維埃公民。」體現了蘇聯黨和人民對中國人民的真誠友誼。
這些中國學生到達中山大學後，首先就由學校工作人員和教員同每一個人談話，詢問他們各人的姓名、籍貫、家庭成份、文化程度、學歷和經歷，曾讀過什麼書、參加過什麼革命活動等等。同時，學校又向學生們發放了西裝、外套、暖帽、襯衫、浴衣、毛巾、手帕、皮鞋、雪靴，另外，還有飯票、理髮票、電車票、牙刷、肥皂、梳子等等，一切日常用品應有盡有。在伙食上，也盡量滿足學生們的需求，學校當局為中國留學生每日開五餐，白麵包、香腸、火腿、牛奶、白塔油、糖果點心等食品供應非常充足。學生們不但可以吃俄國餐，每星期還可以吃一兩頓中國南方人愛吃的白米飯，餐後配有紅茶。然而，對蘇聯這個第一個社會主義國家來說，各方面都還是很艱難的，當時莫斯科市的工人、職員或市民家裡，黑麵包是餐桌上惟一的食品。一個正在被飢餓煎熬著的國家，卻如此慷慨地對待一個半殖民地弱國的學生，說明了中蘇兩國人民的友誼和親近。這些，都令當年的留學生非常感動且印象深刻，直至1949年中華人民共和國成立後，中國共產黨所領導的中國人民實行對亞非歐等地的被壓迫人民和民族的無私援助政策，不能說不與當年中山大學及蘇聯黨和人民的這種特殊影響有關。
這些來自中國，在中山大學學習的學生，不僅政治身分和觀點不盡相同，文化水平也差距很大，大、中、小學程度都有，又全都不懂俄語，因此學校將學生編成了程度不同的幾個班，每班約20多人。鄧小平、傅鍾等從法、德等國來的同志外語水平較高，編為法語、德語班。從中國去的如王稼祥、張聞天、吳亮平等11人英語基礎較好的編為英文特別班，聽教師直接用英語授課。其他同志則一邊加緊學習俄語，一邊靠幾位中文翻譯聽取講課。一些語言基礎好的學生還一邊學習一邊當翻譯，如鄧小平當時在本班和其他班擔任法語翻譯。
中山大學是一個政治經濟單科大學，不設置自然科學項目，以訓練熟練的政治工作人員為目標，學制以兩年為期。學校開設的課程有語言課，俄語是最重要的必修課程；其次是歷史課，包括社會發展史、中國革命運動史、俄國革命史、東方革命運動史和西方革命運動史。講授中國革命運動史的是校長拉狄克，他用歷史事實駁斥資產階級歷史學家否認東方國家有自己的歷史的錯誤論斷，指出中國人民的反帝鬥爭足以推倒資產階級歷史學家所謂東方停滯和衰退的陳舊觀念。其他課程還有列寧主義，用斯大林的講稿《列寧主義基礎》作教材；政治經濟學；哲學；經濟地理等。根據斯大林中國革命者應將軍事放在首位的指示，學校還開設了軍事學課，這門課程由有理論和實踐經驗的蘇聯紅軍高級軍官任教。學校還專門設立了軍事研究室，室內陳列著步槍、衝鋒槍、機槍、迫擊炮、榴彈炮等現代戰爭武器，還有各種地形沙盤，用它們可以加深和鞏固課堂所學到的軍事知識。學校提倡教學相長，教師允許提問，課堂允許討論，不同觀點允許爭論，鼓勵獨立思考而不強求表面上的千篇一律。這些，都是令中國學生耳目一新的。
20年代的莫斯科，各方面都百廢待興，條件不是很好，尤其是冬天，室外滴水成冰，呵氣成霜。中大的設備也很簡陋，但是勤奮好學的學生可以在此挑燈夜戰。伍修權與王稼祥一同到達莫斯科，宿舍又相鄰，伍修權回憶那時的學習情況和對王稼祥的印象：「當時我們的宿舍條件並不很好，就在走廊里放了許多小桌子，給大家用來自習。稼祥同志每天晚上回到宿舍後，至少還要加班兩個小時。他自習的位置就在我住的寢室外面，我幾乎每晚都看到他伏在那張小桌上，認真閱讀英文或俄文的理論書籍。」這批革命青年非常珍惜這一難得的學習機會，因而學習十分自覺刻苦，像王稼祥和伍修權，經過不長時間的學習，就能為蘇聯教師上課擔任翻譯了。
中山大學還經常請一些革命家到校作報告，以提高學生的馬列主義覺悟和革命理論知識。斯大林曾到校講過話；李立三到莫斯科時，在中山大學作報告，介紹上海工人的三次武裝起義情況及陳獨秀的機會主義路線；譚平山到中大圖書館為學生們介紹了國內農民運動的情況。講西方革命史時，學校還請來一位80多歲的巴黎公社老社員，給學生們講巴黎公社的經驗。為了讓他們了解蘇聯社會主義建設的新貌，學校組織學生們到蘇聯國內的不同類型和規模的工廠、企業參觀，參加莫斯科工人的政治集會，從許多工人代表的演說和談話中，了解蘇聯工人階級為促進世界革命、包括中國人民的翻身解放，努力增加生產、不斷貢獻力量的精神面貌。學生們還親自參加勞動。伍修權回憶：「夏天，青年團組織到郊區的集體農莊參加收割莊稼。」「蘇聯集體農莊已經有一些大型農業機械，什麼脫粒機、收割機等等，我過去都沒見過，看了以後真是不勝羨慕，我們中國什麼時候也能這樣呢？晚上，我們就睡在麥草地鋪上，遙想中國的今天和明天，無限感慨！」王稼祥在給友人的信中也興奮地談到這一感受，「赤旗盈空，雪天萬里，中國的革命青年，置身於斯，自然增加了不少革命勇氣。蘇俄是無產階級革命成功的國家，現在正一步步建設社會主義。」這裡，升起了新世紀的曙光，它將照耀著革命青年回到自己的祖國去征服黑暗。
中國留學生在中山大學學習期間，適逢聯共(布)十四次代表大會召開，蘇聯黨內展開了同托洛茨基分子的鬥爭。蘇聯報紙上公布了蘇共中央同托派的不同綱領，中大的學生也捲入了這場爭論。有的支持托派，有的支持斯大林。由於在蘇維埃政權的最初年代裡，托洛茨基佔有顯赫的政治地位，和列寧、斯大林幾乎享有同樣的威望，而且他能用英、法、德、俄幾種語言進行演講，具有知識分子氣味，中大學生很多人欣賞他。從第一批學生到達莫斯科，直到1927年11月把托洛茨基和季諾維也夫兩人開除出黨，這一期間的中山大學也為此處於很緊張的氣氛中，許多學生都不同程度地捲入了鬥爭，有的成了學校中的托派頭頭；還有人因此受到開除黨籍、團籍、流放和遣送回國等處分。
學生們身在國外，心裡時刻惦記著革命風雨中的祖國，不斷從蘇聯報刊和國內友人來信上，從新近赴蘇的中國共產黨領導人口中了解國內鬥爭發展情況，為北伐軍的重大勝利而歡欣鼓舞，又為反革命勢力的頑強抵抗和兇惡反撲而焦急不安。1927年4月12日，蔣介石背叛革命，向共產黨人舉起了屠刀，白色恐怖籠罩整個中國。消息傳到莫斯科，中大學生憤慨不已，大家聚集在大禮堂，聲討革命叛徒蔣介石。一身工人打扮的蔣經國，發表了慷慨激昂的演說，並聲明，蔣介石「過去他是我的父親，革命的好朋友，去了敵人的陣營，現在他是我的敵人」。但如眾所周知，後來他也改變了立場。當時，大家一致通過致武漢國民政府的電文，要求嚴懲帝國主義的幫凶蔣介石。然而，汪精衛政權也叛變了革命，轟轟烈烈的大革命遭到失敗。這時，中山大學成了一個旁流雜出的水閘，革命者濤鳴浪涌，沖得極前；徘徊者不能自定出流方向，在漩渦中顛危簸蕩；反革命者希望水面平靜，水下產生迴流……1927年9月，中大開始讓一些人回國。第一批回國的大都是些國民黨右派分子和倒向國民黨觀點的人，有谷正綱、鄧文儀、鄭介民、康澤等。之後，一些中共黨團員也相繼回到國內開展武裝鬥爭，一部分中共黨團員則進入蘇聯正規軍事學校學習，如伍修權等11人於1927年秋到莫斯科步兵學校學習；左權、陳啟科等進入伏龍芝軍事學院；王稼祥、張聞天、沈澤民等人則考入莫斯科紅色教授學院。
國共合作破裂後，隨著國民黨籍學生分批回國，國民黨中央發布命令，宣布撤銷中山大學，命令稱：「莫斯科孫逸仙大學，原系孫文大學所改名，假本黨總理之名，吸收本黨同志及吾國青年，並於本黨主義及政策妄加抵毀，是借本黨之名行反叛本黨之實，應速通電國內外，將該校名目取消，同時通令全國，不得再送學生前往。」而這時，原來的東方大學中國班也已併入了中山大學，只接受中國共產黨人入校學習。1929年，為適應變化了的形勢，中山大學改名為「中國勞動者共產主義大學」。1930年秋，學校停辦。從1925年到1930年，中山大學培養了約1000多名畢業生，有很多人成為中國共產黨的重要幹部。這些經過系統的革