馬明方，乳名羅增，學名汝舟，號濟民，陝西省米脂縣人。1905年12月14日出生於葉家岔村的一個農民家庭。父親馬聚財，粗識文字，務農為生。除了耕種自有山地七八畝外，還租種地主的一部分土地，同時兼當看風水的「陰陽」先生。母親羅氏，一生勤勞儉樸，忠厚善良，和睦鄰里，助人為樂，對馬明方幼年影響很大。馬明方有一弟一妹，其弟長大後亦參加革命。馬明方從8歲開始，在他母親的支持下，到王家灣念了幾年私塾，啟蒙老師王嘉仁精心教他識字讀書作文，打下了較好的語文基礎。12歲時轉入申家坪完小，1923年以優異成績畢業。他在讀私塾和上小學時，利用課餘時間和寒暑假，經常參加砍柴、割草、送糞、種地等勞動，從小養成吃苦耐勞的習慣和品德，深受村人稱讚。
1924年，他在申家坪完小擔任初年級教員。這時候，他雖然知道帝國主義侵略中國的一些歷史和現狀，知道國內軍閥連年混戰給人民帶來的災難，知道貧苦農民的苦難生活和官府衙役的敲詐勒索，並因而心懷不滿，但他還不懂得產生這些現象的歷史根源和社會根源，不知道中國的出路何在。他只是一個對當時社會不滿、有正義感和愛國思想的鄉村教師。
1925年春，他考入了綏德陝西省立第四師範學校（以下簡稱綏師），開始了人生的轉變。
綏師是當時陝北23個縣中惟一的一所師範學校。1924年，李子洲接任校長。李子洲是綏德人，畢業於北京大學，是李大釗親自培育和介紹入黨的陝北早期共產黨員，後來是中共陝甘區委、中共陝西省委主要領導人之一。李子洲任綏師校長期間，先後聘請楊明軒為教務主任，常漢三為訓育主任，田伯英、王懋廷、王復生、韓叔勛、蔡楠軒、何寓礎等共產黨員和進步的知識分子為教員，對學校大加整頓，開展新文化運動，宣傳馬克思主義，組織進步團體共進社。1924年下半年，在師生中開始發展黨、團員，建立黨、團組織，創辦平民學校，使綏師成為陝北黨組織的最早發源地，大革命高潮在陝北的中心。
當時，第一次國共合作已經形成，北伐正在準備進行。上海「五卅」慘案發生後，全國各地掀起聲勢浩大的反對帝國主義的運動，中國革命出現了第一次高潮。在這種革命環境和革命形勢的影響下，在李子洲等人的教育和熏陶下，馬明方的思想認識迅速發生了變化。
他開始認識到：打倒帝國主義、打倒軍閥、打倒封建主義是中國擺脫貧窮落後，走向富強的惟一出路。因而積极參加反帝、反封建、反軍閥的鬥爭。1925年秋，他經馬瑞生（後叛變）介紹，光榮地加入了中國共產黨。從此，開始了他的革命生涯。
馬明方是一個很用功的學生。各門課程成績良好，作文是全校的佼佼者。平時不愛多說話，但為人深沉，考慮問題細緻，得到同學的敬重和教師的讚賞。他在綏師上學期間，認閱讀了《共產黨宣言》《唯物史觀》《社會主義淺說》《共產主義ABC》《論無產階級專政》《新青年》《嚮導》等書刊，接受了共產主義思想。《共產黨宣言》的第一句話就是「一個幽靈，共產主義的幽靈，在歐洲徘徊。」這個「幽靈」附著在他身上，決定了他一生的方向和道路。
在綏師上學期間，在黨的領導下，馬明方參加了一些社會活動和政治鬥爭。
1925年孫中山逝世後不久，綏師院內舉行追悼大會，到會綏德各校師生一致表示繼承孫中山的聯俄、聯共、扶助農工三大政策，將國民革命進行到底。會後列隊到砭上韓蘄王（韓世忠）故里為孫中山立了紀念碑。馬明方參加了這次大會，對孫中山由「效法西方」轉變為「以俄為師」的革命精神深為感動。
1925年5月「五卅慘案」發生後，全國人民掀起反對帝國主義的怒潮，接著發生了「沙基慘案」，省港大罷工，消息傳來，群情激憤。綏德黨組織領導各校師生舉行了反對日、英帝國主義遊行示威。馬明方也手執小旗，高呼口號，散發傳單，張貼標語，在街頭講演宣傳，並下鄉進行宣傳活動，發動群眾捐款支持上海工人大罷工。他由此進一步認識到帝國主義的侵華罪行，開始看到中國人民的偉大力量，堅定了反帝的決心和信心。
1925年5月，陝西反動軍閥吳新田縱兵毆傷西安省立一中學生的事件發生後，陝西黨、團組織在全省發動了聲勢浩大的驅吳運動。綏德黨組織於6月24日在綏師召開了驅吳大會。李子洲、韓叔勛等人講了話，會後進行了遊行示威，散發傳單，在綏德城鄉廣為流傳，震動和影響很大。馬明方也參加了驅吳鬥爭，對反動軍閥有了更深刻的認識。
參加「非基督」運動。八國聯軍侵略中國後，基督教在各地更加發展起來。陝北的基督教活動也非常厲害，足跡伸進窮鄉僻壤，謠言惑眾，高利盤剝以至包攬訴訟，私設公堂，武斷鄉曲，魚肉人民。1925年聖誕節綏德舉行了盛大的學生示威遊行，揭露基督教的反動面目和行徑，使基督教的活動在綏德陷於停頓。
參加打「騾櫃」鬥爭。「騾櫃」是官府豪紳為了從中漁利，互相勾結建立起來的一個專門控制民間「腳戶」（即用驢馬做運輸的人）的封建把頭組織，群眾恨之入骨。綏德黨組織發動「腳戶」組織「腳戶自保會」開展抗差鬥爭，並發動學生去打了幾次「騾櫃」。馬明方也參加了這場鬥爭，迫使「騾櫃」解散，衙役也不敢隨意捉人拉差了。這次鬥爭沉重地打擊了官府豪紳的反動氣焰，增強了群眾的鬥志。
參加紀念「三一八」活動。1926年3月20日，綏師黨組織領導全校師生舉行了紀念「三一八」大會，會上楊明軒作了報告，張秀甫、韓叔勛等教師相繼發言。並由師生合演《被毀的血書》三幕話劇。王子休編劇，楊明軒飾段祺瑞，田伯英飾張仲超，群情悲憤，會場激昂，不少人流淚。會上通過議案：通電慰問遇難烈士家屬，通電警告各國公使，宣告賣國賊段祺瑞、張作霖的罪狀。繼而遊行示威，沿途高呼口號，群眾為之動容。
利用星期天，下鄉宣傳和發動農民，組織農民協會，進行抗稅、抗捐、抗租、抗糧鬥爭。農民運動初步開展起來。到1927年2月，綏德已建立起一個區農民協會，23個村農民協會，會員650多人。1926年暑假，馬明方在本村遇到兩名催征糧草的衙役，他們起先提出要600斤草，馬明方與之進行了面對面的鬥爭，他說：「我們村的農民很窮，捐200斤就行了。」衙役後來減到400斤，但背著馬明方又向農民索要兩塊銀元。馬明方得知後，氣憤地說：「你們明減200斤，暗索兩塊錢，真是可惡之至，我非告你們不可。」衙役見他是綏師學生，怕上告，便只捐了200斤，乖乖地走了。這雖然是件小事，但給他留下的印象很深。他後來多次對人談到這件事，說他從這件事中悟出一個道理：「反動派看來氣勢洶洶，其實是外強中乾的。」
經過上述一些社會活動和政治鬥爭，馬明方的革命思想更加強烈了，並初步地受到一些鍛煉。
1926年春，馬明方先後擔任了綏師的黨小組長、支部書記。同時，遵照中共中央的決定，參加了執行三大革命政策的國民黨。他在宣傳中國共產黨的主張，發展黨的組織，宣傳國民革命，維護統一戰線等方面做了不少工作，積累了一些黨的工作的經驗。
馬明方在綏師雖然不到兩年，但這是不平常的兩年，是全國大革命處於高潮的兩年，是綏師黨的工作最活躍的兩年。他在這裡最初受到革命的洗禮，對他的一生產生了決定性的影響。
1926年10月，共產黨人史可軒、陳家珍、王圭三來到綏德。史可軒當時在馮玉祥的國民軍聯軍中任職，路經綏德去西安，要求綏師黨組織派幾名黨員到他的部隊去工作。李子洲派馬明方、武丕謨、鄧重慶三人到史可軒部做政治工作。當時西安正被軍閥劉鎮華圍困，他們先到三原住了一個來月，11月28日西安解圍後進入西安。史可軒擔任了國民軍聯軍駐陝總司令部政治保衛部部長兼西安中山軍事學校校長。他的部隊（1000多人）編為政治保衛隊，姚丹峰（非共產黨）任隊長，下設三個營，馬明方任二營政治指導員兼黨支部書記；鄧重慶、武丕謨分別任一營、三營政治指導員。二營營長任耕三同情共產黨，有些連排長也比較好，有進步要求，士兵中要求改變現狀、改善生活的願望也很強烈。馬明方建議在部隊中發展黨員，但當時上級組織不同意，說這個部隊是很革命的，史可軒又是黨員，所以不要急於發展黨員，免得引起馮玉祥的懷疑。這支部隊後來參加了著名的「渭華暴動」。
馬明方在史可軒部工作期間，中國革命發生了急驟的動蕩。1927年4月，正當全國革命形勢向前發展的時候，以蔣介石為首的國民黨右派集團向帝國主義妥協，叛變了革命，發動了血腥的「四一二」大屠殺，許多共產黨員和工農群眾倒在血泊之中。在此形勢下，中共陝甘區委一方面發動群眾向蔣介石反革命勢力進行聲討，一方面積極幫助馮玉祥率部東出潼關