1883年，馬一浮出生於浙江紹興一書香門第，幼年時曾受到良好的家庭教育，加上他天資聰穎，記憶力過人，過目成誦，在當地有神童之稱。他8歲初學作詩，9歲就能讀《文選》、《楚辭》。
九歲時，父親為馬一浮聘請了當時頗有聲望的舉人鄭墨田來家裡教他讀書。可是沒過多久，鄭先生就堅決請辭。父親以為兒子少年玩劣，不聽教誨，惹老師生氣。仔細一問，才知道是學生天賦異稟，才智過人，老師自愧無法勝任，不想耽誤學生前程，才自動辭教。
老師走後，父親偶爾親自教導馬一浮讀書。但更多的時間是馬一浮自學。從此，馬一浮夜以繼日，廣閱群書，打下了深厚的學問根基。
1898年，15歲的馬一浮參加紹興（時稱會稽）縣試時，名列榜首，遠在同考的周樹人、周作人昆仲之上（周作人34名，周樹人37名）。考試題目是要大家摘取古文語句，拼湊成文，要求文章寫得自然流暢，宛如筆者自撰，沒有依傍痕迹。這種集句成文，古文根底不厚者很難做到，故可見馬一浮古文功底之深厚。
在後來一次出國考試中，馬一浮又一次和周樹人同進考場，馬一浮依然名列第一。