1903年，馬一浮20歲，清政府駐美國使館留學生監督公署需要一位中英文基礎俱佳的人擔任秘書。經過嚴格挑選之後，最後挑中了馬一浮。六月，馬一浮來到了美國北部的聖路易斯，任駐美使館留學生監督公署中文文牘。在美國整整一年間，馬一浮沒有進入學校接受那種教育體制下的既定教育，而是在文牘工作之餘買書、譯書、讀書，按照自己的習慣喜好，自由自在地選擇自己要讀的著作。
從西方國度歸來，馬一浮開始認真總結及消化西學理論和西方文藝，與少年時代的遊學同伴謝無量一同隱居在江蘇鎮江焦山海西庵。他把塞萬提斯的名作《唐·吉訶德》翻譯成中文，題為《稽先生傳》，刊登在《獨立周報》上。
在國外的兩年，讓馬一浮逐漸認識到，西方思想並不能真正解決中國的問題，希望循著西學之路來解救中國，是行不通的。只有重興中國固有的學術傳統，以心性之學來轉移社會風氣，矯正人們的思想，才是正途。
1905年底，馬一浮到杭州，寄居在杭州西湖廣化寺。他天天到文瀾閣讀《四庫全書》。此期間，馬一浮3年足不出戶，潛心國學，盡讀文瀾閣所藏《四庫全書》。
1911年，馬一浮回國，他贊同孫中山領導的辛亥革命，常撰文宣傳西方進步思想。辛亥革命後，潛心研究學術，於古代哲學、文學、佛學，無不造詣精深，又精於書法，合章草、漢隸於一體，自成一家。
馬一浮青年時，與同鄉馬君武、馬敘倫游，風華正茂，「各自負以天下為任」，然而不久後，馬一浮「即自匿陋巷，日與古人為伍，不屑於世務。」大約從1912年或1913年起至1937年抗日戰爭爆發之前，他一直在杭州，孑然一身，身居陋巷，潛心研究儒、釋、道等中國傳統文化。
馬一浮曾赴南洋考察，見到當地華僑以儒學為國教，不廢經學，兩相對照，感慨萬千，作《新加坡道南學堂記》。回國後，他愈發埋首國學，並開始涉及佛教。
馬一浮是一位第一流的詩人和書法家。他已出版的詩集有《蠲戲齋詩前集》、《避寇集》附《芳杜詞剩》、《蠲戲齋詩編年集》等，總稱之為《蠲戲齋詩集》。
豐子愷在其隨筆《陋巷》一文中，稱馬一浮為「今世的顏子（淵）」，在記述他1933年第三次去馬一浮居處訪問時的感受（第一次是在二十年前）說：「先生照舊孑然一身地隱居在那陋巷的老屋裡，兩眼照舊描著堅緻有力的線而炯炯發光，談笑聲照舊愉快。」
抗戰勝利後，馬一浮回到了杭州的陋巷，重新隱居林下，唯主持智林圖書館，繼續選刻古書。
解放後，馬一浮擔任過浙江省文史館館長、全國政協委員等職。但遵照周總理的指示，不以俗務打攪，讓他在杭州家中（花港蔣庄）安心著書立說，頤養天年。
1957年，周恩來陪同蘇聯領導人伏羅希洛夫訪問杭州，特意將他帶到蔣庄訪問馬一浮，並向他介紹說，「馬一浮先生是我國著名學者，是我國惟一的理學家。」會見中，伏羅希洛夫問馬一浮：「您在研究什麼？」馬一浮說：「讀書。」又問：「現在做什麼？」回答說：「讀書。」伏氏想請他出去走走，他又以「恕不奉陪」婉拒。