當其他各宗相繼走向衰退之際，禪宗卻異軍突起，逐漸取代其他各宗的地位，成為中國佛教史上流傳最為久遠、影響最為廣泛的宗派。
「禪」是梵語「禪那」的略稱，意譯為「靜慮」、「思維修」，是印度各種教派普遍採用的一種修習方式，在佛教思想中具有特殊重要的意義。認為通過將心專註於某一點上，靜坐思維，可以有效制約內部情緒的干擾和外界事物的誘引，解決所謂去惡從善、由痴而智和由染污到清凈的轉變。
早在北魏時期，以研究和修習「禪」為目的的禪學內部已出現若干派別。相傳菩提達摩(簡稱達摩)自南印度泛海而來，進入北魏境內，在河南嵩洛一帶教授弟子，提出一種新的禪法，開創了全新的禪學派別。他的傳法活動為後來禪宗的建立做了準備。但圍繞著達摩的事迹，歷史上曾出現不少神話和傳說。
據偽經 《大梵王問佛決疑經》說，有一次，釋迦牟尼在靈山「說法」，但他實際上沒有說一句話，只是手持一枝金色菠蘿花向與會大眾展示。當時在座弟子對此都表示迷惑不解，只有站在他身邊的摩訶迦葉默默神會，破顏微笑。釋迦牟尼知道迦葉可以擔負重任，於是當眾宣布，將「正法眼藏」(普照一切的根本佛法)付囑迦葉。這種說法具有很濃厚的神話色彩。但後來的禪宗認為，佛在靈山會上「拈花示眾」，是要弟子們領會佛教的根本精神，迦葉破顏微笑則是暗示他得了佛的思想精髓。因而，迦葉也就被列為禪宗在印度的第一代祖師，而禪宗的淵源便可以直接上溯到釋迦牟尼。
類似的神話不斷出現。據說，當「正法眼藏」由第二十七祖般若多羅傳給第二十八祖菩提達摩時，般若多羅對他說，希望你在我去世之後60年，將此「正法眼藏」傳到中國去，以普利眾生。同時還送給達摩偈〔jie傑〕頌 一首，其中兩句是：「路行跨水復逢羊，獨自棲棲暗渡江」。「跨水」，暗指達摩將渡海東行；「逢羊」，則預示他將在廣州(羊城)登岸；而「渡江」，說的便是橫渡長江去北方傳法。根據這一預言，達摩於梁武帝普通年間(公元520—526年)航海東來，抵達南海(今廣州)。當時南海刺史蕭昂熱誠接待了他，並上表梁武帝。梁武帝派人專程迎達摩至金陵。梁武帝的奉佛，主要致力於建寺、造像、寫經、度僧，因此當他見到達摩時，便問道：「我做了這麼些事，有多少功德？」不料，達摩卻回答說：「一無功德可言。」梁武帝又問：「為何沒有功德？」達摩說：「這些是有為之事，不是實在的功德。」達摩因見話不投機，決定離開金陵，北上中原地區。
又據傳說，達摩離開王宮後，梁武帝把他倆的問答對話告訴了師父志公禪師。志公聽後，對梁武帝說，達摩的開示好極了，他便是觀音菩薩派來傳授「正法眼藏」的。梁武帝深感懊悔，當下派人追趕達摩。達摩正走到江邊，回頭忽見一隊人馬趕來，隨即手摺一枝蘆葦，擲於江中，隨後腳踏蘆葦，悠然渡江北去。這就是著名的「一葦渡江」故事。後代文人常以此作為詩畫的題材，影響廣泛深遠。
正如「拈花示眾」、「跨水逢羊」等傳說缺乏史料的真實可信性一樣，「一葦渡江」也只是出於後世禪僧們的想像。事實上，流傳下來的有關達摩生平事迹和禪學思想的記載，大部分出自禪宗成立後禪僧們的虛構。比較可信的看法是，達摩自南印度泛海而來，登陸於南方沿海，並於劉宋後期進入北魏境內。據推測，他大約卒於公元530年左右，活了100多歲。
作為神話傳說的延續，為了突出達摩的坐禪功夫(實際上這正是後來禪宗所激烈反對的)，後人又編造了「九年面壁」的故事。說的是達摩折葦渡江後，來到嵩山少林寺，面壁而坐，終日默然，前後九年。時代愈後，傳說也愈奇。如說在少室山的五乳峰上有一個「達摩洞」，達摩就曾在那裡面壁九年，連鳥兒在肩上壘起了巢也全然不察。
事實上，在較早的歷史記載中，尚未出現達摩於少林寺面壁九年之說。達摩弟子曇林只說過他「遠涉山海，游化漢魏」(《菩提達摩略辨大乘入道四行》)，在北魏境內傳法。著名史學家道宣也只說他「北渡至魏」，「游化嵩洛」(《續高僧傳·菩提達摩傳》)，在嵩山、洛陽一帶教化弟子。少林寺是北魏孝文帝為佛陀禪師所建的寺院，佛陀是該寺的第一任寺主，繼佛陀任寺主的是僧稠。達摩禪與佛陀、僧稠一系的禪在當時是水火不相容的，因此，達摩不可能在少林寺「面壁九年」。產生上述傳說的原因，主要是禪宗取得優勢地位後，為了進一步擴大影響，自然地把當時已頗具名聲的少林寺列為祖庭了。
我們認為，達摩雖然沒有「面壁九年」，但是確實提倡過一種「壁觀」禪法，只是這種「壁觀」與「面壁九年」並不是一回事。
曇林指出，達摩禪法的一大特色是「安心」，「安心」的內容是「壁觀」。所謂「壁觀」，即心如壁立，並非面對牆壁而「觀」。道宣說，達摩禪的內容是「凝住壁觀」，「凡聖等一」，「與道冥符」。認為所有人在佛性上是平等的，若通過「壁觀」修行，便可以達到「與道冥符」，即自身與佛性相契合，從而進入佛的境界。唐代佛教學者宗密在《禪源諸詮集都序》中總結說：「達摩以壁觀教人安心，外止諸緣，內心無喘，心如牆壁，可以入道。」「安心」，指安心於佛教真理；「外止諸緣」，指完全停止對外在世界的認識；「內心無喘」，指在禪定中連自己的呼吸也感受不到。總之，達摩禪的核心是，認為眾生本具佛性，只要凝住壁觀， 屏除雜念， 由定發慧，便可達到佛的境界。