7世紀初葉，在阿拉伯半島，一個具有重要歷史意義的事件發生了。經過若干時間的醞釀，穆罕默德於公元610年在麥加宣布自己受到天啟，被真主選為使者，受命傳播一種新的宗教——伊斯蘭教。信仰這一宗教的人叫作「穆斯林」。初期的伊斯蘭教頻遭挫折。公元622年，穆罕默德與其為數不多的信徒不得不由麥加遷徙麥地那，這就是著名的「希吉拉」(意為遷徙)。後來把希吉拉之年定為伊斯蘭教曆元年。在麥地那期間，伊斯蘭教有了很大的發展。同時，穆罕默德對一些宗教儀式也作出了最後規定。公元630年初，穆罕默德率領穆斯林征服麥加，伊斯蘭教從而取得徹底勝利。伊斯蘭教曆九年(公元630年)被稱為「代表團之年」。這一年，阿拉伯半島各部族的代表團相繼來到麥地那，表示拋棄自己原先尊奉的崇拜偶像的宗教，皈依穆罕默德倡導的伊斯蘭教，並在政治上接受穆罕默德的領導。從而，阿拉伯半島被一種嶄新的意識形態和政治勢力統一了。沒有多久，伊斯蘭教旋風便席捲了西亞、北非、西南歐各地，建立起阿拉伯帝國。伊斯蘭教由民族宗教進而發展成為世界宗教。
穆罕默德建立其宗教並且統一阿拉伯半島的時候，正是中國唐朝前期。中國史書把阿拉伯帝國叫做「大食」。
伊斯蘭教何時傳入中國，眾說紛紜。主要有以下幾種說法：a隋開皇(公元581—600年)中說或隋開皇七年(公元587年)說；b隋大業十二年(公元616年)說；c唐武德(公元618—626年)中說；d唐貞觀(公元627—649年)初說；e唐永徽二年(公元651年)說；f唐景雲二年(公元711年)說；g唐至德二年(公元757年)說。
一般學者認為，伊斯蘭教傳入中國在唐永徽二年(公元651年)。近年來，有的學者又倡「至德二年說」。安史之亂髮生後，至德二年唐政府曾借用大食援軍協助鎮壓叛亂。這些大食兵估計有1000餘人。事畢，除少數回國外，大部分留居中國。在中國娶妻生子，繁衍後代，蓄積永業財產，成為中國人。這是後來形成的回族的成分之一。伊斯蘭教在唐代的傳播是與大食人和信仰伊斯蘭教的波斯等中亞人在唐朝的留居同步進行的。西亞和中亞穆斯林留居中國者，除上述士兵外，還有商人、戰俘、被掠者等等。
安史之亂以前，唐朝政治穩定，經濟繁榮，國際往來的著眼點在於邦誼，並不那麼看重外貿收益。對於外國貢使(有些也許就是純粹的商人)唐政府的回賜往往與貢品之值相抵。外國商人和僑居唐朝的外國人頗受禮遇，給予諸多便利。安史之亂以後，唐朝經濟實力下降。唐政府覺得養活一大批外國居留者已不勝負擔。宰相李泌於貞元三年(公元787年)在京城長安對外國居留人員進行戶口清理，讓他們要麼回國，要麼「為唐臣」，有4000餘名不願回國的「胡客」被授予軍職或公職，其中當以穆斯林為多。德宗年間(公元780—805年)進口貨物關稅加重，致使外國商船多到南亞各國就市。從文宗朝(公元827—840年)起形勢有所變化。在這方面有兩件事值得提及，一是大和八年(公元834年)文宗發布「病癒德音」，取消對舶貨的重複徵稅，完稅後任其自由貿易；二是宣宗時(公元847—859年)允許穆斯林參加科舉考試，並規定最低限度的錄取名額。大食國穆斯林李彥升就是在這種情況下於大中二年(公元848年)考取進士的。這種開放性政策是非常明智的，促進了中外經濟文化的交流。在客觀上，對伊斯蘭教在中國的傳播也是有利的。
在長安居留的穆斯林，除商人外還有士兵和貢使。在揚州、廣州等地留居的穆斯林，主要是商人。肅宗上元元年(公元760年)，宋州(治所在今河南商丘縣南)刺史劉展作亂，平盧(治所在今遼寧義縣東南)副使田神功率兵討伐進剿揚州，大食、波斯等「商胡」死難者數千人，可見揚州的穆斯林人數之多。卒於僖宗光啟二年(公元886年)、葬於揚州江都縣弦歌坊的衛氏，其次子的名字就叫「波斯」。在廣州留居的穆斯林，據說多以萬計。據阿拉伯方面的材料說，他們由一位中國官方委任的穆斯林管理。他負責領拜、講經，依據《古蘭經》和「聖訓」處理民事案件。另據阿拉伯方面的材料說，黃巢在僖宗乾符六年(公元879年)攻佔廣州時，殺死穆斯林、猶太人、基督教徒、祆〔xian先〕教徒達12萬之多。這個數字顯然是誇大了，不足為信。然而，畢竟由此可知，居留廣州的外國人是非常多的，其中當以穆斯林為最。唐代在海南島居留的穆斯林多為被掠人口。當時海南有兩個大海盜，一個叫馮若芳，一個叫陳武振。兩人均以劫掠外國特別是波斯商船為業。因而他們成為家累萬金的巨富。他們把船上的珠寶財物攫為己有，把商人船員收為奴婢。馮若芳的「奴婢居處，南北三日行，東西五日行，村村相次」。唐貞元十七年(公元801年)春，唐與南詔為一方，吐蕃與大食為另一方，發生了一次史稱「渡瀘之役」的戰鬥。結果吐蕃與大食一方敗績。唐俘獲吐蕃、大食等降兵二萬餘人。這些戰俘，很多是穆斯林，後來就在川滇一帶安家落戶了。
五代時期，中國內地伊斯蘭教的重心已由西部長安一帶轉移到東南部的閩粵地區。在那裡，伊斯蘭教在初傳階段就受到中國傳統文化的強烈影響。而在西境，相對地說，這種影響就沒有東南那麼大。就當今中國伊斯蘭教來說，在信仰上也存在一個從西向東下降的階梯。這種現象是有其歷史淵源的。
五代時期，在閩粵地區出現了一個以穆斯林為主的新的商業階層，時人稱其為「蠻裔商賈」或「海中蠻裔」。其中當然包括久居漢地的「番商胡賈」的後代。這個階層的出現是一種不容忽視的社會現象。從「番商胡賈」到「蠻裔商賈」，這是中國穆斯林發展史上的兩個階段。
唐和五代時期，穆斯林或者求仕為官，或者從事商業，務農的不會有，工匠也不見記載。考中進士、落籍中國的大食人李彥升是早期中國穆斯林中的佼佼者。「土生波斯」李珣、李玹〔xuan玄〕、李舜弦三兄妹是五代時期的成都顯俊。李珣、李舜弦是詩人，有佳作傳世。李玹為人淡泊，以販賣香葯為業。蜀中另一個「土生波斯」石處溫仕前後蜀，歷任司馬、節度副使、刺史等職，並領檢校司空銜。這個時期的穆斯林，絕大多數從事商業。他們大多富有，比之後日回回要闊綽得多。唐朝後期著名詩人李商隱曾搜集過當時社會上流行的顛倒話，即正話反說，其中有一條是「窮波斯」。在經營方面，他們大都從事珠寶、香料、藥材這類獲利較多的買賣。這是他們的傳統。
唐天寶十年(公元751年)，中國和大食之間發生了一場大規模的戰爭。這就是著名的怛〔da答〕羅斯(今哈薩克東南部江布爾城南)戰役。這場戰役以唐軍的失敗而結束。唐朝方面有很多士兵被俘。其中有一個隨軍書記官叫杜環，是《通典》作者杜佑的侄子。他在大食居住十年之久。回國後，將其聞見寫成《經行記》一書。從中我們可以發現唐朝人對伊斯蘭教的一些看法。杜環在《經行記》中把伊斯蘭教稱為「大食法」。唐朝人更多地是從世俗角度去觀察和認識伊斯蘭教的。
宋代伊斯蘭教有了進一步的發展。宋代穆斯林大多數是「土生蕃客」，有的到中國居住已經五世了。同時，外國穆斯林仍在不斷地向中國移居。如在海南島，雍熙三年(公元986年)、雍熙四年(公元987年)、端拱元年(公元988年)分別有100人、150人和300人三批穆斯林「內附」。這些人都來自「南洋國家」。北宋時期，穆斯林多在中原地區活動。南宋以後，隨宋室南遷，很多穆斯林南下，浙閩地區穆斯林大量增加，杭州尤多。
宋代穆斯林不僅人數比唐代多，而且在某些地區，例如在廣州、泉州，形成一種勢力，開始對社會生活發生影響。他們非常富有，同當地政府來往密切。廣州的辛押陀羅「家資數萬緡」，曾要求助修廣州城，並向府學捐過資，贈過田。在熙寧年間(公元1068—1077年)，他被授予「歸德將軍」的稱號。淳熙年間(公元1174—1189年)林湜〔shi石〕任泉州知州，向當地穆斯林募錢建造戰艦，加強海防。廣州右武大夫(正六品)因羨慕穆斯林蒲亞里富有，以妹相嫁。廣州劉姓穆斯林甚至娶宗室之女為妻，並做了個左班殿直的小官。廣州女性穆斯林，有的也與非穆斯林結婚。宋代已有漢人改宗伊斯蘭教。那時政府禁止「投充番戶」，所謂「投充番戶」是指漢人投入穆斯林之家，皈依伊斯蘭教，改變自己的身份與地位，以圖逃避某些社會義務。這同「漢女嫁回男」有著不同的社會意義。
宋代穆斯林主要是從事商業活動，包括海外貿易和舶貨銷售兩個方面。他們或者自己直接從事海外貿易，或者招誘海外各國商人來華貿易。南宋末年，泉州回回佛蓮對外貿易每發海舶80艘。宋朝，特別南宋，對海外舶利依賴頗重。南宋初年，市舶收入居然佔全年總收入的2/5。中國