中醫藥向日本傳播最早的「使者」應當是方士徐福。據傳公元前219年，秦始皇派徐福率領童男、童女數千人，過海尋不死之葯，而東渡扶桑(今認為就是日本)，但一去而不返。
南北朝時《明堂圖》等醫書傳入日本，針灸術在日本逐漸為人傳習。
日本向我國派遣留學生始於隋朝。隋煬帝大業年間，日本推古朝曾派小野妹子出使中國，隨行的藥師惠日等留下學習中醫。惠日在我國學習了15年才回國，其後又兩度赴唐，並將《諸病源候論》等醫書帶回日本。唐代日本政府多次派遣大批醫師、僧侶隨使者來中國深造，並廣泛搜羅各種醫學書籍帶回。公元701年，日本頒布「大寶令」，其中的醫事制度、醫官、醫學教育設置均仿照唐制，並規定教授醫學以《素問》、《黃帝針經》、《明堂脈訣》、《新修本草》、《傷寒論》、《千金要方》等中醫典籍為教材。公元8世紀，日本來中國聘請高僧傳戒，揚州大明寺高僧鑒真大師接受邀請。鑒真歷時10多年，多次東渡，幾經滄桑，雙目失明仍不動搖，終於第六次渡海獲得成功。隨船帶去藥材千餘斤，有些至今還珍藏在奈良東大寺正倉院。鑒真在日本除弘揚佛教外，為傳授中醫藥知識做了大量工作，他把自己鑒別藥材，治療疾病的經驗，毫無保留地傳授給日本醫僧，並撰寫了《鑒上人秘方》一書，惜已失傳，僅在《醫心方》中收載數首經驗方。日本醫家尊他為「醫祖」，直至德川時期，日本葯袋上還印有鑒真圖像，說明鑒真在中日醫學交流過程中起到了重要作用。
公元808年，日本平成天皇詔令安培真直、出雲廣真等徵集全國驗方，並參考《素問》、《黃帝針經》、《小品方》、《新修本草》等中醫經典醫籍，編纂了《大同類聚方》100卷。以後類似醫著不斷出現，其中最有影響的是丹波康賴的《醫心方》。這部著作收載了隋唐以前百餘種醫籍的部分內容，對我們研究現已佚失的或殘缺的古代醫籍極有價值。明代時，日本田代三喜來中國學習醫學，專門研究李杲、朱震亨的醫學論著達12年，成為日本研究李、朱學術思想的創始人。明末，《本草綱目》傳入日本。
在中日兩國醫學界均很有影響的醫學世家丹波氏，原是我國漢宗室劉氏後裔。丹波家族定居日本900多年，繁衍數十代，對日本的「漢方醫學」做出了卓越的貢獻，也維繫了長期的中日醫學交流。江戶時代(公元1600—1876年)，丹波氏35至37代傳人元德、元簡、元胤、元堅等以畢生精力從事漢醫方考據工作，是日本很有影響的考據學派代表。他們的著述諸如《素問識》、《靈樞識》、《傷寒論輯義》、《金匱述義》、《醫籍考》等達數十種之多，在我國醫界也因其有重要的學術價值而受到重視。
清光緒、宣統年間，我國三次派人去日本考察，帶回不少中醫古籍和漢方醫籍，這對活躍我國中醫學術活動是有很大意義的，另一方面也對日本漢方醫的發展有所了解。
日本在明治維新以後，研究西洋醫學的學者大增，西方醫學成為日本醫學研究的主流，研究中醫的相對減少了。