Ранняя японская медицина была открыта к восприятию опыта народного врачевания и больше походила на магию, чем на медицину в современном понимании этого слова. Как видно из древнеяпонских источников, основная причина большинства заболеваний виделась в действиях «злых духов» или других демонических сил, а сам процесс лечения сводился, в первую очередь, к проведению различных магических обрядов, направленных на изгнание таких «злых духов». Однако помимо магических способов излечения, ранние японские источники содержат сведения и о лекарственных препаратах, которые использовались для лечения недугов. Согласно подсчетам японских исследователей, только в первом свитке «Кодзики» упоминаются более 40 видов растений, минералов и животных, используемых в медицине в качестве лекарственных средств. Так, паутина применялась как эффективное кровоостанавливающее средство; листья хрена «васаби» были известны своими антисептическими свойствами; пережженные моллюски и пепел от раковин «хамагури» использовались при ожогах; пыльца некоторых растений — от гнойных ран; сок определенных трав — от ран и ссадин; купание в горячих источниках — от лихорадки и т.д.
Трудно сказать, когда в Японии впервые становятся известны представления китайской традиционной медицины, но согласно «Нихон сёки» и некоторым хэйанским сочинениям, в V веке в Японию прибывают медики как из китайского государства Восточная Цзинь (317-420), так и из корейских Силла и Когурё. В VI веке в Японию приезжают лекари уже из нескольких китайских государств, а также из Пэкче, Когурё и Силла, а по версии хэйанских источников в 594 году при буддийском храме Ситэннодзи создается что-то вроде лечебницы для простого народа. Видимо, в этот же период в Японию были привезены и первые китайские сочинения по медицине. В генеалогическом своде «Синсэн сёдзироку» («Вновь составленные списки родов», 815 г.) сказано, что во время правления государя Киммэй (539-571) в Японию из китайского государства Ляо (502-557) прибыл врач, который привез с собой книги по «внутреннему» и «внешнему» медицинскому канону (кит. «нэй вай дянь яо шу»), в том числе и трактат «Мин тан ту» («Схемы мест прижигания»).
Становление древнеяпонской медицины в период Асука (593-710) связывается не только с дальнейшим развитием идей китайской медицины, но и с проникновением в Японию методов «буддийской медицины». По всей видимости, с этого времени японская медицина начинает включать в себя три основных компонента. Во-первых, это методы народного врачевания, восходящие к глубокой древности и включающие как «магические» способы изгнания болезней, так и использование растительных, минеральных и животных лекарств. Во-вторых, врачебные методики китайской традиционной медицины, которые становятся известны в Японии благодаря прямым (из Китая) или опосредованным (через корейские государства) заимствованиям. В-третьих, методы «буддийской медицины», которые, хотя и включали достижения китайской врачебной науки, но обладали и своими терапевтическими методами. Согласно буддийским представлениям, «страдания от болезней» («бёку») причислялись как к четырем «первоначальным» страданиям («сику»), так и к «восьми страданиям [бытия]» («хакку»), а потому излечению хворей буддизм уделял немалое значение.
В период Нара (710-794) происходит усиление китайского компонента врачебной науки в Японии. Студенты-медики должны были подробно изучать китайские медицинские каноны. Еще в период Асука была создана придворная медицинская служба, а при дворе стали проводиться специальные ритуалы (подавляющая часть из них была заимствована из китайской ритуальной практики), направленные на излечение болезней. Так, в 706 г. в Японии «свирепствовали различные хвори», а потому были изготовлены фигурки быков-догю (в Китае верили, что такие фигурки, применявшиеся в ритуалах встречи весны, обладали чудодейственной силой «энергии Инь», способствовавшей лечению недугов). В том же 706 г. для лечения больных был проведен китайский обряд изгнания демонов болезней (яп. «они яраи» или «цуина»). Как видно из более поздних источников — «Дайри сики» («Дворцовые церемонии», 821 г.) и «Энгисики» («Церемонии годов Энги», 927 г.), обряд «они яраи» проводился на территории дворцового комплекса в последний день 12-го лунного месяца (т.е. накануне наступления Нового года) и был направлен на изгнание духов болезней со всей территории Японии. Считалось, что вся скверна переходила на плоские деревянные фигурки, специально изготовлявшиеся для этого ритуала (с середины периода Хэйан в установленных синтоистских и буддийских храмах такой ритуал стал проводиться в последний день 6-го месяца).
В начале периода Хэйан начинают составляться первые японские медицинские сочинения. Согласно хронике «Нихон коки» («Поздние Аналы Японии , 840 г.), в 799 г. при государе Камму (781-806) ученый Вакэ Хироё составил «Яккэй тайсо» («Великая основа лекарственного канона»). При государе Хэйдзэй (806-809) в 808 г. под руководством двух японских врачей — Идзумо Хиросада и Абэ Манао — был составлен еще один медицинский трактат — «Дайдо руйдзю хо» («Классификация методов [лечения] периода Дайдо», 100 свитков). В 868 г. группа ученых-медиков во главе с Сугавара Минэцугу (сын Идзумо Хиросада), Мононобэ Косэн и Тагима Камоцугу преподнесли государю Сэйва (858-876) трактат по врачебному искусству под названием «Кин ран хо» («Методы золотой орхидеи») из 50 свитков. Во время правления Дайго (897-930) в 918 г. придворный лекарь Фунэ Сукэхито составил справочник для врачей «Сётю ёхо» («Важнейшие методы прикладной [медицины]»), а несколько лет спустя еще два медицинских сочинения — «Едзё сё» («Заметки о сохранении здоровья») в семи свитках и «Хондзо вамё» («Японский словник «корней и трав»») в двух свитках. В 984 г. был завершен колоссальный медицинский труд «И син хо» («Истинный метод лечения»).
По мнению современных исследователей, в хэйанский период медицина в Японии достигла достаточно высокого уровня развития. К этому времени японская медицина превратилась в настоящую науку, включавшую в себя теоретические исследования человеческого организма и болезней; терапию, важнейшими частями которой являлись акупунктура и прижигание; макробиотику (включала различные, в том числе и сексуальные, практики «продления жизни»); фармакогнозию; сексуальную гигиену и ветеринарию.