Kampo significa «método de los Han» y alude a su origen chino. La medicina china llegó a Japón a partir de los siglos V y VI, a través de Corea y directamente desde China, junto con el budismo y la escritura china.
La obra médica japonesa más antigua que se conserva es el Ishinpō, compilado en 984 por el médico de la corte Tanba no Yasuyori. En el periodo Edo (1603–1868) los médicos japoneses desarrollaron una forma práctica propia. La escuela de las «fórmulas antiguas», con médicos como Yoshimasu Tōdō, volvió al Shanghan Lun y puso el acento en lo que el propio médico observa.
En 1874 el gobierno Meiji dispuso que los nuevos médicos debían estudiar medicina occidental. El kampo quedó así relegado. Un pequeño grupo de médicos mantuvo vivo el saber, y en el siglo XX siguió un resurgimiento.