在1400多年前，中国的用香文化伴随着佛教宗教仪式中用香，包括大量香木、僧侣、佛典、香炉等传到了日本。沉香首次出现在日本是在公元595年――《日本书纪》中记载了沉香飘到了淡路岛，这是日本香文化的开端。
一块飘来的木头被岛上的人当做普通烧火的木头捡拾，点燃后才发现这块木头能散发出沁人心脾的香气，于是把它慌慌张张的扑灭，并献给了朝廷。当时在推古天皇身边的圣德太子回答道“这就是沉香啊”。
距今1200年前，日本的中心从奈良平城京签到了京都平安京，权力的中心依然在天皇和贵族中，他们将香引入了生活之中，逐渐变成了贵族的香文化。
距今500年前，日本香文化的发展迎来一个转折点。开始掌权的武士阶层在战乱中感受着生命无常，不再像高雅的贵族那样鉴赏由多种香料调制的合香，而是从一整块香中磨炼内心，“香道”从而产生了。香道诞生于室町时代，最初是讲究排场的大名武将穷尽奢华的一种艺道，本质是鉴赏以沉香为主的香木的香气的艺道，而香木仅在东南亚出产。香道注重禅的精神，在礼仪、举止方面有诸多的规定和约束，对文学和书道方面的修养也要求较高，但原点还是在于享受（沉香）香木散发的香气。
香道在日本是一种精神性的艺术，因而在香道中“闻香”也十分讲究，闻香时要摒除杂念，将内心寄托在若有似无的香气之中。日语中“闻”是倾听的意思，“倾听”沉香这些稀有的香木，即是感受自然、感恩自然，珍视它们，并对自然怀有敬畏之情。（《黄庭坚与《香十德》？》）