奈良县橿原考古研究所对从奈良县明日香村庭园遗迹出土的木简进行研究后，发表称"已出土的木简长度约为8到30cm，上面记载了芥末和被视作草药的植物名称，以及管理庭园的行政机构的名称等内容"。这一发现表明园中可能种植着蔬菜和草药，意味着这里具有草药园的功能，而不仅仅是观赏之地。右记的木简上写有"委佐俾三升（芥末三升）"的字样，这是日本最早记载芥末的木简，可能是芥末的存放容器所用的标签。

"芥末"一词在日本最古老的草药词典《本草和名》中有所记载。这表明，芥末在当时被用作草药。此外，日本最古老的律令集《延喜式》中也提到了芥末，并将其记载为"山姜"，称其是从首都周边的若狭、越前、丹后、但马和因幡等国作为赋税征收而来的。《和名类聚抄》也提到了"芥末"。

据称，芥末的种植始于江户时代初期。相传，在当时算是长寿的美食家德川家康品尝到进贡的芥末后，便深深地被其风味所吸引，又见芥末叶与德川家的葵家徽相似，便下令此物专供德川家使用。庆长年间（1596-1615年），在望月六郎右卫门的率领下，于安倍川上游的有东木（现静冈市）开始种植芥末，芥末的种植历史也据说由此拉开序幕。

据称，芥末和现在一样作为寿司的调味品开始使用的是在江户时代的文化、文政年间（1804-1830年）左右。
将手握寿司搭配芥末的想法一经提出便大受欢迎，在江户地区掀起热潮，随后芥末逐渐普及到平民阶层。
那个时代并不具备现代的冷冻和冷藏设备。人们根据经验发现，使用芥末可以减轻食材的腥味并抑制细菌繁殖，从而预防食物中毒。

在冷藏技术和配送体系并不发达的大正初期，人们从制茶技术中获得灵感，将本芥末进行干燥处理并研磨成粉末，由此诞生了芥末粉。随后，以辣根为原料的芥末粉被研发出来，于1971年发展成小包装的芥末酱，最后在1973年，使用本芥末制成的青芥辣酱面世，并成为当今的主流。

芥末花和芥末碎等多种芥末产品阵容不断扩大，不仅广泛用于肉类菜肴和日式料理，还广泛用于西餐等美食中。此外，随着对本芥末的健康功效的深入研究，开发出了具备"认知功能提升作用"、"抗氧化作用"、"改善血液循环"和"美肤效果"等保健、美容效果的"保健品"和"化妆品"。