在日本有句谚语叫做：刀是武士之魂。日本封建时代武士佩带的双刀及过去日本军官腰间悬挂的长长的指挥刀，即是“日本刀”。
传统意义上的日本刀有着大小不同的规格，但其外观则是一致的：刀鞘上均包有棕色的皮套子，它须由铸刀名匠打造，锻制也煞是严肃，视为“圣所”的锻冶厂专门设有神座供祭拜，开炉铸造之时则要穿上净服以示尊崇。打造刀所用的钢铁被称之为“玉钢”，需用栎炭冶炼，因工艺复杂产量极低。
刀的原料分两种，刚性的包在外面，韧性的则在里面，而后经过千锤百炼拉长成长条形。这时内外软硬必须非常均匀，表面不可留有任何缝痕，这还仅仅是刀坯。刀坯打好后，再用特殊配制的泥均匀地涂在刀身上，在刃口部位划上条纹。尔后进行加温淬火，温度需控制均匀，同时淬火之时也要经过选择。淬毕以后，涂在刀身上的泥也就自行脱落了。
这时，划条纹的刃口部位经精细的砥磨后便现出云霞状的组织来（云霞状组织，日本人称之为“勾”，在显微镜下观察，呈蜂窝状，故在格斗时斩入对方体内不会出现“滞涩”情况，同时这也是鉴定刀之好坏的重要特征之一），之后便是凿洞、刻铭。在日本，不仅历代名刀匠有专书立传“宝刀”也象中国的名剑一样有专门的名称，如“正宗”、“菊一文字”等，刻铭于刀柄之上。在刀全部打造完工之后，便是“试刀”。一般是用小碗口般粗的竹子，外面再包上稻草，径约尺许，以试其锋利程度，也有斩甲胄及斩死囚的，甚至不乏有人在黑夜里躲在僻静处，偷斩过路行人。
在中日关系史上，日本刀曾是日本贸易输出的重要商品，宋朝就已有输入，并被以宝刀视之，欧阳修、苏轼等诗人均有诗赞述。欧阳修《日本刀歌》道:“宝刀近出日本国，越贾得之沧海东。鱼皮装贴香木鞘，黄白闲杂鍮与铜。百金传入好事手，佩服可以禳妖凶。”明代日本刀的输入大量增加，在宽正五年（1465年）输出的数量达三万多把。据统计，通过特许的贸易船只，前后十一次输出的日本刀多达二十万把。明朝倭寇侵入东南沿海城市时，当地的县志对日本刀的特点则多有记载。（由此日本刀又被称为“倭刀”）
在封建时代的日本，日本刀是武士道灵魂的象征。武士佩戴上双刀乃是至高无上的荣誉，没收双刀则是最严厉的惩罚。室町幕府时代，上杉谦信统治越后时，便制订了以没收武士双刀，终身不许佩带作为对武士最严厉惩处的刑罚。一次，大将长尾右卫门佐有罪，上杉谦信大怒，禁止其佩带双刀，后长尾右卫门佐的亲族向谦信苦苦哀诉，才得以准其恢复佩刀而改为剖腹自杀。由此可见，对武士来说，取消佩刀权比死罪更加可怕。
日本刀在日本的历史上曾逞威于一时，但不乏剖腹自杀的“悲剧”出现，最大的一次剖腹自杀则可能要数二战中的一次集体剖腹了。在第二次世界大战行将结束，日本投降的诏书发布后，大量狂热的军国主义者无法接受战败的结局，绝望之下用日本刀剖腹自杀，对这些军国主义好战分子来说，这其实算是罪有应得！
