在日本有句諺語叫做：刀是武士之魂。日本封建時代武士佩帶的雙刀及過去日本軍官腰間懸掛的長長的指揮刀，即是“日本刀”。
傳統意義上的日本刀有著大小不同的規格，但其外觀則是一致的：刀鞘上均包有棕色的皮套子，它須由鑄刀名匠打造，鍛制也煞是嚴肅，視為“聖所”的鍛冶廠專門設有神座供祭拜，開爐鑄造之時則要穿上淨服以示尊崇。打造刀所用的鋼鐵被稱之為“玉鋼”，需用櫟炭冶煉，因工藝複雜產量極低。
刀的原料分兩種，剛性的包在外面，韌性的則在裡面，而後經過千錘百煉拉長成長條形。這時內外軟硬必須非常均勻，表面不可留有任何縫痕，這還僅僅是刀坯。刀坯打好後，再用特殊配製的泥均勻地塗在刀身上，在刃口部位劃上條紋。爾後進行加溫淬火，溫度需控制均勻，同時淬火之時也要經過選擇。淬畢以後，塗在刀身上的泥也就自行脫落了。
這時，劃條紋的刃口部位經精細的砥磨後便現出雲霞狀的組織來（雲霞狀組織，日本人稱之為“勾”，在顯微鏡下觀察，呈蜂窩狀，故在格鬥時斬入對方體內不會出現“滯澀”情況，同時這也是鑑定刀之好壞的重要特徵之一），之後便是鑿洞、刻銘。在日本，不僅歷代名刀匠有專書立傳“寶刀”也象中國的名劍一樣有專門的名稱，如“正宗”、“菊一文字”等，刻銘於刀柄之上。在刀全部打造完工之後，便是“試刀”。一般是用小碗口般粗的竹子，外面再包上稻草，徑約尺許，以試其鋒利程度，也有斬甲冑及斬死囚的，甚至不乏有人在黑夜裡躲在僻靜處，偷斬過路行人。
在中日關係史上，日本刀曾是日本貿易輸出的重要商品，宋朝就已有輸入，並被以寶刀視之，歐陽修、蘇軾等詩人均有詩讚述。歐陽修《日本刀歌》道:“寶刀近出日本國，越賈得之滄海東。魚皮裝貼香木鞘，黃白閒雜鍮與銅。百金傳入好事手，佩服可以禳妖兇。”明代日本刀的輸入大量增加，在寬正五年（1465年）輸出的數量達三萬多把。據統計，通過特許的貿易船隻，前後十一次輸出的日本刀多達二十萬把。明朝倭寇侵入東南沿海城市時，當地的縣誌對日本刀的特點則多有記載。（由此日本刀又被稱為“倭刀”）
在封建時代的日本，日本刀是武士道靈魂的象徵。武士佩戴上雙刀乃是至高無上的榮譽，沒收雙刀則是最嚴厲的懲罰。室町幕府時代，上杉謙信統治越後時，便制訂了以沒收武士雙刀，終身不許佩帶作為對武士最嚴厲懲處的刑罰。一次，大將長尾右衛門佐有罪，上杉謙信大怒，禁止其佩帶雙刀，後長尾右衛門佐的親族向謙信苦苦哀訴，才得以準其恢復佩刀而改為剖腹自殺。由此可見，對武士來說，取消佩刀權比死罪更加可怕。
日本刀在日本的歷史上曾逞威於一時，但不乏剖腹自殺的“悲劇”出現，最大的一次剖腹自殺則可能要數二戰中的一次集體剖腹了。在第二次世界大戰行將結束，日本投降的詔書發佈後，大量狂熱的軍國主義者無法接受戰敗的結局，絕望之下用日本刀剖腹自殺，對這些軍國主義好戰分子來說，這其實算是罪有應得！
