k prvnímu použití termínu katana k popisu meče dochází již v období Kamakura (1185-1333), ale skutečná historie řemeslného zpracování čepelí v Japonsku sahá přes dvacet století. Nejprve, japonské meče byly jednoduché variace čínských mečů, které byly rovné, dvousečné železné čepele. První originální japonské meče, které jsou považovány za předchůdce „moderní“ katany, se začaly objevovat během raného období Heian (kolem roku 700 NL).
Katanu používali hlavně samurajové, vojenská šlechta feudálního Japonska (1185-1600) až do období Edo (1603-1868). Zvýšená popularita katany mezi samuraji vznikla kvůli měnící se povaze boje zblízka. Rychlejší tah tohoto meče byl vhodný pro boj, kde vítězství záviselo na rychlé době odezvy. Katana byla nošena přes pásové křídlo (obi)s naostřenou hranou směřující nahoru. V ideálním případě by samuraj mohl nakreslit meč a řezat nepřítele jediným pohybem.
s koncem období Edo a začátkem období Meiji začalo Japonsko rychlý proces industrializace a westernizace. Pokud jde o armádu, zbraně se přesunuly z meče na střelnou zbraň. Používání katany v japonském každodenním životě skončilo téměř ve stejnou dobu s ediktem Haitrerei (zákaz mečů) z roku 1876, který jim umožňoval nosit pouze policii a vojenský personál. Mnoho šermířů bylo povinno uzavřít své podniky, což vedlo k téměř zániku katana swordsmithing až do roku 1906. V té době byli dva známí šermíři jmenováni jako císařští domácí umělci, čímž se zachovaly dovednosti šermířů, kulturní dědictví, které se předává dodnes.