het eerste gebruik van de term katana om een zwaard te beschrijven komt al voor in de Kamakura-periode (1185-1333), maar de werkelijke geschiedenis van het vakmanschap van messen in Japan gaat meer dan twintig eeuwen terug. In het begin waren Japanse zwaarden eenvoudige variaties van de Chinese zwaarden die rechte, tweesnijdende ijzeren bladen waren. De eerste originele Japanse zwaarden die worden beschouwd als de voorloper van de ‘moderne’ katana begonnen te verschijnen tijdens de vroege Heian periode (rond 700 N.Chr.).
Katana werden voornamelijk gebruikt door de samoerai, de militaire adel van feodaal Japan (1185-1600) tot aan de Edoperiode (1603-1868). De toegenomen populariteit van de katana onder samoerai kwam door de veranderende aard van close-combat oorlogsvoering. Het sneller trekken van dit zwaard was zeer geschikt om te vechten waar de overwinning sterk afhankelijk was van snelle responstijden. De katana werd door een riem-achtige sjerp (obi) met de geslepen rand naar boven gedragen. Idealiter kon samurai het zwaard trekken en de vijand in één beweging snijden.Met het einde van de Edo-periode en het begin van de Meiji-periode begon Japan een snel proces van industrialisatie en westernisatie. Wat betreft het leger, de wapens verschoven van zwaard naar vuurwapen. Het gebruik van de katana in het Japanse dagelijks leven kwam tot een einde op bijna hetzelfde moment met de Haitōrei (zwaardverbod) Edict van 1876, die alleen politie en militair personeel toegestaan om ze te dragen. Veel van de zwaardsmeden werden verplicht om hun bedrijven te sluiten, wat leidde tot het bijna uitsterven van katana sworesdsmithing tot 1906. In die tijd werden twee bekende zwaardsmeden benoemd tot keizerlijke huishoudelijke kunstenaars, waardoor de vaardigheden van de zwaardsmeden behouden bleven, een culturele erfenis die tot op de dag van vandaag is doorgegeven.