Yaiba è un giovanissimo ragazzo che vive nel cuore della foresta assieme al padre Kenjuro, passando le giornate ad allenarsi per diventare un formidabile samurai. Nonostante il suo forte legame con la natura e le vecchie tradizioni, però, la storia è in realtà ambientata nel XX secolo! Infatti, in seguito ad una serie di eventi, Yaiba sarà costretto a trasferirsi in città dove dovrà adattarsi a questo nuovo e complesso stile di vita. Il destino gli permetterà di incontrare Onimaru, un altro abile spadaccino con il quale incrocerà la sua spada, risvegliando rispettivamente il Dio del Tuono e il Dio del Vento, le due antiche e potenti entità che risiedono in loro.