El protagonista, Kurogane Yaiba, es un niño salvaje samurái que se entrena en la selva con su padre, Kenjurou. Por un giro del destino, el decidido samurái Yaiba regresa a Japón y se encuentra con su rival, Onimaru Takeshi. Yaiba, que vive para las batallas serias, se embarca en una espectacular aventura cuando Onimaru consigue la "Legendaria Espada del Demonio".