Le récit de Sword of the Stranger se déroule dans le Japon de l'ère "Sengoku", en pleine période de guerres civiles.
Un rônin sans nom sauve un jeune orphelin, Kotarô, et son chien Tobimaru, lors d'un incendie. Pendant ce temps, une mystérieuse milice venue de Chine recherche Kotarô dans le but de l'utiliser pour accomplir un rituel occulte procurant la vie éternelle. Parmi eux se trouve Luo-Lang, un bretteur émérite assoiffé de combats aux ordres du seigneur de guerre Bai-Luan.
Kotarô engage alors le rônin sans nom comme garde du corps en échange d'une pierre précieuse qu'un moine lui a donné, et ils décident de faire route ensemble.
A partir de cet instant, leurs destins vont être inexorablement liés. Débute alors une émouvante histoire d'amitié entre deux individus ayant connu de nombreuses tragédies dans leurs vies personnelles : un samouraï sans maître et sans nom qui a juré de ne jamais retoucher à un sabre, et un jeune garçon qui a perdu ses parents.