Ein Jahr nach Yakuza 3 beginnt die Story von Yakuza 4 und führt damit den Spieler wieder zurück nach Tokyo. Die Handlung beginnt mit dem Mord an einem Mann im Herrschaftsgebiet des Tojo-Clans, einer Organisation, die bisher in allen Spielen dieser Serie mitgewirkt hat. Eine kleine Gang, die dem Tojo-Clan angehört, versucht herauszufinden, was passiert ist jedoch ihr Anführer wird schon bald erstochen aufgefunden...