Os Quatro Heróis Cardinais são um grupo de homens comuns do Japão moderno, invocados ao reino de Melromarc para se tornarem seus salvadores. Melromarc é um país assolado pelas Ondas da Catástrofe, que repetidamente devastaram a terra e trouxeram desastres para seus cidadãos por séculos. A cada um dos quatro heróis é concedida uma arma: espada, lança, arco e escudo, para derrotar essas Ondas. Naofumi Iwatani, um otaku, é amaldiçoado com o destino de ser o "Herói do Escudo". Armado apenas com um escudo insignificante, Naofumi é menosprezado e ridicularizado por seus companheiros heróis e pelo povo do reino, devido às suas fracas capacidades ofensivas e personalidade desinteressante.

Quando os heróis recebem recursos e companheiros para treinar, Naofumi parte com a única pessoa disposta a treinar ao seu lado, Malty Melromarc. No entanto, ele logo é traído por ela e falsamente acusado de se aproveitar dela. Naofumi então passa a ser fortemente discriminado e odiado pelo povo de Melromarc por algo que não fez. Com uma tempestade furiosa de dor e desconfiança em seu coração, Naofumi começa sua jornada para se fortalecer e melhorar sua reputação. Mais adiante, no entanto, a dificuldade de estar sozinho se instala, então Naofumi compra uma escrava demi-humana à beira da morte chamada Raphtalia para acompanhá-lo em suas viagens.

À medida que as Ondas se aproximam do reino, Naofumi e Raphtalia devem lutar pela sobrevivência do reino e proteger o povo de Melromarc de seu futuro infeliz.