Naofumi Iwatani, um adolescente japonês, foi invocado por magos de um reino de um mundo paralelo junto com outros três rapazes para se tornarem heróis do mundo. Cada um dos heróis foram equipados com seu próprio equipamento lendário quando invocados. Enquanto os outros heróis receberam armas ofensivas, Naofumi recebeu o escudo lendário, a única arma defensiva. Naofumi também é incapaz de manejar qualquer arma ofensiva, como espadas e lanças.
Ao contrário dos outros heróis que são totalmente apoiados pelo reino e que ganham vários aliados fortes cada um, a situação de Naofumi piora depois que a sua única companheira, Malty, o trai e o deixa destituído de toda assistência e suprimentos após acusá-lo falsamente de ter a violentado sexualmente. Mais a frente no enredo, é revelado que Malty é uma princesa, e filha do rei que governa o reino para o qual Naofumi foi invocado.
Desprezado por todos, desde o rei até os camponeses, Naofumi é forçado a treinar sozinho como um herói enquanto trabalha para sobreviver, até que ele compra de um comerciante de escravos uma jovem garota com características humanas e de um guaxinim chamada Raphtalia. A partir daí, Naofumi passa a treinar e cuidar de Raphtalia, para que ela seja capaz de manejar armas, servindo-o como sua espada em batalhas.
