Нагрудный знак «Гва́рдия» был учреждён 21 мая 1942 года Указом Президиума Верховного Совета СССР «О введении для военнослужащих гвардейских частей и соединений Красной армии и Военно-морского флота гвардейских военных званий».

Автор рисунка знака — художник С. И. Дмитриев
После появления гвардейских подразделений встал вопрос о выделении солдат и офицеров, проходящих в них службу.
Поскольку введение особой гвардейской формы на тот момент не представлялось возможным, было принято решение учредить специальный нагрудный знак.
12 апреля 1942 года разработка знака была поручена художнику Сергею Ивановичу Дмитриеву, впоследствии также принимавшему участие в разработке проекта ордена Отечественной войны. Уже 18 апреля он представил несколько проектных рисунков. Некоторые из эскизов предполагали размещение на знаке рельефного изображения В. И. Ленина.
При ознакомлении с эскизами И. В. Сталин отдал предпочтение одному из проектов с изображением Ленина, однако предложил заменить портрет вождя Октябрьской революции надписью «Гвардия». Такое решение было принято отчасти из соображений практичности: как отмечал исследователь фалеристики Б. В. Айрапетян, изображение Ленина «со временем стиралось бы и превращалось во что-то не очень понятное, а слово „Гвардия“, залитое эмалью, сохранялось бы практически без изменений»
Знак был учреждён Указом Президиума Верховного Совета СССР от 21 мая 1942 года «О введении для военнослужащих гвардейских частей и соединений Красной Армии и Военно-Морского Флота гвардейских военных званий»