21 мая 1942 года Указом Президиума Верховного Совета СССР «О введении для военнослужащих гвардейских частей и соединений Красной армии и Военно-морского флота гвардейских военных званий» был утвержден нагрудный знак «Гвардия»

Знак «Гвардия» выдавался всем военнослужащим гвардейских частей.

«Днем рождения» советской гвардии является 18 сентября 1941 года, когда приказом Наркома обороны СССР И. В. Сталина 4 дивизиям, отличившимся в боях под Ельней, «за боевые подвиги, за организованность, дисциплину и примерный порядок» были присвоены почетные наименования «гвардейские».

Несмотря на то что знак «Гвардия» был учрежден как единый, Народный комиссар ВМФ Н. Г. Кузнецов приказом от 19 июня 1942 года № 142 «Об установлении гвардейского Военно-морского флага, особого нагрудного знака и особой ленты к фуражке» утвердил для военных моряков специальный гвардейский знак отличия: прямоугольную пластину, обтянутую черно-оранжевой «гвардейской» лентой.

После распада СССР для российской гвардии в 1994 году был разработан новый знак «Гвардия», не имевший с советским знаком ничего общего.

С 2009 года в вооруженных силах РФ используется нагрудный знак «Гвардия» очень похожий на советский образец, с той лишь разницей что с ленты-шильдика убрана аббревиатура «СССР».