Знак "Отличник Советской Армии" учреждён приказом министра обороны СССР Г. К. Жукова № 67, в соответствии с постановлением Совета Министров СССР 17 апреля  1957 года. 

Знак "Отличник Советской Армии" представляет из себя щит, наложенный на венок из дубовых листьев, окаймляющий обе стороны щита. Ветви венка перевиты лентой. Края щита изображены оксидированной полоской с симметрично расположенными на ней точками. 

В верхней части знака расположен диск, покрытый белой эмалью, в середине которого имеется звезда с изображением серпа и молота. Звезда покрыта красной эмалью. Серп и молот золотистого цвета. По краю диск имеет белый эмалевый ободок со следующими надписями: "Отличник Советской Армии". 

В нижней части ободка имеется маленькая звёздочка с двумя симметричными точками по бокам. Поверхность щита знака  - красная. В нижней части щитка у "Отличника СА" помещается золотистая звезда в венке из дубовых листьев. Размер знака - высота: 40 мм, ширина: 30 мм. 

Разновидности знаков:         

• с 1957 года - тяжелый металл, горячая эмаль, крепление - либо винт либо булавка с замком;        
• с 1967 года стали изготавливать только с булавочным креплением с замком;        
• с 1969 года наряду со знаками из томпака была выпущена одноразовая партия знаков из алюминия с покрытием из синтетических эмалей и винтовым креплением;        
• с 1976 года началось производство знаков из анодированного алюминия с булавочным креплением с замком;