十月社会主义革命后，苏联人民委员会于1917年12月29日颁布《关于全体军人权力平等法令》，认为军衔制是剥削阶级军队的产物，因而明令予以废除，工农红军中的指挥员只按照职务区分等级。当时的军官分为下级、中级、上级、高级四类，下级军官包括副班长、班长、副排长、司务长；中级军官为排长、副连长、连长；上级军官为营长、副团长、团长；高级军官为旅长、师长、军团长、军长。各级军官的职务用领章、袖章等职务标识符号来区分。
这样以职务区分各级指挥员的方法实行了18年之久，至1935年9月22日，苏联中央执行委员会和苏联人民委员会根据军队建设发展的需要，正式作出实行军衔制度的决议，也就是说，在共产党、无产阶级领导的社会主义国家中的军队也要实行军衔制。为什么要实行军衔制呢?其决议中指出，“军衔将清楚地表现出指挥员和首长的军事专业水平，军龄和功绩，权力和威望”，有利于加强军队建设。还认为，“军衔是正确组织全军人员服役，调配及合理使用干部的重要条件。实行军衔为固定军人的法定职位创造了必要的前提。在武装力量中，根据军衔确定军人之间的隶属关系和上下级关系，确定与军衔相应的职务，规定服现役和预备役的期限。军衔对规定军人本人及其家属的物资供应、薪金、国家保障和优待等具体权利，具有十分重要的意义”。