军衔制是世界各国军队为明确军队指挥关系、激励士气而采用的一种有效的管理制度，其最早出现于15世纪西方的军队。近代西方的军衔制度传入中国是在甲午中日战争之后，袁世凯开始在天津小站试练新军。1902年，清政府实行新政，其中最重要的一项就是编练新军，到清朝灭亡时，形成了上至大将军、下至二等兵的六等十八级的军衔制：

上等：大将军、将军、正都统、副都统、协都统；

中等：正参领、副参领、协参领；

次等：正军校、副军校、协军校；

额外军官；

军士：上士、中士、下士；

兵：正兵、一等兵、二等兵。

1912年1月中华民国南京临时政府成立后对清朝的军衔制作了一些变动，实行新的军衔等级为六等十四级：

上等官佐：大将校、中将校、少将校；

中等官佐：大领、中领、少领；

初等官佐：大尉、中尉、少尉；

额外军官；

军士：一等目兵、二等目兵；

兵：一等兵、二等兵。

不久之后南京临时政府颁布《陆军官佐士兵阶级表》，对军衔等级和称呼作了一些修改，新的等级为六等十六级：

上等官佐：大将军、左将军、右将军；

中等官佐：大都尉、左都尉、右都尉；

初等官佐：大军校、左军校、右军校；

额外军官；

军士：上士、中士、下士；

兵：上等兵、一等兵、二等兵。

袁世凯就任中华民国临时大总统后又公布了《陆军官佐士兵等级表》，北洋政府的军衔等级仍为六等十六级，但对军官称呼进行了改动：

将官：上将、中将、少将；

校官：上校、中校、少校；

尉官：上尉、中尉、少尉；

准尉官；

军士：上士、中士、下士；

兵：上等兵、一等兵、二等兵。

1927年，南京国民政府建立后仍然实行北洋政府的军衔制，由于授予军衔不统一，国民政府、总司令部、军事委员会甚至上级机关或军政长官也可以授，导致当时的最高军衔上将泛滥，降低了上将的含金量。为此南京国民政府决定实行新的军衔等级，先后于1933年和1935年制定了《陆海空军官职表》和《士兵等级表》，并于1935年实行新的军衔等级：

将官：特级上将、一级上将、二级上将、中将、少将；

校官：上校、中校、少校；

尉官：上尉、中尉、少尉；

准尉；

军士：上士、中士、下士；

兵：上等兵、一等兵、二等兵。

南京国民政府1935年的军衔制分为职务军衔和铨叙军衔，例如中将军长、中将师长、少将旅长等为职务军衔，陆军一级上将、海军中将、空军少将则为铨叙军衔。