国民革命军第74军创建于1937年，首任军长为俞济时，下辖王耀武的第51师、俞济时的第58师，后来又将第57师划归该军的建制。第74军的成名之作是武汉会战期间的万家岭大捷，也正因为如此，军长俞济时升为第十集团军副总司令，原第51师师长王耀武升任该军的第二任军长。

在抗日战争中，第74军多次参加大型的会战，战斗力非常强悍，被日军称为“虎部队”。抗战胜利后，第74军调到南京驻防，成为了蒋介石的御林军，从陆军大学毕业的张灵甫被任命为该军的第四任军长兼南京警备司令，此时的74军有5万多人。

从1946年3月起，国民党分期将黄河以南的正规军进行整编，将原来的军整编为师、师整编为旅。第74军就被整编为整编第74师，原来的第74军军长张灵甫，整编成第74师后，张灵甫成为师长，原来下辖的第51、57、58三个师改为第51、57、58三个旅，人数从原来的5万多人减少为3万多人，战斗力并为减弱。

孟良崮战役时，整编第74师被华东野战军全歼。战后，蒋介石将未参加孟良崮战役的整编第74师的三个新兵教导团和一个榴弹炮营为骨干重建整编第74师，师长为第74军的老人、毕业于黄埔四期的邱维达。1948年夏，整编第74师恢复了第74军的番号，下辖第51、57、58三个师。淮海战役时，该军隶属于邱清泉的第二兵团，再次被解放军歼灭。战后，蒋介石再次重建第74军，军长为劳冠英，福州战役时，该军再一次被解放军全歼。

第74军和整编第74师只是不同时期不同的叫法而已，蒋介石为了发动内战，只是换汤不换药，其实质并没有变。