上世纪三十年代，纳粹德国军事实力发展的很强大，其对外侵略的野心急剧膨胀。1938年3月，纳粹德国吞并了中欧国家奥地利，该国的军队也被编入德军。奥地利境内多山，因此陆军以山地部队为主，德军在其基础上组建了自己的山地师。

德军首先组建了三个山地师，第二次世界大战爆发后，由三个师抽调人员加上新招的士兵扩充到十个师。每个师下辖步兵团、反坦克营、炮兵团、工兵营、通信营、卫勤、侦察营和师直属情报、补给、警卫、兽医和宪兵等后勤部队。其中卫勤部队除了普通医疗器材外，还携带治疗冻伤和高山疾病的器材以及药物。

二战时德军普通步兵师员额在18000人左右，而山地师主要在地形复杂的区域活动，需要部队人员精干，因此人数比普通德军师要减少不少。武器装备方面，山地师以有利于山区机动的轻型武器为主。以1940年10月组建的第5山地师为例，看德军山地师编制和装备情况。第5山地师由第1山地师抽调的第100团和第10步兵师一部分兵力组成，全师14000人。

该师下属第85、第100山地步兵团，第95摩托化侦察营、第95反坦克营、第95工兵营、第95通信营和师部直属部队。第5山地师武器精良，总共装备13000余支各种枪械。除步枪之外，其余的有2200支手枪、500支自动手枪、416挺轻机枪、80挺重机枪。炮兵部队配备75门反坦克炮、16门步兵炮、24门轻型山地炮、12门轻型山地榴弹炮、12门轻型高射炮。

山地师还装备12门重型榴弹炮，4门重型步兵炮，这些武器是在平原地区作战时使用。第5山地师在山区行军时，主要运输工具是牲口，该师配备4300匹驮载枪支弹药辎重的马匹，还有550匹马供骑乘。但遇到崎岖地形牲口无法通过时，还要靠人力运输物资。在平原地区执行任务时，山地师运输方式与山区不同，主要以汽车为主，第5师装备1400辆各式机动车。驮载的马匹在平原也改为挽曳，该师配备600辆畜力车。

第二次世界大战期间，德军山地部队虽然没有配备坦克等重武器，但从上述武器装备配备情况来看，还是比较合理的。