日本在改元昭和时，陆军拥有17个师团，兵力约21万人。在第一次世界大战之后的裁军潮流中，共有4个师团、约3万人被裁减。师团是能够独立执行作战任务的部队单位，在作为主力的步兵部队之外，还设有炮兵、骑兵、工兵、辎重兵以及医疗兵之类的部队。其中的工兵部队，主要负责战场上的铺路架桥、构筑阵地等土木工程。

一部分师团会在一定时间内驻扎到殖民地或是中国的一些地区，在期满后由其他师团接替。这些师团包括负责关东州租借地与南满洲铁道附属地警备的关东军，以及根据《辛丑条约》驻扎在北京附近的中国驻屯军（当时名为支 那驻屯军）。

师团的步兵部队通常由4个步兵联队组成，师团整体的人数在和平时期是1.2万人，战时则会扩充到2万人左右。师团长作为师团的指挥官，一般由陆军中将担任。师团长就任时，会直接从天皇手中接受任命状，这显示了师团长与国务大臣相当的高级地位。师团基本是从所在地附近征兵，如第一师团士兵多为关东人，而第二师团则多为东北地区南部的宫城、福岛等县出生的人。

在改元昭和时，共有51个步兵联队。这些联队分布在全国各地的驻屯地，从驻屯地附近征召来的士兵会在驻屯地接受训练。一个联队在和平时期有约2000人，联队长一般由大佐担任，联队长以下的各级军官每隔几年就会调职更迭。

海军部队由相当于基地的镇守府与舰队构成。在改元昭和时，海军共有5支舰队，以及横须贺、吴、佐世保3个镇守府，此外在舞鹤还有一个被称作“要港部”的规模较小的基地。联合舰队是在演习与实战时，由数支舰队合编而成的。当时飞机已经成为重要的兵器，陆、海军都拥有各自的航空部队。

另外，陆、海军也拥有制造武器、弹药以及军服的工厂，不过在这些工厂工作的工人并非军人。当然，也有一部分军舰、军用飞机和汽车是委托民营企业制造的。

作为军队的中央机关，陆军省和海军省主要负责军队的运营管理，而参谋本部（陆军）和海军军令部则负责制订军备和作战计划。其最高长官分别为陆军大臣、海军大臣、参谋总长以及军令部部长，这些职位由中将、大将担任，并由天皇直接任命。

陆军大臣与海军大臣又称军部大臣，都是内阁成员。根据改元昭和时的军队内部规定，可以由非现役的中将或大将担任。但是实际上，担任过这些职位的军官仍然全部是现役军人。在原则上，当国务大臣寻求天皇下达某些决定时，首相应当在场，但是军部大臣就不需要遵守这一原则，因为这属于独立的“帷幄上奏权”。

基于日俄战争后确立的统帅权这一观念，参谋本部和海军军令部是直属于天皇的机构。两者的一个不同之处在于，根据军队内部规定，参谋总长直属天皇，与陆军大臣平起平坐，而海军军令部部长则属于天皇与海军大臣的部下。因此，陆军大臣若想要向天皇提出撤换参谋总长，还需要参谋总长的同意。而海军大臣则可以根据自身的意见，申请撤换海军军令部部长。但在“九一八”事变之后，海军军令部部长改称为军令部总长，其地位也变得和陆军的参谋总长一样了。另外，在战时还可能成立所谓“大本营”，作为陆、海军的统一司令部。