日军的第四师团编组地在大阪，因其士兵主要由大阪的菜贩子和游商组成，因此，又被称为“大阪师团”或“商贩师团”，其代号为“淀”。该师团的代号与日军的第二师团的代号“勇”和第九师团的代号“武”显得格格不入。日军第四师团下辖第8、37、61、70四个联队。

日本的历史学家关幸辅在《日军第一窝囊废师团》一文中，将该师团“窝囊废”的名声传了出去。如徐州会战时，李宗仁指挥四十万中国军队跳出了日军的包围圈，由于人困马乏，加之重装备丢失较多，战斗力大大降低。此时，出现了一支装备精良的日军部队，这支日军部队就是日军第四师团。日军第四师团没有追击撤退的中国军队，反而在公路两边生活做起了饭，最终中国军队硬着头皮从守在公路旁的日军第四师团穿插而过。再如，长沙会战时“有第四师团参战，本来能打赢的仗，也会打输”的消息传到了中国军队的耳朵里，中国军队士气大增，往往抢着和日军第四师团作战……

很不好意思，以上的网文都是以讹传讹，日军的第四师团根本不是窝囊废师团。

日军第四师团建立于1888年，是日本明治维新时最早建立的几个师团之一，也是二战爆发前日军的17个常设师团之一，是日本陆军的甲种师团。先后参加过甲午中日战争、日俄战争。在日俄战争中，日军第四师团仅仅依靠一次夜袭就轻松夺取了金州城。之后该师团一直在伪满洲国维持治安。因此，徐州会战时，日军第四师团根本不可能出现，就更谈不上放跑中国军队了。

1940年，第四师团被调到华中，先后参加了汉水作战、豫南会战、江北作战。次年加入了日军第十一军的战斗序列，在第二次长沙会战中，第四师团配合日军另外三个师团进攻号称“泰山军”的第十军，第十军吃了败仗，军长李玉堂被撤职。此外，第四师团率先攻进长沙城。由于日军后勤补给不足，加之中国军队援军赶到，第四师团迅速撤退才未被中国军队咬住，结束了第二次长沙会战。

太平洋战争爆发之后，第四师团被派往了菲律宾。美军认为巴丹要塞比较坚固，日军3年之内打不下来。日军久攻不下，且伤亡较大。日军换上了第四师团，然而第四师团2个星期就攻占了巴丹要塞，8万美菲军向日军投降。巴丹要塞攻占之后，第四师团没有乘胜攻击科雷吉多尔要塞，而是在巴丹原地修整。同时，加强对科雷吉多尔要塞的情报搜集。待后勤保障充足和士气高昂之后，用最小的代价攻占了科雷吉多尔要塞这块硬骨头。

巴丹要塞和科雷吉多尔要塞都是日军第四师团真枪实弹打下来的，可见其战斗力之强悍。与日军第二、第六这些狂热的师团相比，第四师团由于其士兵是商人的缘故，因此更加重视战略战术，正面攻取不成，就迂回包抄，以最小的代价换取最大的胜利。

“马来之虎”山下奉文曾经担任过第四师团的师团长，现在日军仍然保留了该师团的番号。如果第四师团在战争中的表现如此窝囊不堪的话，它的番号早就不复存在了。