1940年5月16日，时任第33集团军司令的张自忠亲率指挥部和两个团向日军发起攻击，面对兵力多达五倍的日军，双方反复冲杀，进行肉搏。张自忠先被炮弹炸伤，后又与两名日军肉搏。前胸、腹部多处受伤，后又被日军用刺刀从前胸直穿后背，壮烈殉国。牺牲时年仅49岁，张自忠不但是整个抗日战争中牺牲的军阶最高的将领，也是整个第二次世界大战中同盟国在前线牺牲的首位最高阶将领。

张自忠牺牲后，为了能够抢回将军遗体，第38师师长黄维刚亲率敢死队夜袭南瓜店，抢回了将军遗骸。

蒋介石在得知张自忠殉国经过和抢回遗体的过程后，内心悲痛不已。虽然张自忠并非自己的嫡系，但他毕竟是壮烈殉国的三星上将，而且蒋介石也懂得追悼死者，是为了奖掖生者的道理，当即表示不但要为张自忠举行隆重的国葬，还要以国民政府的名义明令褒其忠勇，从优抚恤家属。

冯玉祥作为西北军的主帅，张自忠是他的老部下，当得知这一噩耗后，与夫人李德一起更是痛哭流涕，并作诗一首进行悼念。

“画眉鸟，满山叫。像什么？哭又笑。哭何人？哭荩忱（荩忱是张自忠的字）笑什么？笑混人。荩忱精忠为国报一死，混人愚昧卑怯自沉沦。”

张自忠的阵亡震惊全国，在国民政府决定举行国葬的同时，延安也为张自忠举行了追悼大会、毛主席，周副主席、朱总司令分别向张自忠致挽“尽忠报国”、“为国捐躯”、“取义成仁”。

在张自忠的灵柩沿着长江运往重庆途中，经过宜昌时，上万群众自发的在杨岔路接灵，护送张自忠上将的灵柩前往东山草堂停放公祭。

张自忠上将的灵柩运抵重庆朝天门码头时，蒋介石、冯玉祥不但率军政官员前往码头迎接哀悼，还亲自扶灵送至北碚双柏树暂厝。

5月28日，重庆国民政府为张自忠上将举行了盛大国葬，蒋介石亲笔题写了“勋烈常照”的挽词，冯玉祥的挽联是“抗战来建最大功劳正气千秋死无遗恨，从戎后同半生患难国仇初雪恸失元良。”

随后蒋介石和冯玉祥又亲自扶灵下葬。蒋介石在这一系列追悼活动中，将自己树立成了一个爱抚部下的最高统帅形象。

张自忠上将安葬于梅花山，整个墓占地3267平米，墓高2.64米，周长21米。冯玉祥亲笔题“张上将自忠之墓”，蒋介石也题写了“英烈千秋”四字刻碑立于墓前。

张自忠上将殉国后，为了纪念他，北平、上海、天津、济南、武汉、徐州等各大城市纷纷将主要街道改名为“张自忠路”。

新中国成立后，1982年4月民政部追认张自忠将军为革命烈士。2009年张自忠将军被评为“100位为新中国成立作出突出贡献的英雄模范人物”。2014年9月， 张自忠将军名列第一批300名著名抗日英烈和英雄群体名录。