1944 年初，为扭转太平洋战争的不利态势，日寇调集 50 余万兵力，海陆空军配合，实施一号作战计划，开始了侵华以来在中国战场最大规模的一次进攻，史称湘桂战役。此次进攻主要集中在河南、湖南和广西。

5 月底，日寇对长沙开始铁壁合围并发起总攻击。国民党守军虽凭借城防攻势打退敌人一次次进攻，但最终力分示弱，长沙沦陷。6 月 19 日，日军占领长沙后得意忘形，满以为可以长驱直入，却在湖南一座人口仅有 20 余万的小城市衡阳，遭到了猛烈阻击。

6 月 22 日，日军飞机首度飞临衡阳上空，狂轰滥炸之下，衡阳市内大火四起。采取迂回包围战术的日军 68 师团和 116 师团 3 万多人对衡阳发起进攻，衡阳保卫战由此拉开序幕。驻守衡阳的是国民革命军第 10 军军长方先觉，麾下 17600 余人。

战前，衡阳人民抗敌后援会发动民众破坏道路、毁掉桥梁、切断日军进攻路线。日军派飞机侦查后得知，株洲至衡阳支铁路和宝庆至衡阳支公路被西北衡阳居民破坏，运输设备一无所有。这些任务全是群众自愿参加、义务完成。

同时，抗敌后援会和市政府工会还组织 3000 名工人，征用市区 120 家木材厂商的 120 余万根木料，配合国民党第十军构筑坚固防御工事。城内各街道挖掘战壕、散兵坑，修筑暗堡、机枪掩体、铁丝网等，构成坚固的防卫体系，对打击日军起了很大作用。

衡阳保卫战是在敌军左、中、右三路包抄的情况下展开的。敌军中路由湘潭经衡山攻衡阳正面；右路出湘乡区永丰攻衡阳西南面；左翼由醴陵出攸县、茶陵，南返安仁、耒阳，包抄衡阳东南面，企图切断第四战区国民党军由韶关至衡阳的通道。

6 月 24 日，敌第 68 师团在东洋渡以西强渡湘江，从南面围攻衡阳。26 日拂晓，衡阳机场为敌占领。28 日，日军完成对衡阳的四面包围并发起第一次总攻击。守军凭借坚固攻势和优势炮火奋力还击，毙敌 68 师团中江以下官兵 2000 余人。

经过短暂休整和补充后，日军于 7 月 11 日晨发起第二次总攻击，向衡阳倾泻大量炸弹、燃烧弹和各种毒气弹。守军在群众积极配合下奋起反击，双方在莲湖台激烈厮杀，日军黑灰联队死伤过半也无法接近守军核心阵地。7 月 30 日，经过调兵遣将、调整部署的日军发动第三次总攻，以飞机大炮向核心阵地和市区狂轰滥炸，4 个半师团的日军从南北西三面猛攻核心阵地，战斗异常激烈。

8 月 7 日，敌机和炮兵继续对守军核心阵地进行轰炸、扫射和释放毒气，步兵趁机进攻。守军靠空投粮草弹药，十分困难，炮兵无炮弹御敌，改成步兵。守军经 46 个昼夜酷暑激战，未得休整，食物匮乏，营养不良，疫病流行，医药奇缺，非战斗减员严重，已无堵截缺口的兵力。日军探知守军薄弱部位后，集中火力猛攻。

守军的文书、军医、看护以及滞留的百姓都拿起武器，同敌展开激烈巷战。第三师九团团长鞠震寰壮烈牺牲，虎形巢、接龙山、小西门、武桂林、回雁峰、岳屏山守军亦血染战地，情况万分危急。第 10 军军长方先觉等向重庆国民党最高当局发出最后一份电报，称官兵伤亡殆尽，在无兵可援、饥饿之际，只能以死报国。蒋介石回电祝上帝保佑他们。8 月 8 日拂晓，衡阳在外无援兵、内无弹药的情况下落入敌手。

衡阳保卫战中，日军除用飞机大炮猛烈轰击衡阳之外，还公然违反国际公法，使用催泪性和糜烂毒气袭击守军，强度垒合之后又多次使用毒气弹，使守城官兵中毒者甚多。日军在攻势屡遭挫折后，又施火攻，利用飞机投掷大量燃烧弹，全城一片火海，守军囤积之粮弹被焚毁，无数受伤军民被烧死，有着红十字旗帜的野战医院也未能幸免。

衡阳保卫战从 1944 年 6 月 23 日开始，到 8 月 8 日结束，历时 47 天。共打死日军约 2 万人，伤近 6 万人，打破了日本大本营原计划 7 天之内打通湘桂线、直抵滇缅的黄粱美梦。我方守军牺牲 16000 余人，最后仅存 1200 余人。衡阳人民为抢挖工事、运送弹药牺牲了 3174 人。千年古城被夷为平地，抗日将士和衡阳人民付出了惨痛代价。

衡阳保卫战尽管最后将降城亡，但以全局而论，给日寇以沉重打击，打出了国威，打出了民族誓死不当亡国奴的气节和精神。日本鬼子没想到，在中国南方这座人口 20 余万的小城池，竟要花几倍于守军的兵力，耗去 47 天时间，丢下几万条性命才勉强拿下。衡阳保卫战是中国抗战史上一次极其重要的战役，衡阳守军和衡阳人民用鲜血和生命谱写了一曲极其悲壮惨烈的赞歌，赢得了中外人士的高度赞誉。