陈汤的名字，在史书上留下了浓墨重彩的一笔，而这一笔，正是因为他一生中参加过唯一的一场大战远征郅支大战。当年的匈奴分为两个部落，北方部落实力较强，单于是郅支，南方部落想要联合大汉王廷一块大北方部落，而郅支在夹击之下，只得举族迁移，逃去中亚。

尽管北方部落匈奴人在逃亡的过程中，也有不少人被杀，但是他们依然在中亚地区站稳脚跟，掌控着好几个国家。没过多久，郅支觉得自己实力大增，汉人拿他没办法，就杀死了大汉去到他那里的使者。此时，陈汤正和统领甘延寿一起，作为副手，前往西域。他迅速认识到，北方的匈奴人正在逐步占领西域，而汉人的声望又因为他们的使臣之死而下降，所以，西部各国必然会投靠匈奴人。

所以，陈汤决定先下手为强，改变这样的局面。他将自己的打算告诉了甘延寿，甘延寿也认为合情合理，却执意要先征询汉廷的意见，才能做最后的决断，不过，机会只有一秒，大汉没有那么多的时间考虑。正当陈汤焦头烂额时，甘延寿突然卧病在床，再也无法动弹。陈汤乘虚而入，下令召集守卫西部的八千人，再加上郡守之兵，合共四万人，向北方进军。大队人马行军的动静吵醒了甘延寿，他阻止了陈汤举兵，陈汤怒起长刀，喝道："你们是乱了阵脚，被我一刀砍了脑袋，还是跟我一起去攻打胡人？"甘延寿只得遵命。

陈汤亲领兵马，长驱直入两千余里，在康居城杀了郅支，把他的头颅挂在旗杆上，四下散播，让所有的国家都投降了。据史书记载，在这场战争中，陈汤诛杀了北匈奴的阏氏，太子，以及其他诸王以下的人超过1500，俘虏145人，投降3000多人，使得匈奴人300年没胆子入侵。后来甘延寿跟陈汤都上了一道折子，表示自己承认了自己不上报就出兵的罪名，而陈汤更是向皇上上了一道传世佳话：“明目张胆冒犯我汉，纵然是天涯海角，也要被斩尽杀绝！”

最后，汉元帝并没有因为他们无昭行动而责怪他们，而是赏赐了他们两个，让分别封了甘延寿和陈汤两个人的爵位。三年之后，汉成帝即位，匡衡以陈汤无诏令出兵，窃取康家财产的罪名，罢免了他的官职。从那以后，陈汤便不再执掌军队。