一，投靠丁吕

聂辽出身并州雁门郡寒门，为西汉名商聂壹（策划助汉武帝反击匈奴的马邑之谋）的后人。因为当地靠近匈奴等部族，所以民风彪悍，崇尚武力，导致聂辽自小就喜欢骑射，逐渐成长为骁勇好斗的猛士。后来年轻气盛的聂辽与人发生冲突，将那人打伤，为了躲避这个仇家追杀而改姓张，就成了张辽（字文远）。

数年后，张辽见风声已过，就靠着亲友的帮助在郡里谋了一份差事，成为雁门郡的郡吏。然后并州刺史丁原见张辽勇猛过人，便把他招到麾下效力。

中平六年（189年），后少帝刘辩即位，其舅大将军何进图谋诛杀宦官，想要结束宦官乱政的局面。丁原与何进亲厚，便命张辽率兵前往洛阳支援何进。可何进嫌张辽所带兵马太少，于是派他到河北募兵。接着张辽就招募了一千多人，回去向何进复命。结果等张辽到了洛阳，何进已与宦官集团同归于尽，大权已落入权臣董卓手中。

当时丁原担任执金吾，协助何进诛杀宦官，却在事后被董卓收买的部将吕布所害。然后吕布就带着并州军投靠了董卓，使得董卓完全控制了东汉朝廷。张辽见何进与丁原两位故主都已死去，而吕布又是自己的老乡，于是转投董卓。

初平三年（192年），司徒王允与吕布合谋诛杀擅权乱政的董卓，张辽于是转投吕布，被任命为骑都尉。可不久董卓余党就反攻长安，吕布不敌只得向东逃走。张辽便跟随吕布一路东逃，助其夺取徐州，被任命为鲁相。然而鲁国归豫州管辖，所以张辽的鲁相只是虚职。

二，转投曹操

建安三年（198年），兖州牧曹操为了消除东面的威胁，于是率军攻打吕布，最后成功消灭吕布集团而夺取了徐州。曹操欣赏张辽的武艺，于是没有杀他。张辽感念曹操的不杀之恩而带着部众投降，因此获封为中郎将、关内侯。后来张辽屡立战功，得以升任裨将军。

建安五年（200年），曹操在官渡之战击败袁绍，命张辽趁机夺取鲁国各县。接着张辽与夏侯渊乘胜攻打昌豨，将其包围在东海郡。昌豨率领城内的士兵和百姓顽强抵抗，一直坚持了好几个月。张辽与夏侯渊久攻不下，又见粮草不足，商议撤军。

张辽认为昌豨最近几天作战乏力，一直注视自己，应该是因为城内弹尽粮绝而有了投降之意，决定亲自去劝降。夏侯渊和将士们都不相信昌豨会投降，但也没有其他办法，便决定让张辽去试一试。

张辽在城下对昌豨大声说“曹丞相英明神武，用仁德招抚四方，先投降的人会有重赏。”

昌豨听了，于是出城投降。接着张辽单人进入三公山，安抚昌豨的家人。随后张辽带昌豨去见出曹操，曹操便命昌豨回去驻守东海郡。

曹操语重心长地责备张辽说：“文远啊，作为一员大将，你这样做太危险了，万一昌豨把你杀了怎么办呢？”

张辽回答：“丞相的威信四海闻名，我说是你下的命令，昌豨一定不敢伤害我！”

三，助定河北

建安七年（202年），袁绍病死，其子袁谭、袁尚为了争夺袁家地盘而内讧不断。曹操趁机进兵河北，在黎阳大败二袁，夺取了河北首郡邺城。随后张辽奉曹操之命扫清袁氏余党，夺取了赵国、常山等郡，还扫清沿海地区，因功获封荡寇将军。

建安十二年（207年），曹操为了彻底扫清袁家残余势力，于是北征接纳袁尚的乌桓。两军在白狼山相遇，张辽于是带着汉军铁骑奋勇冲杀，大破乌桓骑兵，斩杀乌桓首领蹋顿，一举扫清了北方的威胁。

四，大败孙权

建安二十年（215年），曹操征讨割据汉中的张鲁，派张辽、乐进、李典率七千人驻守合肥抵御东吴。孙权趁机领兵十万攻打合肥，张辽等人于是打开曹操留下的锦囊，发现上面写着：张辽、李典出战，乐进守城。

然而张辽、李典、乐进三人都不是曹操的宗亲，所以曹操对这些异性将领并不完全信任，故意让有矛盾的三人一起镇守合肥，好让他们互相牵制。张辽担心二人不服，于是说：“丞相远征张鲁，要是等他前来救援，我们早被孙权消灭了。不如我们趁敌人刚到还没有完全形成合围，果断出兵袭击他们，打击敌人的锐气，这样守城的将士才不会恐慌。再坚守城池大家就会有信心了。成败在此一举，希望大家不要怀疑。”

李典、乐进听了，对此表示同意。张辽于是连夜招募八百死士，好吃好喝，准备明天的大战。第二天天刚亮，张辽就率兵出城突袭，打得孙权措手不及。同时张辽身先士卒，在吴军中如入无人之境，打得吴军大乱，迫使孙权退军。

随后吴军再次攻打合肥，因久攻不下而撤军，孙权于是亲自断后。张辽见孙权就在城外，于是再次发动突袭，依旧取得大胜，还差点活捉孙权。曹操听了十分高兴，于是封张辽为征东将军。

建安二十五年（220年），曹丕篡汉称帝，封张辽晋阳侯，命他镇守合肥。黄初二年（221年）。张辽前去洛阳朝见曹丕，奉命讲述合肥之战的经过，被皇帝誉为“召虎”（西周名将）。然后张辽随曹丕伐吴，于黄初三年（222年）在南征途中去世。当时张辽已经病重，可孙权在合肥之战两次败于张辽，早被他吓破了胆，认为患病的张辽也是猛虎，嘱咐手下小心应对。