1935年6月14日，中央红军与红四方面军在位于四川西北部的一座小城懋功胜利会师，由此揭开了长征途中的新篇章。成功会师后，中央政治局经开会研究决定中央红军和红四方面军共同北上，创建川陕甘苏区。8月，党中央将中央红军与红四方面军混编为左、右两路军北上。左路军主要以红四方面军为主，由彭老总、刘帅、张国焘带领；右路军则以中央红军为主，由徐帅、叶帅、陈昌浩指挥，同时毛主席和周总理跟随右路军行动。

9月，时任红军总政治委员的张国焘在率领先头部队到达四川阿坝地区后按兵不动，自恃兵强势众，公然与党中央争权，拒绝中央北上的方针。8日，时任右路军前敌总指挥的徐帅与前敌政委的陈昌浩收到张国焘的电令，要求他率部南下。由于红四方面军是徐帅等人历经艰辛才发展起来的，心里很难接受这支队伍一分两半，各走一方的，所以在接到张国焘南下的命令后徐帅与陈昌浩的内心都十分矛盾。

幸好时任右路军前敌参谋长的叶帅也看到了这封电报，当即就意识到了事情的严峻，迅速向毛主席做了汇报。毛主席得知消息后，也了解徐帅内心的纠结，于是决定趁着夜色带着左路军转移，迅速脱离张国焘的地盘，单独北上。与此同时，毛主席给徐帅写了一封亲笔信，信中说明了红军北上的原因，力劝徐帅争取带领红四方面军北上，避免将来发生亲者痛、仇者快的事情。

由于这封信的重要性和紧急性，对送信之人的要求特别高。经过深思熟虑，时任红二师师长的陈光决定将这个任务交给时任红二师司令部通信主任的曾思玉。根据曾思玉的回忆，陈光当时十分慎重的交代，无论如何都要将信送到徐帅的手中，哪怕牺牲也得确保信件的安全。之后，曾思玉就被带到了毛主席的房间。为了鼓励曾思玉，毛主席开玩笑说：“主任出马，一个顶俩，我相信你一定能够完成任务”。

随后，曾思玉就带着一队人马在细雨中向毛主席所说的那个岔路口走去。经过一夜的强行军，曾思玉于11日下午两点左右到达了岔路口，经过两个小时的等待后，果然看到了率部南返的徐帅。在将信交给徐帅并拿到徐帅签名的收条后，曾思玉带着人迅速北上，在12日上午回到了部队。事后，曾思玉才知道这封信对于对于维护党和红军内部的团结及确保中国革命的正确方向意义重大。

1935年10月19日，曾思玉跟随中央红军到达了陕北。11月，他被调任为红一军团侦察部参谋，成为了林彪的下属。虽然仅仅是一个小小的侦察参谋，但他还是凭借自己出色的能力得到了林彪的认可。在林彪去参加瓦窑堡会议时，正是由他带队护送的；林彪为了红军东征去黄河勘察渡口时，他同样跟随在侧。

1936年，曾思玉跟随红军东征部队到达山西，主要负责侦察任务。在一次完成任务回到指挥部后被发现棉衣前襟有一个被子弹打穿的洞，幸运的是子弹贴着肚皮擦过，仅在衬衫上留下了一道焦痕。这不是曾思玉第一次遇险，也不是最后一次，整个战争期间，他经历了大大小小50余次险境，但每次都能够化险为夷。晚年时曾思玉谈起这些经历都戏称自己福大命大。

东征结束后，曾思玉回到了陕北，并被调到中央军委警卫团，跟在毛主席身边工作。1937年七七事变后，抗日战争打响，红军被国民改编为八路军和新四军赶赴抗日前线。林彪被任命为八路军115师师长，出于对曾思玉能力的认可，他向党中央申请将曾思玉调到了身边。此后在8年抗战期间，曾思玉一直活跃在抗日一线，参加了上百次的战役。根据与曾思玉共同作战多年的段君毅同志回忆：每当战斗打响，曾思玉都会冲锋在前。

1945年10月，曾思玉被任命为冀鲁豫军区副司令员。解放战争打响后，曾思玉担任晋冀鲁豫野战军第四纵队副司令员，此时的他早已能独挡一面，率部参加了石家庄、清风店等重大战役。新中国成立没多久，他又率队入朝作战。1955年，在全军大授衔中被授予中将军衔。并在同年进入解放军军事学院战役系学习。

1958年，曾思玉被任命为沈阳军区参谋长，1967年成为了武汉军区司令员，又在1973年毛主席下令八大军区司令对调后和杨得志对调成为了济南军区司令员。1983年，为了响应邓公提出的干部终身制问题，72岁的曾思玉将军打了离休报告。离休后，曾思玉和夫人在大连黑石礁红星村过起了低调的生活，劳动、写作、书画成为了他晚年的最爱。2012年12月31日，曾思玉将军因病在大连去世，享年102岁，是最长寿的开国中将之一。