1950年1月19日晚上，时任辽东省（今在辽宁省和吉林省内）省委书记的张闻天像往常一样打开广播收听，突然，他在广播中听到了自己的名字：

中央决定任命张闻天担任中国出席联合国会议的代表团首席代表。

听到这则突如其来的任命，张闻天一时间不明所以，后来他才知道，中央的这项任命也是紧急讨论出来的。当时有同志提议章汉夫担任代表团首席代表，毛主席和周总理商量后认为，章汉夫在资历方面有所不足，可以充当副手，首席代表的角色还是由资历和能力更强的张闻天担任为好。

后来，由于国际形势发生了一些变化，张闻天改任新中国首任驻苏联大使。就这样，张闻天从地方工作转入外交战线，并在外交战线上工作了10年。

担任驻苏大使4年后，1954年，张闻天被任命为外交部副部长，成为协助周总理开展外交工作的主要外交官之一，这一年，张闻天和周总理一起参加了著名的日内瓦会议。

1955年，张闻天回到北京，担任外交部常务副部长（部长由周恩来总理兼任），负责协助周总理主持外交部的日常工作。

来到外交部上班后，张闻天花费了很大的力气，帮助外交部提高业务水平，他从改进外交部各司工作这个方面入手，对外交部各司的工作和业务进行了重新划分和调整，其中，张闻天比较重视的，是礼宾司的工作。

张闻天对礼宾司的工作进行了认真的研究和总结，提出了“勤俭办外交”的口号。张闻天认为，招待外宾的规格要和国际接轨，不可铺张浪费，宴请应该简单些。

对那些认为招待要通过吃海鲜，喝茅台来表示中国的气派的同志，张闻天指出：吃东西不一定要吃得太好，我的外交工作主要靠政策，不讲吃，吃得再好，不支持你的还是不支持。招待的菜品没必要搞太多，并不是所有外宾都习惯喝白酒，所以不必每次都上茅台；有的外宾很害怕河豚中毒，所以不要每次都上海鲜；接待外宾时，出了一些重要时节和场景，应该减少夹道欢迎和赠送礼品的力度……

张闻天的要求是：朴素大方，既不寒酸，也不豪华。这些虽然都是小事，但凸显了张闻天作为一个无产阶级革命家的艰苦朴素、实事求是的品质。在张闻天的努力下，1956年2月，他主持起草了《关于交际活动中的一些问题》的报告，送周总理等审批。

如何做好外交工作呢？张闻天虽然是新中国的第一代外交家，但他的考虑和想法已经非常成熟了。他认为，我们“应该具备充分的信心和勇气”，“要有站起来的中国人的气派”，在外交中，我们不仅应该有明确的立场、鲜明的旗帜，还应该有适当的谦虚。只有把谦虚和自信结合起来，把原则性和灵活性结合起来，才能走出我们中国自己的外交道路。

张闻天的这些真知灼见，为我们后来的外交工作留下了一笔宝贵的遗产。

张闻天认为，对于朋友和兄弟国家，我们是应该发挥国际主义精神，对他们进行一点经济技术援助，但也要注意量力而行。因为“我们自己的东西还不多，还穷，我们并不要和发达国家在这方面竞争。我们主要的，还是靠正确的外交政策和积极的对外政策来争取伙伴。”

张闻天坚决反对“打肿脸充胖子”的行为，他指出，对外援助应该慎重和适当减少，否则人家上层一变，对这个国家援助的影响就打水漂了，实际收获不大。

张闻天同时认为，在国内的工作上也应该尽量避免浪费。他曾向中央建议，每年的“五一”和国庆，不必都邀请许多外宾进行大规模的庆祝，也不必两次都搞阅兵仪式，可以考虑减少或者取消。毛主席认为张闻天的提议是正确的，要他和贺龙元帅一起拟订方案，后来我们就对这方面的投入进行了调整。

张闻天在外交战线上十年的奋斗是卓有成效的。后来，中央在评价张闻天同志的一生时指出：

新中国成立后，张闻天同志在外交部门工作期间，注重调查研究，勤于分析问题。他关于坚持和平外交政策，努力为社会主义建设争取和平国际环境的论述，关于驻外使馆要以各国政府为主要工作对象、对外援助要量力而行、必须坚持勤俭办外交等主张，至今仍然具有适用性和指导意义。