AI|美国家安全事务助理沙利文:关于人工智能和国家安全的演讲

天地云思想 2024-10-28 11:16:59

美国白宫网站当地时间10月24日报道,美国总统国家安全事务助理杰克·沙利文在华盛顿特区的美国国防大学,就人工智能和国家安全发表了主题演讲。他着重介绍了拜登总统最近签署的《人工智能国家安全备忘录》的主要精神和重点内容。

演讲全文摘编如下:我们正处于一个相互依存世界的战略竞争时代,我们必须积极竞争,同时要动员合作伙伴解决任何一个国家都无法独自解决的巨大挑战。在这个时代,在这个世界上,人工智能的应用将定义未来。如果我们想确保人工智能为我们、为我们的合作伙伴、为我们的利益、为我们的价值观服务,而不是对抗我们,我们的国家必须再次开发新的能力、新的工具,以及正如艾森豪威尔将军所说的,新的学说。这就是为什么我很自豪地宣布,拜登总统已经签署了一份关于人工智能的国家安全备忘录。这是我们国家有史以来第一个利用人工智能的力量和风险管理来促进我们的国家安全的战略。所以,今天我想和大家谈谈是什么让我们走到这一时刻,以及我们的国家如何需要你们所有人帮助我们应对这一时刻。和战争学院的许多人一样,自从我成为国家安全事务助理以来,我不得不努力研究人工智能及其对国家安全的影响,关于是什么让它如此具有潜在的变革性,以及关于人工智能与我国以前经历的其他技术飞跃不同,从电气化到核武器,从太空飞行到互联网。我特别看到了三个关键因素。首先,人工智能的发展速度之快。AI的技术前沿继续快速发展,其速度比我们看到的其他技术要快。让我们以蛋白质折叠为例。发现蛋白质结构或如何折叠,对于了解它如何与其他分子相互作用至关重要,这可以解决医学中的基本难题并加速治疗和治愈的发展。直到2018年,人类已经集体发现了大约15万种蛋白质结构,主要是通过人工努力,有时是经过多年使用先进显微镜和X射线的艰苦工作。然而,谷歌DeepMind公司表明,AI可以在没有任何湿式实验室工作的情况下预测蛋白质的结构。到四年后的2022年,同一个团队发布了科学已知的几乎所有蛋白质的预测结构,总共数亿种。就在几周前,相关科学家获得了诺贝尔奖。现在,想象一下科学领域的同样变化速度,这些变化每天都在影响您作为国家安全领导者的工作。想象一下,人工智能将如何影响我们已经看到范式转变的领域,从核物理学到火箭再到隐身技术,或者它如何影响可能尚未成熟的竞争领域。我们实际上甚至无法想象,就像早期的冷战者无法真正想象今天的网络行动一样。简而言之,我们今天试图在情报、军事或商业领域解决的特定AI应用程序,在六周后看起来可能会有根本的不同,更不用说六个月后、一年后或六年后了。这一领域的变化速度,令人叹为观止。AI增长轨迹的巨大不确定性加剧了这种情况。这是第二个显着特征。在过去的四年里,我会见了科学家和企业家、实验室首席执行官和超大规模企业、研究人员和工程师以及民间社会倡导者。在所有这些对话中,人们都清楚地同意人工智能的发展正在对我们的世界产生深远影响。但是,当我问他们,“我们下一步究竟应该期待什么?有各种各样的观点。一方面,一些专家认为我们才刚刚开始AI革命,AI能力将继续呈指数级增长,以其自身为基础,解锁我们不知道的存在道路,而且这可能会在这十年内迅速发生。如果他们是对的,我们可能正处于人类历史上最重大的技术变革之一的风口浪尖。另一方面,一种观点认为AI并不是“井喷式”增长,但它已经或即将停滞不前,或者至少变革的步伐将大大放缓,更引人注目的突破还在路上。相信这一点的专家并不是说AI不会产生后果,但他们认为“最后一公里”应用AI的工作,已经存在(能力已经在那里),是最重要的,不仅现在,而且在可预见的未来。这些观点大相径庭,含义也大相径庭。现在,创新从来都不是可预测的,但AI发展的不确定性程度是前所未有的。“问号”的大小使AI与我们政府不得不面对并围绕其制定政策的许多其他技术挑战区分开来。这就是我们的责任。作为国家安全助理,我必须确保我们的政府为各种情况做好准备。我们必须制定一项国家安全政策,保护美国人民和美国的创新生态系统,这对我们的优势至关重要,即使我们面临的机遇和挑战可能以根本不同的方式表现出来。我们必须为AI在2025年、2027年、2030年及以后的发展方向的所有可能性做好准备。现在,使这变得更加困难的是,领导人工智能发展的是私营公司,而不是政府。这是第三个显著特点。过去80年的许多技术飞跃都来自公共研究、公共资金、公共采购。我们的政府在塑造从核物理学和太空探索,到个人计算再到互联网的发展中发挥了早期的关键作用。最近的大多数AI革命并非如此。虽然国防部和其他机构在20世纪资助了很大一部分AI工作,但私营部门推动了过去十年的大部分进步。在许多方面,这是值得庆祝的事情。这是美国独创性的证明,也是美国创新体系的证明,美国公司在前沿人工智能方面处于世界领先地位。这是美国的特色“酱汁”。而且,纳税人不必为AI训练费用支付全部费用,这是一件好事,因为AI训练费用可能高得惊人。但是,我们这些政府人员作为这项技术的管理者和部署者,必须清楚地认识到这种动态的影响。在这里,有两件事可以同时成立。一方面,凭借美国人的身份开发和部署AI系统的大型科技公司,为美国提供了真正的国家安全领导地位,我们希望扩大这一领导地位。他们还与华为等中国公司正面交锋,为世界各地的人们提供数字服务。我们支持这些努力,因为我们希望美国成为世界各国的首选技术伙伴。另一方面,我们需要采取负责任的步骤来确保公平竞争和开放市场;保护隐私、人权、公民权利、公民自由;确保先进的人工智能系统安全可信;实施防护措施,以免AI被用来破坏我们的国家安全。美国政府完全有能力管理这种健康的紧张局势,只要我们诚实和清醒地看待它。我们必须把这件事做好,因为在未来几年可能没有其他技术,比AI对我们的国家安全更重要了。现在,当谈到AI和我们的国家安全时,我既有好消息也有坏消息。好消息是,在拜登总统和哈里斯副总统领导下,美国正在继续建立有意义的AI优势。在国内,拜登总统签署了一项关于开发和使用AI的行政命令,这是世界上任何国家对AI采取的最全面的行动。我们一直在努力加强我们的AI人才、硬件、基础设施和治理。我们吸引了领先的研究人员和企业家移居美国并留在美国。我们已经释放了数百亿美元的激励措施,以促进国内领先的芯片生产。我们在发布指南方面走在世界前列,以确保AI开发和使用安全、可靠且值得信赖。在完成所有这些工作的同时,我们仔细研究了AI趋势,不仅是前沿的AI,还包括将在全球范围内最广泛、最迅速地扩散的AI模型。我们正在努力全面增强美国的优势。但坏消息是:我们的领先优势无法保证。它不是预先安排的。仅仅保护我们已经取得的进步是不够的,尽管它曾经是历史性的。我们必须比美国的竞争对手更快地在我们整个国家安全组织中部署AI。他们坚持不懈地寻求超越我们的军事和情报能力。挑战更加严峻,因为他们不太可能受到与我们相同的原则、责任和价值观的约束。风险很高。如果我们不更有意识地采取行动来抓住我们的优势,如果我们不更快、更全面地部署AI来加强我们的国家安全,我们就有可能浪费我们来之不易的领先优势。即使我们拥有最好的AI模型,但我们的竞争对手部署速度更快,我们也可以看到他们利用AI能力来对付我们的人民、我们的部队以及我们的合作伙伴和盟友。我们本可以拥有最好的球队,但输了,因为我们没有把它放在场上。我们可以看到,我们几十年来在其他领域(如太空和海底行动)建立的优势,被人工智能技术完全减弱或削弱。尽管我们拥有所有优势,但仍然存在战略意外的风险。我们必须防止这种情况发生。这就是我今天在这里的原因。我们新的《人工智能国家安全备忘录》旨在应对这一系列挑战。作为冉冉升起的国家安全领导者,您门将有责任立即实施它。因此,在我的发言中,我想花几分钟时间解释备忘录的三个主要工作重点:确保美国在AI领域的领导地位、利用AI促进国家安全以及加强国际AI伙伴关系。首先,我们必须确保美国继续引领世界人工智能的发展。我们的竞争对手也知道AI领导力在当今地缘政治竞争时代的重要性,他们正在投入大量资源来为自己抓住它。因此,我们必须开始提升我们的水平,而这要从人开始。美国必须继续成为吸引全球科学和技术人才的磁石。正如我所指出的,我们已经采取了重大措施,使顶尖人工智能科学家、工程师和企业家能够更轻松、更快捷地来到美国,包括消除签证规则中的障碍,以吸引来自世界各地的人才。通过这份新备忘录,我们正在采取更多措施,尽可能简化从事新兴技术的申请人的签证处理。我们呼吁国会与我们一起参与进来,将更多的绿卡钉在STEM(科学、技术、工程和数学类)文凭上,就像拜登总统多年来一直在推动的那样。所以,这就是竞争等式中的人部分。接下来是硬件和电力。开发高级AI系统需要大量先进芯片,而保持这些AI系统运转需要大量电力。在芯片方面,我们已经向前迈出了非常重要的一步。我们通过了《芯片与科学法案》(CHIPS and Science Act),对我们的半导体制造进行了代际投资,包括AI所需的尖端逻辑芯片和高带宽存储芯片。我们还采取了果断行动,限制战略竞争对手获得训练和使用具有国家安全影响的前沿AI系统所需的最先进芯片,以及制造这些芯片所需的工具。国家安全备忘录以这一进展为基础,指示我们所有的国家安全机构确保这些重要的芯片供应链安全且不受外国干预。在电力方面,该备忘录认识到设计、许可和建造可为AI数据中心服务的清洁能源发电设施的重要性,以便建设世界领先的AI基础设施的公司,能够以符合我们气候目标的方式在美国尽可能多地建设。有一点是肯定的:如果我们不在未来几年内迅速建设这些基础设施,不向电网增加数十甚至数百吉瓦的清洁电力,我们将面临落后的风险。最后,还有创新资金。本财年,联邦对非国防研发的资金资助大幅下降。国会仍然没有拨款《芯片与科学法案》的科学部分,尽管中国的科技预算逐年增加10%。这可能意味着AI研发中存在重大差距。我们希望与国会合作,确保AI国家安全备忘录中的这个和其他需求得到资助。我们已经收到了来自国会的两党对此强烈支持的信号。因此,现在是我们在两院制、两党的基础上集体“卷起袖子”完成这项工作的时候了。我们还必须意识到,我们的竞争对手正在密切关注,尤其是因为他们想废黜我们的AI领导地位。我们看到他们一次又一次地部署的一个剧本是盗窃和间谍活动。因此,国家安全备忘录对此进行了正面挑战。它将解决针对我们AI领域的对手威胁确立为首要情报优先事项,此举意味着将投入更多资源和人员进行与这个威胁战斗。它还指导政府各部门的人,就像你们中的许多人一样,与私营部门的AI开发人员更紧密地合作,为他们提供及时的网络安全和反情报信息,以确保他们的技术安全,就像我们已经努力保护美国私营部门的其他部门免受威胁和我们的国家安全一样。第二个支柱侧重于如何利用我们的优势和持久优势来促进国家安全。作为国家安全助理,我看到了AI如何准备好改变国家安全格局。作为战争战士、外交官、情报官员,我相信你们也看到了。一些变化已经在这里。AI正在重塑我们的后勤、我们的网络漏洞检测,以及我们分析和综合情报的方式。我们看到一些变化即将出现,包括AI支持的应用程序,将改变我们的军队训练和战斗方式。但正如我之前所说,有些变化,我们真的无法预测它会采取什么形式,以及它会以多快的速度来。一句话:机会已经近在眼前,而且很快就会到来,因此我们必须迅速有效地抓住它们,否则我们的竞争对手将首先抓住它们。这意味着,我们整个国家安全组织中的所有人,都必须成为更熟练的AI用户。这意味着我们需要在技术、组织和政策方面做出重大改变,以简化与推动这一发展的行动者合作。而国家安全备忘录就是这样做的。它指导各机构提出方法,以便与非传统供应商(例如领先的AI公司和云计算提供商)进行更有效的协作。在实践中,这意味着最先进的系统在开发完成后,迅速投入我们的国家安全组织体系中使用,就像私营企业中的许多系统所做的那样。我们需要快速采用这些系统,正如我们每隔几个月就会看到的那样,这些系统正在迭代和进步。其次,今天的AI系统比以前主导AI的定制和狭隘工具更普遍。而这种通用能力是一个巨大的优势。但另一方面,它们的训练和运行成本要高得多。因此,我们正在推动各机构使用共享计算资源来加速AI的采用,降低成本,并在负责任地应对从核安全到生物安全,再到网络安全的各种威胁时相互学习。我强调“负责任”这个词。安全、可靠、负责任地开发和部署AI,是我们战略的支柱。这包括确保AI系统没有偏见和歧视。这非常符合我们的自身利益。原因之一是,即使我们能够吸引AI人才或促进AI在美国的发展,如果人们不信任我们的系统,我们也无法引领世界。这意味着制定AI评估标准,包括这些系统的工作原理,以及它们在现实世界中可能如何失败。这意味着在向公众发布之前,要在世界上最先进的AI系统上运行测试。这意味着在内容管理等领域处于领先地位标记和水印,以便人们知道他们何时与AI交互,而不是与真人交互。要做到这一点,我们必须为各种AI公司、专家和企业家提供支持并向他们学习,我们的AI安全研究所现在每天都在这样做。我们需要如此关注责任、安全和可信度的另一个原因,有点违反直觉。确保安全性和可信度,实际上将使我们能够更快地行动,而不是减慢我们的速度。简而言之,不确定性会滋生谨慎。当我们对安全性和可靠性缺乏信心时,我们试验、采用和使用新功能的速度就会变慢,在当今的战略环境中,我们无法承受这样做的成本。这就是为什么我们的备忘录,指导了有史以来第一个关于国家安全领域AI风险管理承诺的政府范围框架。这些承诺包括避免偏离我们国家核心价值观的使用、避免有害的偏见和歧视、最大限度地追究责任、确保有效和适当的人工监督。正如我所说,防止滥用和确保高标准的问责制,不会让我们放慢脚步;它实际上会起到相反的作用。我们以前在技术变革中已经看到了这一点。例如,在铁路的早期,由于提高了确定性、信心和兼容性,安全标准的建立使火车运行得更快。我还想指出,我们将定期更新此框架。这又回到了我之前提到的不确定性。可能存在尚未出现的功能或新颖的法律问题。我们必须并将确保我们的治理和护栏能够适应这一时刻,无论它是什么样子或来得有多快。最后,我们需要与我们的合作伙伴同步完成所有这些工作。这是我们备忘录的第三个支柱。拜登总统经常说,未来10年我们将看到比过去50年更多的技术变革。他是对的。它不仅适用于我们国家,也适用于所有国家。具体到AI,我们需要确保世界各地的人们能够趋利避害。这意味着必须围绕AI建立国际规范和合作伙伴关系。在过去的一年里,在拜登总统和哈里斯副总统领导下,我们奠定了这一基础。我们与G7合作伙伴一起制定了有史以来第一个国际人工智能行为准则。我们与20多个国家一起参加了布莱切利和首尔AI峰会,概述了明确的AI原则。我们发布了《关于人工智能军事用途的政治宣言》,该宣言已得到50多个国家/地区的支持,其中概述了在军事领域负责任地使用人工智能的做法。我们支持了有史以来第一个联合国大会关于人工智能的决议。该决议获得一致通过,包括作为共同提案国的中国。正如我所说,它清楚地表明,我们既可以抓住AI为世界带来的好处,也可以提高AI安全。让我花点时间具体谈谈中国。大约一年前,当拜登总统和习近平主席在旧金山会晤时,他们同意我们两国就人工智能风险和安全进行对话。今年5月,我国政府的一些顶级人工智能专家在日内瓦,与中国官员进行了坦诚和建设性的初步对话。我坚信,我们应该始终愿意与中国和其他人就这项技术进行对话,以更好地了解风险并消除误解。但这些会议并没有减少我们对他们继续利用AI压制其人民、传播错误信息,以及破坏美国及其盟友和伙伴安全的方式的深切担忧。应该使用AI来释放可能性并赋予人们权力。世界各国,尤其是发展中经济体,都想知道如何做到这一点。他们不想被抛在后面,我们也不希望这样。当我们向世界各地的合作伙伴伸出援手时,我们的国家安全总是会更加强大。因此,我们需要取得正确的平衡。我们一方面需要在保护尖端AI技术的同时,另一方面促进AI技术在全球范围内的采用。保护和促进。我们可以、必须而且正在做这两件事。因此,让我为您简要介绍一种新的全球AI传播方法,以及AI如何以负责任的方式在全球范围内传播,让AI向善,同时防范下行风险。这种新的全球方法补充了已经发布的备忘录,这些备忘录是去年在战情室以及与盟友、行业和合作伙伴进行广泛对话的结果。更详细的印刷品将在稍后公布,但我现在可以说,它将为私营部门提供更清晰和可预测性,因为他们计划在全球范围内投资数千亿美元。这包括我们的政府将如何管理开发前沿模型所需的最先进芯片出口;我们将如何确保广泛获得位于前沿技术后面但仍可能改变全球健康、农业和制造业的大量AI算力;我们将如何帮助促进美国领先的AI公司,与世界上希望参与人工智能革命的国家之间的合作伙伴关系;以及我们将如何为这些合作伙伴关系设定安全和安保标准,以确保我们在释放新机遇的同时有效防范风险。这些伙伴关系至关重要。他们是我们领导力的基础。我们知道,PRC正在建立自己的技术生态系统,其数字基础设施无法保护敏感数据,可以实现大规模监控和审查,可以传播错误信息,并可能使国家容易受到胁迫。因此,我们必须竞争提供一条更具吸引力的道路,最好是在各国在不信任的道路上走得太远之前,这条道路可能代价高昂且难以返回。这就是我们正在做的事情。我们已经开发了建立新的合作伙伴关系,以支持从非洲到亚洲,再到中东及其他地区的经济发展、技术创新和本土AI生态系统。我们将坚持不懈,采用清晰而严格的方法来传播AI。现在,我确实想确保我为我们的对话留出时间,所以让我以此结束:我刚才提出的一切都是一个计划,但我们需要你们所有人将其转化为进展。我们需要您以及每个州和每个部门的领导人,采用这项技术来促进我们的国家安全并迅速做到这一点。我们需要您们确保我们的工作,与始终支撑美国领导地位的核心价值观相一致。正如艾森豪威尔总统所说,我们需要您们在未来几年,不断更新和发展我们的AI学说。这将是艰难的。这需要不断思考、不断反思、不断创新、不断协作和不断领导。但以过去为证,我知道在座的每个人和我们全国各地的每个人都准备好了。我们将共同赢得21世纪的竞争。背景知识

杰克·沙利文(Jake Sullivan),1976年出生于美国佛蒙特州,现任美国总统国家安全事务助理。

1998年,沙利文毕业于耶鲁大学国际研究和政治学专业。2000年,获得英国牛津大学马格达伦学院的国际关系哲学专业硕士学位。2003年,在耶鲁大学法学院攻读法学博士学位。

2011年,成为美国国务院历史上最年轻的政策规划主任。2013年,沙利文担任时任副总统拜登国家安全事务助理一年后,辞职回到了耶鲁大学从事教学工作。2016年,沙利文担任希拉里竞选总统团队的高级政策顾问。2020年11月23日,美国总统拜登宣布任命沙利文为美国总统国家安全事务助理。

0 阅读:2

天地云思想

简介:世界秩序和国际政治、经济、科技、安全、军事和战略问题研究,决策信息咨询和装备知识交流等