安全人工智能联盟（CoSAI）在阿斯彭安全论坛上宣布成立。它将在OASIS的羽翼下运作，而OASIS是一个非营利组织，负责监督数十个开源软件项目的开发。其中许多项目专注于简化网络安全任务，如自动化违规响应工作流程。

CoSAI的创始成员包括OpenAI和Anthropic PBC，这是大型语言模型生态系统中资金最雄厚的两家初创公司，以及竞争对手Cohere Inc.和GenLab；在公共云市场，该组织得到了亚马逊网络服务公司（Amazon Web Services Inc.）、Microsoft公司（ Corp.）和谷歌公司（Google LLC）的支持。英伟达公司，英特尔公司，IBM公司，思科系统公司，PayPal控股公司，Wiz Inc.和Chainguard Inc.也加入了他们的行列。

该联盟的成立有两个主要目标：首先是开发工具和技术指南，帮助组织保护其人工智能应用程序；另一个目标是创建一个生态系统，让公司可以分享与人工智能相关的网络安全最佳实践和技术。

CoSAI正在启动三个开源工作流或计划，以推进这些目标。每个项目都处理保护 AI 应用程序所涉及的不同任务子集。

第一项计划旨在帮助软件团队扫描其机器学习工作负载的网络安全风险。为此，该联盟将制定常见漏洞的分类法和解决这些漏洞的方法。CoSAI成员还将创建一个网络安全记分卡，旨在帮助开发人员监控人工智能系统的漏洞，并向其他利益相关者报告他们发现的任何问题。

第二个项目旨在减轻减轻人工智能网络安全风险的任务。其目标是简化识别“投资和缓解技术以解决人工智能使用的安全影响”的过程。

第三项举措侧重于解决软件供应链风险。这些漏洞是由公司从外部来源（如 GitHub 存储库）获取的软件组件引起的。

在开发人员分析 AI 应用程序的外部组件是否存在漏洞之前，必须确定它包含哪些外部组件。在具有大量代码文件的大型软件项目中，这可能是一个耗时的过程。CoSAI的首要任务之一是简化工作流程。

与此同时，该联盟的成员将开发解决与第三方人工智能模型相关的网络安全风险的方法。许多AI应用项目依赖于来自开源生态系统的神经网络，因为构建自定义算法的成本可能高得令人望而却步。从理论上讲，外部神经网络可以在软件项目中引入漏洞，使黑客能够发起网络攻击。

CoSAI计划在未来推出更多的网络安全计划。这些举措将由来自私营部门和学术界的人工智能专家组成的技术指导委员会监督。