OpenAI成立独立安全委员会以监督模型发布

龙剑秀南看科技 2024-09-17 10:38:06

OpenAI宣布将其原有的Safety and Security Committee转变为一个独立的“董事会监督委员会”,该委员会有权因安全问题延迟模型的发布。根据OpenAI的博客文章,这一转变是在经过了为期90天的安全与保障流程审查后作出的决定。新委员会由Zico Kolter领导,并包括Adam D’Angelo、Paul Nakasone和Nicole Seligman等成员,他们将对主要模型发布的安全性评估进行审查,并拥有推迟发布的权力,直至所有安全问题得到解决。

尽管委员会成员同时也是OpenAI董事会成员的一部分,但OpenAI表示此举旨在加强行业内的合作与信息共享,以提升人工智能行业的整体安全性。此外,公司还计划增加更多途径来分享其安全工作的情况,并寻求更多机会进行系统独立测试。此举措类似于Meta的监督委员会,后者负责审查Meta的部分内容政策决策,并能做出具有约束力的裁决。

参考链接:

https://www.theverge.com/2024/9/16/24246617/openai-independent-safety-board-stop-model-releases

1 阅读:10

龙剑秀南看科技

简介:全球科技前沿