这些天，Sam Altman 和他的 OpenAI 就像过山车一样经历大起大落。
5 月 13 日，OpenAI 精准卡点抢先在谷歌前一天发布新品，一时间风光无限；次日，谷歌打出一套华丽的组合拳，推出一系列 AI 新品吸引全球瞩目，而 OpenAI 这边曝出“解散对齐团队”夺回全球 AI 界的目光；今天，微软在 Build 开发者大会前一天推出了“Copilot+PC”一举点燃 AI 界，然而微软“热搜宝座”还没坐稳却又被 OpenAI 抢了回来……
据多家外媒报道，美国女演员、歌手斯嘉丽·约翰逊（Scarlett Johansson）抨击 OpenAI 的聊天机器人 ChatGPT 的声音“剽窃”了自己的声音，声称与她自己的声音惊人地相似，“甚至我最亲密的朋友都无法分辨两者之间的区别。”她表示。
面对质疑，OpenAI 否认了 ChatGPT 中名为“Sky”的声音是在模仿斯嘉丽·约翰逊，并表示将暂停使用 Sky 语音，并解决有关如何选择 ChatGPT 语音的问题。
图｜斯嘉丽·约翰逊发布的声明截图（来源：X）
事情的起因还要从上周 OpenAI 的那场春季更新活动说起。
当时的 OpenAI 正处于“高光时刻”，推出了 GPT-4o 新旗舰生成式 AI 模型，以及桌面版 ChatGPT 和全新的用户界面。
引入了 GPT-4o 的 ChatGPT 达到了几乎实时、情感丰富、自然的人机语音交互，这个开创性的 AI 语音助手可以称得上是一个真正的“个人助理”。
发布会现场，OpenAI 展示了 ChatGPT 与嘉宾的对话，其能够模仿各种不同的语气语调，能够感受用户情绪并进行安抚，其“先进”程度让业界为之赞叹。
按照 Sam Altman 的说法，他希望最终能够开发出一款具有极高响应能力的 AI 模型，类似于 Spike Jonze 执导的科幻电影《Her》中的电脑虚拟助理“Samantha”。
（来源：X）
就在发布会同期，他还发帖力挺，而帖子正文只有一个词“her”。值得一提的是，此前 Sam Altman 曾称《Her》是他最喜欢的电影，并表示“斯嘉丽·约翰逊为影片中一个听起来很性感的虚拟助理配音。”
然而，问题就出在这里。发布会现场 ChatGPT 的声音和斯嘉丽·约翰逊极为相似，要知道，早在 2013 年为电影《Her》虚拟助理“Samantha”配音的也正是斯嘉丽·约翰逊。
这种看似故意为之的“巧合”引发大众热议，一时间，OpenAI 被纷纷指责，冠以“窃取声音”的名号。
不可避免地，这件事儿很快传到了斯嘉丽·约翰逊本人耳中，她觉得 ChatGPT 先不先进我们不得而知，但可以确定的是她非常愤怒，并随即发布了一份言辞激烈的声明。
她在声明中表示，她于去年九月收到了 Sam Altman 的邀请函，希望能为 ChatGPT 系统配音，理由是 Sam Altman 觉得她的声音会“让人感到安慰”，然而，她最终出于个人原因婉拒了。直到最近，她的家人朋友发现 OpenAI 的ChatGPT 语音助手的声音和自己声音非常像。
按照斯嘉丽·约翰逊的说法，在她听到发布会现场的演示视频时感到无比震惊，Sam Altman 竟然会使用一个听起来与自己声音如此相似的声音，以至于最亲密的朋友都难以分辨。
她在声明中提到了自己曾为电影《Her》的虚拟助理“Samantha”配音，也提到了 Sam Altman 在发布会上发帖“her”属于碰瓷式的“故意暗示”。
迫于无奈，斯嘉丽·约翰逊聘请了法律顾问，向 OpenAI 公司和 Sam Altman 发了信函，要求对“Sky”这一 AI 声音的合成制作过程进行说明。
面对斯嘉丽·约翰逊的公然指责和舆论压力，Sam Altman 发表声明称，“Sky”的声音并非是斯嘉丽·约翰逊，并且也没有刻意模仿她的声音。
（来源：OpenAI 官网）
与此同时，OpenAI 官网也“一边否认故意模仿，一边连夜删除名为‘Sky’的语音，”并发布了一篇名为“ChatGPT 的声音如何选择”的博文，为大众科普了构建 AI 语音助手声音的全过程。
文中指出，为了能够给用户提供一种更为真实自然的人机交互方式，OpenAI 早在去年 9 月就引入了语音功能。名为“Sky”的语音是从 400 余位配音申请者中经过长达 5 个月的遴选，最终确定的 5 位配音者之一（另外 4 个声音分别名为 Breeze、Cove、Ember 和 Juniper）的声音。
这 5 位来自各地的配音者都统一飞往旧金山进行了录制，“Sky”语音使用的是一位女配音者自然说话的声音，但为了保护配音者的隐私，OpenAI 并未公开姓名。
OpenAI 表示，每位配音者都获得了“高于市场最高水平”的报酬，并将随着 ChatGPT 继续使用其声音而持续获得。
（来源：OpenAI 官网）
除此之外，OpenAI 还附上了筛选与 ChatGPT 相契合声音的几个评判标准，包括来自不同背景或会说多种语言的演员、平易近人的声音、温暖、迷人、自信、富有魅力的声音，音调丰富等等。
OpenAI 在文中称，未来为了给用户更多选择，还计划在 ChatGPT 中引入更多不同风格的声音，来满足不同客户群体的需求。
事实上，在上周 OpenAI 发布会后，首席技术官 Mira Murati在接受媒体采访时曾否认“Sky”语音故意模仿斯嘉丽·约翰逊，在她看来，OpenAI 开发该技术并非基于电影，而是试图构建能够自主思考并对现实世界有感知的 AI，相较于技术本身，更多地反映了 OpenAI 的想象力和故事叙述能力。
然而，她的这番言论并未阻止事件的持续发酵。
无独有偶，被 AI 剽窃声音也并非个案。
不久前，美国配音演员 Paul Lehrman 和 Linnea Sage 在纽约联邦法院对一家名为“Lovo”的 AI 初创公司提起诉讼，指控该公司在欺骗他们提供声音样本后未经许可，在 AI 配音技术中非法使用和销售他们的声音。
他们要求法院下令立即阻止该公司继续使用其声音并寻求 500 余万美元的赔偿，此外，他们还试图联合其他声音被 AI 窃取的受害者发起集体诉讼。
（来源：纽约联邦法院）
需要注意的是，斯嘉丽·约翰逊在声明末尾还提到，“我们都在与深度伪造作斗争，保护我们自己的肖像、作品和身份，当下，我认为这些问题值得绝对澄清。我期待能够以透明的方式解决问题，并通过适当的立法以切实保护个人权利。”
实际上，自从近日 OpenAI 超级对齐团队纷纷离职的消息曝出之后，AI 快速发展所带来的安全问题再一次引起业界广泛关注。
（来源：Science）
而就在昨天，国际权威期刊 Science 刊登了一篇题为“Managing extreme AI risks amid rapid progress”（在快速发展中管理极端 AI 风险）的论文，以姚期智、Yoshua Bengio 和 Geoffrey Hinton 等为代表的 20 余位业内专家（包括诺贝尔奖得主、图灵奖得主以及标准 AI 教科书作者等）共同呼吁世界各国领导人针对 AI 所带来的风险需要采取更强有力的措施，并指出自 6 个月前举办第一届 AI 安全峰会以来，在保护人类免受 AI 带来风险方面所做的工作还不够。
文中还指出，目前对 AI 安全性的研究严重不足，估计只有不足 3% 的 AI 研究论文涉及安全问题，并建议授权进行更严格的风险评估，规定可强制执行的后果，而不是依赖于自愿或不明确的模型评估。文中强调，要求 AI 公司优先考虑安全性，并证明其系统不会造成伤害。
“AI 的无节制发展很可能会导致生命和生物圈的大规模损失以及人类边缘化甚至是灭亡。”这篇论文的合作者、牛津大学工程科学系教授 Philip Torr 表示。
专家们在文中呼吁各国政府建立快速行动的 AI 监督专家机构，并为这些机构提供比几乎任何当前政策计划下都要多得多的资金。（以美国为例，美国 AI 安全研究所目前的年度预算为 1000 万美元，而 FDA 的预算则达到 67 亿美元。）
与此同时，为了让 AI 可靠且安全，业界还需要围绕一些挑战进行攻关，包括韧性、鲁棒性、监督与诚信、可解释性和透明度、评估 AI 对齐和危险能力等，因此专家们呼吁大型科技公司和公共资助者至少将其 AI 研发预算的三分之一用于解决这项研发挑战，并确保 AI 的安全和道德使用。
参考资料：
1.https://www.science.org/doi/10.1126/science.adn0117
2.https://techxplore.com/news/2024-05-world-leaders-ai-experts-safety.html
3.https://www.theverge.com/2024/5/20/24160621/openai-chatgpt-gpt4o-sky-scarlett-johansson-voice-assistant-her
4.https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/
5.https://venturebeat.com/ai/openai-and-sam-altman-slammed-for-imitating-scarlett-johanssons-voice-without-consent/
6.https://www.wsj.com/tech/ai/openai-chatgpt-sky-voice-scarlett-johansson-43d13bbf?mod=ai_news_article_pos1
7.https://www.npr.org/2024/05/20/1252495087/openai-pulls-ai-voice-that-was-compared-to-scarlett-johansson-in-the-movie-her
8.https://techxplore.com/news/2024-05-openai-chatgpt-voice-scarlett-johansson.html
