人美声甜总被惦记?寡姐遭OpenAI背刺,律师解读AI“犯罪”新法案

科技旋涡 2024-05-24 12:19:49

作者|贾桂鹏

OpenAI闯祸了,他们在未经美国演员“寡姐”斯嘉丽·约翰逊的同意模仿其声音,已经收到律师函。

美国女演员斯嘉丽·约翰逊就OpenAI聊天机器人使用酷似她声音的Sky语音一事发表声明,对该公司否认刻意“模仿”她声音的说法提出了质疑。

在约翰逊的声明发布后不久,OpenAI作出回应,宣布为尊重斯嘉丽·约翰逊,决定暂停使用Sky语音。此举显示出OpenAI对此次争议的重视,并愿意采取积极措施以平息事态。但随着AI技术不断演进,这类事件也绝不会停息,我们应该怎样应对呢?

“寡姐”遭遇OpenAI背刺

不久前,OpenAI的现场演示后,许多观察者将其与斯嘉丽在2013年斯派克·琼斯(Spike jones)执导的浪漫科幻电影《她》(Her)中的配音进行了对比。该影片讲述了一个男子与电脑操作系统女声之间产生情感纠葛的故事。

OpenAI的首席执行官山姆·奥特曼(Sam Altman)曾公开表示,《她》是他钟爱的电影之一。在ChatGPT新版本发布后,他还在社交媒体上提到了“她”这个词,这无疑加剧了人们的联想。然而,OpenAI的高层随后否认了斯嘉丽与这款新语音助手有任何直接联系。

OpenAI首席技术官米拉·穆拉蒂(Mira Murati)表示,公司并未刻意模仿斯嘉丽在电影中的性感电脑配音。她补充说:“这更多地体现了我们的想象力,以及我们作为一个社会的共同故事,而非技术本身。我们在开发这项技术时,并未受到电影或科幻故事的启发,而是致力于创造能够思考并对世界有深刻理解的机器。对于斯嘉丽的声音,我事先并不了解,甚至我后来还去听了她的声音。”

随后,斯嘉丽·约翰逊针对这一事件发表了声明,尽管拒绝了向OpenAI提供声音的邀约,但她仍然发现,ChatGPT最新发布的大模型GPT-4o使用了高度类似自己声音的Sky语音。对此斯嘉丽·约翰逊表示,震惊、愤怒和难以置信,并向OpenAI发送律师函,要求说明Sky确切的创造过程。

就在斯嘉丽·约翰逊声明发布不久后,OpenAI宣布撤下GPT-4o语音交互功能中的“Sky”声音,并用另一种名为“Juniper”的语音代替。OpenAI在声明中明确指出:“我们认为AI声音不应该刻意模仿名人独特的声音——Sky的声音不是模仿斯嘉丽·约翰逊,而是属于不同专业女演员使用她自己自然说话的声音。”

但是,对于Sky音色是否与斯嘉丽相近,网友众说纷纭,有人认为这纯属巧合,还有人认为OpenAI先训练了类似斯嘉丽的声音,在遭到拒绝后稍作修改就进行了发布。

其实这不是斯嘉丽·约翰逊第一次受到来自科技的伤害了,2017年,斯嘉丽就曾成为Deepfake视频的受害者,这些视频在网络上广泛传播,给她的声誉和隐私造成了严重损害。

事实上,类似的事件已经屡见不鲜。越来越多的公众人物和普通民众都成为人工智能技术滥用的受害者。这不仅侵犯了个人隐私,也对社会秩序造成了极大冲击。

斯嘉丽·约翰逊进一步发出呼吁,指出大家正在积极应对AI造假的问题,以维护个人的图像、艺术品,甚至身份的完整性。她强调这些疑虑应当得到明确和解决。她期盼这些问题能以透明性的方式得到解决,并通过恰当的立法措施保障所有人的权益。

元宇宙新声认为,面对互联网上泛滥的违法和不当内容,个人的维权之路往往艰难而漫长。要从根本上解决这一问题,还需要依靠法律手段。

近年来,世界各国已经意识到人工智能伦理规范的重要性,一些国家和地区着手制定相关法律法规。但总的来说,这一进程仍然较为缓慢。人工智能技术日新月异,而法律的完善需要一定的时间,这导致了当前人工智能伦理“真空地带”的出现。

AI生成的声音也可能违法

其实斯嘉丽·约翰逊的案例并不是孤案,在我国已经出现了第一例AI生成声音人格权侵权案。

2024年4月23日,北京互联网法院对全国首例“AI声音侵权案”进行一审宣判,认定作为配音师的原告,其声音权益及于案涉AI声音,被告方使用原告声音、开发案涉AI文本转语音产品未获得合法授权,构成侵权,书面赔礼道歉,并赔偿原告各项损失25万元。

原告殷某是一名配音师,她意外发现自己的声音被AI化后,在一款名为“魔音工坊”的APP上以“魔小璇”的名义对外出售。殷某以被告行为侵害其声音权为由,将“魔音工坊”的运营主体北京某智能公司等五被告起诉到北京互联网法院,要求五被告停止侵权、赔礼道歉及赔偿原告经济损失、精神损失的侵权责任。

不过,五被告均否认侵权。北京某智能科技有限公司认为,其APP中的声音产品有合法来源,来自被告某软件公司。软件公司称它使用的声音来源于被告影音文化传媒有限公司。影音公司认为它与原告有过合作,约定经原告录制形成的作品著作权归属其所有。被告平台运营商与涉案产品的经销商,也称自己不构成侵权。

针对这起案件,法官强调,声音作为一种人格权益,具有人身专属性,任何自然人的声音均应受到法律的保护,对录音制品的授权并不意味着对声音的授权,未经许可,擅自使用、许可他人使用录音制品中的声音,构成侵权。

元宇宙新声咨询了北京鼎世律师事务所执行主任孙亮律师,他表示:“《民法典》第四编为人格权编,在该编中就涉及自然人的肖像权、名誉权、隐私权、声音权益等民事权利进行了专门的规定。相关主体在利用AI技术进行创作的过程中,要对此予以重视,避免侵犯自然人的民事权益。”

经过查询,民法典第1023条规定,对自然人声音的保护参照适用肖像权的保护,明确将声音权益作为特殊的人格利益予以保护。但随着AI语音合成技术的广泛应用,声音被收集、合成、制作、模仿甚至篡改的现象越来越普遍,这对声音权益的保护提出了前所未有的挑战。

孙亮律师表示:“AI产品的开发者或者使用者,在利用AI技术生成人物形象、声音或者信息时,如果上述数据生成物可以识别到现实中的具体自然人,建议开发者或者使用者取得相关主体关于肖像权、声音、个人信息等进行AI化的明确授权。”

目前,我们看到《民法典》明确将“声音”作为一种民事人格权益予以保护。但随着AI技术迅速发展,还将会出现各种此前我们无法预测的“新案件”出现,我们希望法律更进一步完善,以保护人们在AI时代的财产和安全。

写在最后

人工智能技术是一把双刃剑。在给人类生活带来便利的同时,它也带来了诸多伦理困境。斯嘉丽事件再次敲响了警钟,提醒着我们直面人工智能带来的种种挑战。不过,这需要全社会的共同努力,需要企业、学界、立法机构等各方携手,在发展人工智能的同时,为之设置必要的“防火墙”。唯有如此,我们才能真正驾驭这一划时代的技术,让它更好地造福和帮助人类。

0 阅读:10

科技旋涡

简介:在这里,看懂科技