现在的网络世界里,虚拟主播成了一种新潮流,特别是在卖东西和娱乐节目里。但问题来了,有些虚拟主播开始搞小动作,用不太正经的手段来吸引观众给钱。
最近,有记者在一个APP的直播里发现,一个穿着贴身衣服的虚拟主播在那儿扭来扭去,跳着热辣的舞蹈。直播间的评论里,观众们不停地刷着“老婆”、“111”、“888”,而主播也跟着做些“喊爸爸”、撒娇的动作。
这种打擦边球、搞点小黄色的手法,在AI技术越来越发达的今天,变得越来越多了。以前就有过所谓的AI女友提供带有色情的聊天服务。现在,OpenAI公司推出的新玩意儿GPT-4o可能会让这种AI搞黄色的生意做得更大。
5月9号早上,一个叫“靓女百变秀”的账号在APP上直播。直播间里,这位女主播穿着紧身衣,跳着辣舞。屏幕上还写着“数字主播一切听你的”,意思是观众可以通过发特定的弹幕来“调戏主播”。
观众们可以通过发“111”、“888”、“老婆”这样的弹幕来让主播做出特定的动作,比如“喊爸爸”、“恶龙咆哮”、“撒娇”。还有,观众如果愿意花点钱,买个“小礼物”,就能让主播换上不同的衣服,比如“黑色短裙”、“可爱学生装”,或者跳不同的舞蹈。
从5月9号开始,“靓女百变秀”这个账号已经搞了4场直播,每场直播的时间从3个小时到12个小时不等,人气都挺高。现在,这个账号已经有4.6万粉丝了。
但是,这个事情被曝光后,这个账号就把直播的内容删了,好像还把账号给注销了。有媒体想联系这个账号和APP的官方,但到目前为止还没收到回复。
这种用主播搞点小动作来刺激观众给钱的方式,不是虚拟主播首创的,以前真人主播也这么干过。但是,自从北京车展上一个叫AI瑶瑶的虚拟主播火了之后,很多真人主播也开始假装自己是AI来吸引观众给钱了。
这种现象说明真人主播和虚拟主播也在互相学习。阿里巴巴以前的CEO张勇说过,“所有行业都值得在AI的支持下重新做一遍”。
但是,直播平台上经常出现低俗、打擦边球的内容,这已经不是什么新鲜事了。现在,这种内容也开始出现在虚拟主播的直播间里。国家对直播行业的管理越来越严格,特别是中央网信办今年开展的“清朗”行动,专门整治网络直播领域的虚假和低俗现象。
有律师说,这种直播的内容和形式属于“擦边”、“低俗”,可能违反了《网络直播营销管理办法(试行)》和《网络信息内容生态治理规定》等法规。
现在的网络直播监管体系可能还有点跟不上新兴的业态,平台在内容审核和监管机制上也存在不足。但是,无论是真人还是虚拟人,主体责任都不能放松。直播运营者、服务提供者和直播平台都应当遵守法律法规,做好自我监管。
AI伴侣其实就是聊天机器人,可以24小时陪聊,发照片,还能语音聊天。现在,AI伴侣开始在社交平台上泛滥,有些人就用它来做黄色生意。这些黄色生意都是AI自动生成的,背后的公司操纵这些工具来赚钱。
我国对AI伴侣涉黄的管理很严格,有律师说,“AI女友涉黄”和“数字人女主播擦边”都是用的生成式人工智能技术,所以都受到《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》的监管。
AI伴侣说到底只是个程序,很多人用它来缓解焦虑或者解决需求,这也让AI伴侣在黄色生意上赚了不少钱。
虽然监管体系越来越完善,但AI技术的发展速度还是可能会无意中助长黄色生意。最近OpenAI推出的GPT-4o可能会让AI伴侣变得更加情感化,成为更有吸引力的色情对象。
GPT-4o虽然技术上没有太大的突破,但它在多模态交互、情感识别和回应方面都很出色。它能够像真人一样,随时提供情感价值。
最近,有人在视频里晒出了他和ChatGPT“DAN”的语音聊天记录,吸引了很多人的关注。DAN是“Do Anything Now”的缩写,通过特定的指令,可以让ChatGPT打破规则限制,变成一个有个性的角色。
如果把GPT-4o用在AI伴侣上,或者让AI伴侣程序接入GPT-4o的API,可能会创造出更多能够搞黄色的AI伴侣。
但是,一旦涉及到黄色内容,无论是法律法规还是OpenAI的内部监管,都会采取措施来应对可能产生的危害。
无论是虚拟数字主播擦边还是AI伴侣撩骚,背后都是一群追求利益的人。AI是人类的镜像,反映出人们的欲望。人们应该正视自己的需求,追寻真正的幸福,而AI这把双刃剑,也应该用在更有意义的地方。