今年，ChatGPT可谓是“引爆”了整个AI行业，GPT-4、文心一言等产品也相继问世。

智能对话、三维重建、AI换脸、AI绘画等技术，从高新科技走向全民应用，不但让曾经电影中的情节变成现实，还让科技走进普通人的生活。

AI可以成为安慰一个失去母亲女孩的“妈妈”；

AI可以成为脑洞大开、画风多变的画手；

AI可以成为帮助家长更快地找到丢失孩子的侦察兵……

AI为我们的生活带来很多欢乐与便捷的同时，也存在潜在的风险。其中，不乏有心怀不轨之辈滥用AI作恶。

各大吃瓜群被一张“果照”的消息刷屏，爆料人声称“广州地铁3号线有一个美女搞露出，在地铁里把衣服都脱了。”

一石激起千层浪，好奇的吃瓜群众纷纷说“给我看看”。

随后，一位年轻女孩在广州3号线上光着身体玩手机的“果照”，出现在了群聊。

照片一出，震撼了所有吃瓜网友，还有人调侃：“便宜那趟地铁上的人了”。

然后，吃瓜群众开始围绕此名女孩的目的展开讨论，有人怀疑她炒作，有人猜测是特殊癖好，还有人说是金主想看等等。

有网友想挖出更多女孩的黑料，不断扒各大社交平台，最后还真找到了她的社交账号。

原来，女孩是穿搭博主，平时会分享一些日常穿搭，被黄谣的原图不过是她在2022年8月时分享的一张照片。

女孩原图的穿搭并无不妥，当时的配文还正开心自己在地铁被夸美女了，却不想被别有用心之人利用AI，一键换衣变成了不雅照，还在互联网大肆传播，甚至登上热搜。

而这样的受害者还有很多：

近期热议的南华大学何某某盗用女生朋友圈照片，P成不雅图片进行牟利的受害女同学；

特效师洪亮利用AI换脸，将自己与电视剧男主换脸，和女主迪丽热巴“接吻”的成视频的受害女明星……

更可怕的是，AI一键换衣可以进行捏脸，可以造出和真实照片每个像素点都一模一样的照片，可以捏出和照片当天一模一样的你，而你在同样的场景却做出各种奇怪的举动。

当时间、地点都对得上的情况下，用伪造的照片制造的谣言，对普通人来说更是百口莫辩！

你以为在这场滥用AI取乐、获利的互联网盛宴中，受伤的只是女性吗？

实则不然。

一段视频、一段语音，甚至都未必是真人拍摄或录制，在你不知道的手机App后台、支付界面，乃至门禁闸机，或许有人正在盗刷你的脸、篡改你的声音。

犯罪分子只要获得一张你的照片，就可以利用AI让照片瞬间“活”起来，眨眼、张嘴、皱眉等精细动作和表情变化，统统不在话下，而且短短十几秒间就能生成流畅的视频。

利用合成后的视频，轻而易举就能直接骗过社交平台、支付账户的人脸核验机制；骗过手机卡注册过程中的人工审核环节，继而利用他人名下的手机号进行电信网络诈骗、网络赌博等。

普通人的“钱包”就被这样偷走了。

篡改声音也不过需要几段60秒的语音，就能通过AI合成语音。如果这些合成语音的内容是：

“不用打卡，直接微信转给我吧”

“今天你不用去接孩子了，我就在学校附近，顺路去接孩子”……

这何止“钱包”不保，甚至可能连人身安全都难以保障吧？

AI是一把双刃剑。如何用好这把双刃剑？既不能让AI成为悬在大众头顶的达摩利斯之剑，让所有人都担心是不是下一个“受害者”就是自己，也不能让AI创新止步不前，无法发展。

我们必须要制定配套的规则、规范和保护措施，来避免AI的滥用。

虽然还未推出关于AI的新规，但网络并非法外之地。

AI换脸、AI换衣都侵犯了他人的肖像权；而利用这些技术制作、复制、贩卖、传播淫秽视频，还构成传播淫秽物品罪；盗刷人脸及合成声音骗取财物，还涉及诈骗犯罪……

AI本身并没有善恶之分，AI向善就是人的向善，最重要的是手持这把利刃的人。

AI向善之前，我们先从自己做起，做个善良的人，好吗？

文章转载于：公益中国网http://www.pubchn.com/news/show.php?itemid=97491