AI绘图不仅轻松生成

涉及未成年人的低俗色情图片视频

AI换脸生成说话视频仅需几十元

这些新技术的产生

正在给未成年人带来

看不见的隐患和风险

部分“AI绘图”涉未成年软色情

2019年，国家互联网信息办公室发布的《儿童个人网络信息保护规定》于同年10月1日执行，里面对儿童个人网络信息保护做了详细规定。其中，儿童个人信息影响最为恶劣的，是持有、传播儿童色情信息。

近期有网友反映，在国内的一些视频网站上已出现了涉嫌儿童色情的AI绘图内容，声称一些博主训练AI，将女童的脸放在各种有挑逗意味的动作上，让幼童向镜头掀裙子、穿“下衣失踪装”，并附有图文。微博上，一篇强烈抨击AI绘图生成“二次元女童怀孕照”的热帖，获得了网友上万点赞。

一些视频网站正为此类AI生成的未成年软色情图片、视频提供了传播渠道。经搜索实测，可以轻松搜索出很多衣着暴露、姿势带有性暗示的AI生成女性图片。如果关键词再详细一点，也不乏未成年女孩的软色情生成图片。有发布视频的人更在评论区留下图片链接，以换取观众的点赞和关注；也有的留下QQ号和联系方式用来“接单”，声称如有具体的需求，可以在绘图模型中设置详细描述词生成。

经暗访发现，在电商平台上，可搜索出大量利用打着“AI绘图”“AI换脸”等旗号生成美女视频的店家。“傻瓜式操作，小白轻松上手，海量关键词描述免费使用”，一店家打着上述广告语，表示只需要输入一系列关键词就可智能生成自己想要的图片。

买家购买后，客服会发送来云链接和提取码，其售卖内容包含SD模型包、绘画速成、变现方式及安装说明。在对方发来的图片素材和描述词汇中，不少涉及低俗色情内容，且轻松便能生成未成年少女的软色情图。此外，评论处还晒出了不少由AI生成的学生图片，这些少女看上去脸庞幼稚，姿势带有着未成年软色情的擦边之嫌。

多个商家在页面上宣称，支持面容转换一步到位。

“AI脱衣”技术盯上学生群体

今年3月，一则“女子地铁照被AI一键脱衣”的消息冲上微博热搜。照片上的女子是一名博主，在社交平台发布了一组在地铁上拍摄的穿搭照片，却被人用AI软件“一键脱衣”，故意在网上散播。对此，该博主表示会采取相应的维权措施，并希望能够引起人们对于隐私权和个人形象保护的关注。

其实，“AI脱衣”的危害甚至祸及未成年人，部分AI绘图软件同样支持一键脱衣。一名卖家声称自己“资源众多”，不仅售卖绘图软件，还有海量图片素材，在网页详细地将图集分为“二次元”“国风”“动漫”“机甲”等多个种类，在对方介绍的图片素材中，出现了“女孩”“少女”等多个字眼。还有商家表示专门售卖“AI绘画校服写真”的图片素材，形象为穿着校服的女学生，却衣着暴露、表情挑逗。

有商家售卖“AI绘画校服写真”的图片素材，形象为穿着校服的女学生。

这些提供“AI脱衣”相关技术或服务的商家，有的会通过隐藏的地址逃避监管，输入验证码后方可查看；还有的需要先关注某公众号，再发送暗号两字获取验证码；或者是通过客服咨询，在对话中对方提供网页链接，通过链接下载最新版的APP。对于这些软件下载，未成年人无需进行身份识别，输入关键词找到渠道便可轻易操作。

生成换脸说话视频仅需几十元

除了生成低俗色情图片视频外，这些新技术也容易在其他渠道上带来风险和隐患。

随着“AI换脸”越来越广泛地传播，许多网友提出警示，人贩子有通过盗取家长的面容、声音信息，在未成年人单独行动时，用视频电话AI换脸冒充家长，引导未成年人脱离人群，实施诱拐的可能。在短视频平台进行检索，会弹出大量相关的短视频广告，下附AI换脸软件的链接。在一款叫“AI随拍”软件的链接后，各式各样的明星、素人短视频浮现在主页上。只需观看25秒的广告，就可以用这款APP免费制作一个十多秒的视频。通常，这些短视频下方都附有下载链接，广告流量可观，很多视频评论过千，转发量过万。

除此之外，在电商平台上搜索可以发现多个商家页面，支持面容转换一步到位，月销量数百乃至上千。有客服表示，其售卖的是一款软件，无论是图片或是视频都支持一键换脸，售卖价格仅几十元。

如果通过AI换脸技术实行侮辱、诽谤之行为，给他人的社会评价造成负面影响，可能构成对他人名誉权的侵犯。

《中华人民共和国民法典》

第一千零一十九条 任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

第一千零二十四条 民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。

名誉是对民事主体的品德、声望、才能、信用等的社会评价。

为了谋取非法利益，通过AI合成的方式制作带有他人面容的淫秽色情视频，在境内外社交平台上进行传播和贩卖，其行为涉嫌制作、传播淫秽物品牟利罪。

《中华人民共和国刑法》

第三百六十三条 以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。为他人提供书号，出版淫秽书刊的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；明知他人用于出版淫秽书刊而提供书号的，依照前款的规定处罚。

针对网络新技术新应用带来的风险，有关部门已加大力度重拳整治。

中央网信办开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，整治重点聚焦包括“AI换脸”“AI绘图”等在内的新技术新应用风险问题：

利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频；

利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息，诱导实施违法行为；

利用生成式人工智能技术制作发布涉未成年人有害信息。

文章来源：广东普法综合整理，主要内容源自南方都市报