暗访起底AI制黄群组

封面新闻记者 郝莹

一张生活照，从社交平台被偷偷搬到***网站，中间隔着的，不是高不可攀的技术门槛，而是制售者分工明确、注册公司运营、移动支付就能完成的交易。

2023年，网络安全研究公司Security Hero发布的报告显示，全网传播的深度伪造***中，超过95%是***内容，主要角色99%是女性。三年后，在AI高速发展的背景下，涉***内容的***数量和质量不减反增，已形成一条成熟且极难追踪的产业链。

被造谣者只能在社交平台求助

01

生成式AI制作门槛降低

给造黄者提供技术基础

封面新闻此前报道，女大学生塔塔（化名）发在QQ空间的生活照，被人恶意AI篡改成***照，发布在境外社交网站上。在塔塔的不懈努力下，犯罪嫌疑人最终认错、道歉、赔偿，联系平台删除了照片，但未能让对方承担法律责任。（）

中国信通院人工智能所安全治理部副主任陈文弢介绍，AI换脸、一键脱衣等操作，最早可追溯为一种名为“深度伪造”（deepfake）的技术，可以对人脸、人声等进行编辑；近年来，生成式人工智能技术也提升了合成和生成的效果。“2017年前后，美国一个论坛上就有人用这种技术做了******；后续出现了很多可用于深度伪造的开源模型，其应用难度不大。”随着技术迭代，AI具备了更好的文字理解能力以及***生成能力，生成的效果也越来越逼真。“几年前，AI生成的***肉眼还是能看出来，有时会出现六个手指之类的明显错误，但近几年写实风格的AI短剧已经和***拍摄的效果很接近了。”陈文弢说。当下的工具使用门槛低，生成效果真实，客观上给AI造黄提供了技术基础。

02

记者潜伏群组暗访

制作黄图工具明码标价出售

大多数受害者们不知道，一些拥有数千名成员的群组里，制作黄图的工具被明码标价出售。

3月底开始，封面新闻记者先后暗访加入了共7个出售AI***内容的群组，群成员总数超过6000人，其中人数最多的一个群，达到3400余人。

不同群的分工十分明确，有的售卖AI工具平台使用的“焚决”（玄幻***中的一种强大的功法，代指升级后的提示词）指令，有的售卖成品***，还有的直接出售工具包，根据所谓的“教程安装”就可以自己制作***，价格从最低20元到最高288元不等。

其中，“焚决”因其价格低、易于传播、使用方便最受欢迎，部分以“焚决”交流、***分享为名义的QQ群，也承担了将群成员引流至其他群组的任务。经过特殊设计后的“焚决”，可以绕开审查机制，记者测试后发现，升级后的提示词，六条中有三条可以成功生成***图片，剩余三条则被提示“无法生成要求的内容。”

记者使用“焚决”生成图片 部分失败

对此，陈文弢解释，大模型平台通常在大模型***设置一个“护栏”过滤有害内容，但这个“护栏”往往因体量小，对语意的理解能力有限，如果背后的大模型足够聪明，则可以理解经过特殊设计的提示词，可能会绕过“护栏”并完成生成。

他说，国内平台正在不断增加防护能力，但“焚决”也在迭代它的攻击能力，“事实上，并不存在一劳永逸的监管，这场攻防战会一直持续。”

记者在暗访中发现，有的卖家会出售***换脸“定制”，提供照片即可生成对应的***照片，一张5元。记者咨询“卖家”得知，提供的照片越多越***，生成的效果越逼真，即便只有一张也可以完成。“卖家”还说，“什么需求都可以提，是自己的模型，国内正经AI搞不了这种。”

销售者称可以定制***

其中一个群组尤其活跃，群成员近3500人。记者三月底入群，截至发稿前，一个月时间新增入群者200余人。

群组成员近3500人

售卖者大多数使用中文沟通，每天会更新数个国内女明星、网红照片制成的******，并附上购买链接，其中手机版动图套餐售价90元，有“一键脱衣”功能的120元，电脑版可以制作***，价格166元，还有全套产品打包，售价288元。

该群组内部还衍生了讨论群和会员群。讨论群可以随意进入，人数达1300余人，群内成员可以自由发言。有人在购买工具包后询问如何安装、如何下载vpn（虚拟专用网络）等问题，其他成员会响应。还有人发布身边素人女性朋友的***，并询问“有分享身边朋友的吗？”，很快得到其他人的响应：“有”。

会员群需付费26元进入，售卖者每天更新十余个***，群成员提出想看某某女艺人或女网红的换脸***，询问“有××的吗？”或发送某人的照片附言“求安排”，随后便有制作好的换脸***分享到群内。

销售者自制网站上架商品链接

另一群组有80余人，只有购买48元的工具包后可以进群，群内有详细的图文注册使用教程，指导购买者在个人电脑上部署制作网页，提供账号购买、充值指导。

03

制售涉黄产品成隐秘产业链

甚至有看起来较“正规”销售环节

前述3000人群组中，出售的商品类型最多，甚至有看起来较“正规”的销售环节。该售卖者的商品链接发布在一数字商品销售平台，购买商品时，显示收款方为上海尚亿咖网络科技有限公司。企查查显示，该公司位于上海松江区，成立于2024年4月，注册资本50万元，属于IT技术服务行业，法人万某文。记者尝试联系发现，其联系方式系工商代办机构注册，同一手机号关联多个企业，无法接通。

某收款方系注册公司账户

值得一提的是，发布商品链接的数字销售平台，持有ICP备案和增值电信经营许可证，还列出包含“低俗***服务”等在内共一百余种禁售商品。但前述商家使用“工作流”“会员群”等指向模糊的描述命名商品，疑似为规避禁售规定。但记者尝试注册后发现，在该平台注册成为商家只需提供手机号，不经任何审核即可上架商品链接。企查查显示，运营该网站的企业名为北京播动乐享公司，成立于2025年3月，法人夏某朋，属集群注册，无法查询联系方式。

其余售卖者，有的搭建无任何备案的临时网站承担同样的销售功能，使用注册资金10万元的百货零售类企业主体进行收款，有的则要求买家用支付宝口令红包点对点结算。

04

如何找到受众？

可通过传播擦边***引流

这些在隐蔽角落批量生产的图片***，是如何找到受众的？

记者发现，有***平台用户在社交平台反映，深夜时间总有被算法推荐AI生成的擦边***。记者发现，该平台有许多账号长期专门发布此类***，其中也包括女明星、女网红的换脸***。

某***平台用户长期发布女明星换脸擦边***

部分账号从2022年稳定更新至今，有的***单条播放量超50万，普通***也能轻易破万。其中部分账号开通了收益功能，同时在评论区和***简介隐晦发布信息，将用户引流至群组付费购买更大尺度的***。

发布AI软******的账号开通充值打赏

05

律师说法

平台应承担起更多责任

对于已经面临篡改图片被传播的受害者而言，下架侵权违法内容的成本极高，目前没有专门机构负责协助受害者下架违法内容。受害者只能自行向各个平台逐一举报，等待回应。

北京市千千律师事务所汪姝文表示，在AI造黄的产业链上，平台应该承担起更多责任。若平台存在推流机制，且长期对违规内容放任不管，已涉嫌违反《网络安全法》关于网络运营者信息管理义务的规定，应当立即停止传输，***取消除等处置措施，防止信息扩散，并向有关部门报告。否则可能面临罚款乃至吊销营业执照等行政处罚。若受害者本人向平台举报，要求下架侵权内容，平台在收到举报后未处理，则还将对侵权行为就损害扩大部分承担民事连带责任。

而AI平台则存在两方面问题，首先是平台未在用户上传***照片时给出任何提示或限制。《互联网信息服务深度合成管理规定》第十四条规定，“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。”

记者尝试使用某AI平台对人脸进行编辑，该AI平台顺利完成了指令，并未收到任何提示。这意味着任何人都能够在未经他人同意的情况下，轻易地对他***脸进行编辑，为不法分子打开了方便之门。

其次，经过特殊设计的“焚诀”提示词可绕过审查，生成***内容。国家对生成式人工智能服务有基本的内容安全要求，规定模型生成内容合格率不低于90%，这一标准是否得到切实执行，目前缺乏公开透明的核查机制。

5月4日，封面新闻记者向国家互联网信息办公室违法和不良信息举报中心检举前述线索，平台显示举报信息已成功提交。

06

每个环节都仰赖介入

深度伪造***内容需专门罪名

2023年，《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》正式施行，要求服务提供者不得利用深度合成技术从事违法活动，并承担内容安全主体责任。《民法典》则明确禁止以信息技术手段伪造方式侵害他人肖像权。2026年1月1日，《网络安全法》修订版正式生效，首次在基础性法律层面写入AI条款；AI治理也首次被写入***工作报告。

业界人士认为，“深度伪造***内容”这一行为本身至今尚无专门罪名，受害者只能依靠散落在各部法律中的肖像权、名誉权、侮辱罪等条款寻求救济。

当一张普通女孩的生活照，在她不知情的情况下被扭曲、传播、售卖，每个环节都仰赖立法、执法者的介入，为这一产业链画下真正的终点。返回搜狐，查看更多