网信办通报AI乱象典型案例：魔改名著、AI换脸齐上榜，561万条违规信息被清理

清朗行动第二阶段，交出一份大数字

今天（9月2日），中央网信办公布了"清朗·整治AI应用乱象"专项行动第二阶段的最新进展。先感受几个数字：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。注意，这还只是第二阶段。

这次整治聚焦四类问题：用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。

通报里有两个说法特别形象。一个是"数字泔水"——指用AI魔改《三国演义》《西游记》这些经典名著，把重要人物的人设颠覆掉，编一堆低质猎奇剧情博流量。好好的名著被AI"糟蹋"成流量工具，难怪官方用这么重的词。

另一个是"毒动画"，指表面是儿童动画、实际塞满暴力恐怖和软色情的AI生成视频。通报里点了名：有账号批量生成未成年人怀孕、打架等与其年龄完全不符的内容，甚至制作"虐向""邪典"视频。这已经不是打擦边球了，是直接往红线外面冲。

整治不是只针对小账号。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝这些平台都被要求强化技术识别，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统。豆包、元宝、千问、文心一言等大模型应用，则被要求严把语料审核关，把AI生成内容标识要求落到实处。

华为、小米、OPPO、vivo等应用商店也制定了更严的开发者准入规范，对在架App抽检复测。连用"AI托管软件"批量养号、模拟真人互动的水军产业链，这次也被点名整治了。

从AI换脸假冒公众人物，到AI数字人虚假带货骗老年人，这轮通报里的案例，几乎把AI滥用的常见姿势都覆盖了一遍。网信办也说了，接下来会紧盯AI生成合成内容的新情况新风险。

说白了，技术本身没原罪，但拿技术干坏事的人，跑不掉。这轮整治至少能让那些想靠AI钻空子的人掂量掂量：擦边球，越来越不好打了。对我们普通用户来说，也多留个心眼——看到那些离谱的"AI新闻"、莫名其妙的带货数字人，先别急着信，动动手指举报一下，也算是给清朗行动添把柴。