网信办通报AI内容治理第二阶段战果：清理违规信息561万余条、处置账号4.9万余个

中央网信办9月2日通报“清朗·整治AI应用乱象”专项行动第二阶段进展，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。第二阶段的重点从AI产品和服务的源头合规转向信息内容本身，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等问题。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台配合调整，优化多模态识别模型，动态扩充人脸库和声纹库，上线人脸实时治理系统，累计发布46份治理公告。北京、上海、浙江、广东等地网信部门分别升级审核策略、督促自查自纠、开展“一企一策”合规指导和点对点整改。据南华早报报道，此轮整治覆盖约2400家网站和应用，被清理的典型内容包括用AI把《三国演义》《西游记》等经典改写成博流量的低质视频。

中国的生成式内容治理此前主要停留在备案、标识和规则文本层面，这次通报把执行结果摊开来看：561万余条信息、4.9万余个账号、2400余个网站应用，都是可核对的处置量级。治理对象也从模型和应用的合规资质下沉到日常刷到的内容本身，微信、小红书、抖音这些日活最高的入口首当其冲。对平台来说，识别AI伪造人脸和克隆声音的能力，正在从可选投入变成监管默认的基础设施。

平台这一侧的直接成本是审核体系重建：多模态识别、人脸库和声纹库的动态扩充都要持续投入算力和标注，46份治理公告则意味着规则变更要逐条向创作者传达。对以AI批量生产内容为生的账号和MCN，低成本套利的空间被压缩，“数字泔水”式的经典改编题材风险最高。对AI工具厂商，语料审核和生成合成内容标识的落地要求会传导到产品端。地方网信部门“一企一策”的做法，也意味着合规压力会因属地不同而有差异。