中央网信办自2026年6月起设立“涉AI应用乱象举报专区”，配合“清朗·整治AI应用乱象”专项行动，专项受理公众举报。受理范围包括14类问题，涵盖大模型备案、平台安全与审核、训练语料与数据投毒、生成合成内容标识不到位、制作发布虚假信息、暴力低俗内容、侵害未成年人权益等AI服务与信息内容违规行为，旨在规范AI服务、促进行业健康有序发展并保障公民合法权益。
6 月 12 日消息，据网信中国公众号，为配合“清朗 · 整治 AI 应用乱象”专项行动，进一步规范 AI 服务和应用，促进行业健康有序发展，切实保障公民合法权益，中央网信办举报中心自 2026 年 6 月起开设“涉 AI 应用乱象举报专区”，专项受理公众举报。受理范围主要包括生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息等 14 类问题。
IT之家汇总受理范围如下：
AI 应用服务违规类
- 未按规定履行大模型备案登记义务
- AI 平台安全和审核过滤能力不足
- 大模型训练语料安全问题
- AI 数据投毒问题
- 生成合成内容标识落实不到位
- 滥用 AI 技术开展违法违规活动
- 开源模型安全管理不到位
AI 信息内容乱象类
- 利用 AI“魔改”经典、生成“数字泔水”
- 制作发布虚假不实信息
- 假冒仿冒他人
- 制作发布暴力低俗等不良信息
- 侵害未成年人权益
- 利用 AI“托管”从事网络水军活动
- AI 产品服务和应用程序违规