近年来，生成式人工智能（AIGC）技术迅猛发展，在赋能内容创作、提升生产效率的同时，也催生了大量滥用、误用甚至恶意使用的问题。从伪造新闻到深度伪造视频，从低俗“数字泔水”到侵害未成年人权益的内容，AI技术的双刃剑效应日益凸显。为回应社会关切、规范行业发展，中央网信办于2026年4月30日正式启动“清朗·整治AI应用乱象”专项行动，计划用四个月时间，分两个阶段对AI应用中的突出问题进行系统性治理。
此次行动并非简单“一刀切”，而是采取“源头治理+内容清理”双轨并进的策略。第一阶段聚焦技术供给端，重点解决AI服务提供者在模型开发、部署和运营中的合规缺失；第二阶段则直面内容消费端，严厉打击利用AI生成传播违法不良信息的行为。这种“治本+治标”的组合拳，体现了监管部门对AI生态全链条治理的深刻理解。
第一阶段：强化AI技术源头治理
第一阶段的核心目标是压实平台主体责任，确保AI系统从设计之初就嵌入安全与合规基因。整治重点涵盖七大类问题，每一项都直指当前行业痛点。
首先是大模型备案登记义务的落实。根据《生成式人工智能服务管理暂行办法》，所有面向公众提供服务的大模型必须向网信部门备案。然而现实中，不少中小型AI公司或创业团队为规避监管，选择“先上线后补票”，甚至完全绕过备案程序。这种“应备未备”现象不仅削弱了监管效力，也为后续风险处置埋下隐患。
其次是平台安全与审核能力不足。部分AI平台在模型训练阶段缺乏价值导向校准机制，导致生成内容夹带违法不良信息。更严重的是，一些平台在输出层未设置有效“安全围栏”，甚至直接在生成结果中附带包含非法内容的云盘链接或网站地址，形成二次传播风险。
第三是训练语料的安全与合规问题。高质量、合法合规的训练数据是AI模型健康发展的基础。但当前不少模型依赖网络爬虫获取海量数据，其中混杂大量侵权内容、违法信息甚至恶意代码。更有甚者，训练数据覆盖面狭窄，导致模型输出存在偏见或知识盲区，影响其公共服务能力。
第四类问题是AI数据投毒——这一术语虽源自网络安全领域，但在AIGC语境下被赋予新内涵。攻击者通过篡改训练数据、伪造权威信源或利用GEO（生成式搜索引擎优化）技术，诱导模型输出错误或有害信息。例如，在医疗问答场景中植入伪科学建议，或在金融咨询中推荐高风险产品。更值得警惕的是，部分电商平台公然兜售“数据投毒教程”和工具，形成黑色产业链。
第五项整治重点是生成合成内容标识落实不到位。尽管《人工智能生成合成内容标识办法》已明确要求对AI生成内容进行显著标识，但执行情况参差不齐。有的平台仅在角落添加极小透明水印，有的则完全省略标识。更恶劣的是，网络上还存在大量“去AI标识”教程和工具，帮助用户规避识别，加剧信息真实性危机。
第六类是滥用AI技术从事违法违规活动。这包括利用AI进行网络攻击、未经授权的“换脸拟声”服务、盗用他人形象制作虚拟人直播，甚至通过智能体窃取用户隐私数据。此类行为不仅侵犯个人权益，还可能扰乱金融市场、医疗咨询等专业领域秩序。
最后是开源模型安全管理缺失。开源社区本应是技术创新的沃土，但若缺乏身份认证、内容审核和应急响应机制，极易成为高危模型和恶意数据集的温床。一旦这些模型被下游应用集成，风险将迅速扩散至整个生态。
第二阶段：清理AI生成的违法不良信息
如果说第一阶段重在“防患于未然”，第二阶段则聚焦“清除已成之患”。该阶段针对七类典型内容乱象，旨在净化网络空间，保护公众尤其是未成年人的合法权益。
首当其冲的是**“数字泔水”的泛滥**。所谓“数字泔水”，指那些逻辑混乱、价值空洞、充斥错误导向的批量生成内容。一些创作者滥用AI“魔改”经典文学或影视作品，歪曲历史人物形象，植入低俗暴力元素，不仅亵渎文化传统，还误导公众认知。这类内容往往以流量为导向，牺牲内容质量与社会价值。
其次是虚假不实信息的制造与传播。AI可快速生成涉政治、民生、突发事件的谣言，甚至假冒党政机关或主流媒体发布假新闻。在专业领域，如医疗、司法、金融等，未经验证的AI生成信息可能引发严重后果。例如，推荐错误用药方案或传播伪法律建议，直接威胁公众安全。
第三是假冒仿冒他人行为。利用AI“换脸”“换声”技术冒充公众人物发表不当言论，已成为新型网络欺诈手段。更有甚者，生成与名人“亲密合影”或“私密视频”用于营销牟利，严重侵犯肖像权与名誉权。而“AI复活逝者”若缺乏伦理约束，也可能对家属造成二次伤害。
第四类是暴力低俗内容的生成。AI可轻易合成血腥暴力场景或诡异猎奇画面，挑战社会公序良俗。在性别议题上，部分AI生成内容刻意突出女性身体部位，制造擦边球图片或带有性暗示的小说，助长物化女性的不良风气。
第五项重点是侵害未成年人权益。这包括恶搞儿童形象、生成未成年人怀孕或打架等违背年龄特征的内容，以及以动画角色为原型制作“邪典”视频。这些内容不仅违反《未成年人保护法》，还可能扭曲儿童价值观，影响其健康成长。
第六是AI“托管”驱动的网络水军活动。通过AI群控软件批量注册账号、自动生成同质化文案、刷量控评，制造虚假舆论热点。这种“机器水军”比传统水军更难识别，且成本更低，严重污染网络讨论环境。
最后是违规AI产品与应用的传播。市场上存在大量仿冒AI应用，提供“一键脱衣”、色情陪聊、AI算命等违法功能。部分平台还为这些应用进行推广引流，形成灰色产业链，亟需从源头切断。
治理逻辑：从被动响应到主动防控
此次专项行动的深层意义，在于推动AI治理范式从“事后追责”转向“事前预防”。过去，监管部门多在问题爆发后介入，但AI内容的传播速度与规模使得“亡羊补牢”效果有限。如今，通过强制备案、语料审核、安全围栏、内容标识等制度设计，试图在技术开发与部署阶段就嵌入合规要求。
同时，行动强调“平台自查自纠”与“属地管理责任”相结合。各地网信部门需督导平台全面排查漏洞，完善长效治理机制。这意味着治理不再是中央单点发力，而是构建全国协同的监管网络。
值得注意的是，整治并非抑制创新，而是为AI健康发展划定边界。正如通知所言，目标是“促进行业健康有序发展”。只有清除乱象，才能让真正有价值的AI应用获得用户信任与市场空间。
未来，随着AI技术持续演进，治理规则也需动态调整。例如，如何界定“合理二创”与“恶意魔改”？如何平衡开源创新与安全管控？这些问题仍需在实践中探索答案。但可以肯定的是，2026年的这场“清朗”行动，将成为中国AI治理体系走向成熟的关键一步。
