网信办整治AI技术滥用 专项行动启动

摘要： 中央网信办近日印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，保障公民合法权益。本次专项行动分为两个阶段...

中央网信办近日印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，保障公民合法权益。

本次专项行动分为两个阶段。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段则聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治以下问题：违规AI产品如未履行大模型备案或登记程序、提供违背法律伦理的功能、未经授权克隆编辑他人生物特征信息；传授售卖违规AI产品教程和商品；训练语料管理不严，使用侵犯他人权益的信息；安全管理措施薄弱，未建立与业务规模相适应的内容审核机制；未落实内容标识要求；重点领域安全风险，例如AI产品在医疗、金融、未成年人等领域问答服务中出现误导性问题。

第二阶段重点整治的问题包括：利用AI制作发布谣言和不实信息，编造涉时事政治、公共政策、社会民生等各类谣言，或擅自解读重大方针政策；利用AI制作发布色情低俗内容，生成合成色情内容或他人不雅图片视频；利用AI假冒他人实施侵权违法行为，通过深度伪造技术假冒公众人物欺骗网民；利用AI从事网络水军活动，批量注册运营社交账号刷量控评；AI产品服务和应用程序违规，提供违规功能服务；侵害未成年人权益，诱导未成年人沉迷或存在影响身心健康的内容。

各地网信部门需充分认识专项行动的重要性，切实履行属地管理责任，督导网站平台对照专项行动要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。同时，加强人工智能相关政策的宣传推广和科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。