中共中央网信办处置3500多款违规AI产品

中国官方持续整治人工智能技术滥用，整治AI技术滥用专项行动首阶段共处置3500多款违规AI产品。

据“网信中国”微信公众号星期五（6月20日）消息，“清朗·整治AI技术滥用”专项行动自今年4月启动以来，中共中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，推进第一阶段重点整治任务，部署各地网信部门加大违规AI产品处置力度。

第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

网信办称，各地网信部门积极履行属地管理责任，重点网站平台也积极履行主体管理责任，加强AI技术滥用源头治理。通报列举，在处置违规AI产品方面，腾讯规范应用程序管理，提高准入门槛，驳回、处置违规小程序、应用程序等共计570余款；在清理违规AI产品教程和商品方面，微博累计处置违规内容4800余条，并公布典型案例；在强化安全管理措施方面，抖音建立“红蓝对抗”机制，模拟攻击案例，修复潜在安全漏洞等。

接下来，中央网信办将聚焦AI造谣、低俗内容等七类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，维护清朗网络生态，推动人工智能向善向好。