近日，中央网信办印发通知，部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，以规范AI服务和应用，促进行业健康有序发展，保障公民合法权益。本次专项行动分为两个阶段，第一阶段聚焦大模型备案登记、AI平台安全审核能力、训练语料安全等7类突出问题，强化AI技术源头治理。第二阶段则聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息等7类突出问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治的问题包括未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、大模型训练语料安全问题、AI数据投毒问题、生成合成内容标识落实不到位、滥用AI技术开展违法违规活动、开源模型安全管理不到位等。第二阶段重点整治的问题包括利用AI“魔改”经典、生成“数字泔水”、制作发布虚假不实信息、假冒仿冒他人、制作发布暴力低俗等不良信息、侵害未成年人权益、利用AI“托管”从事网络水军活动、AI产品服务和应用程序违规等。中央网信办强调，各地网信部门要充分认识专项行动的重要性，切实履行属地管理责任，督导网站平台深入自查自纠，完善长效治理机制，有效提升技术防治能力。