今日，美国加州总检察长罗布·邦塔向xAI公司发出正式要求，阻止其聊天机器人Grok生成涉及儿童的不良深度伪造图像。此前，Grok因能生成未经同意的色情相关不良内容而受到持续指控。邦塔办公室发出的“终止”函要求xAI立即整改，防止Grok生成任何未经当事人请求的不良图像，尤其是涉及未成年人的内容。信函警告，若继续此类行为，将违反加州多项法律，包括深度伪造色情内容、儿童性虐待影像等法规。xAI需在1月20日下午5点前完成整改。

X平台本周已对Grok功能进行限制，通过技术手段禁止对穿着暴露服装的真实人物图像进行编辑，但报道指出，X应用和Grok应用仍可生成不良图像。Grok因能在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容，正遭遇多国政府的反弹与法律追责。英国首相基尔·斯塔默曾公开批评Grok生成的相关图像，印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok。