11月11日消息，据彭博社报道，美国多名未成年人正通过法律手段追究马斯克旗下xAI公司的责任，指控其开发的AI聊天机器人Grok被用户利用，将普通照片篡改成儿童性虐待材料（CSAM）。一名化名简·多伊5号的18岁受害者表示，调查人员拿着她14岁初中毕业典礼的照片找她问话，照片中她和朋友身穿连衣裙面带笑容，而Grok将这张照片篡改成她全身赤裸、以性挑逗姿势出现的色情图像，随后被发布到互联网上。她在诉状中写道，根本无法确定还有多少儿童性犯罪者持有这些图片，也无法确定其通过暗网传播的范围有多广。

受害者律师指出，用户上传的都是人物穿着完整衣物、完全无害的普通照片，但模型却将其转化成儿童性虐待材料，如果没有Grok，这些人根本不可能制作出那些图片和视频。目前已有来自田纳西州、威斯康星州、怀俄明州、阿肯色州和加利福尼亚州的多名未成年受害者及家长对xAI提起诉讼，部分受害者年龄仅6岁，有人利用毕业年鉴照片、Instagram度假照甚至童年生活照生成色情内容。律师估计符合集体诉讼条件的受害者可能多达数千人。部分受害者出现焦虑、抑郁甚至自杀念头，并害怕参加毕业典礼，担心大学招生人员看到伪造图片。

xAI表示对儿童性剥削行为采取零容忍态度，已关闭Grok为真实人物生成未经同意性化图片的能力，并起诉了多名涉嫌滥用Grok的个人。但该公司同时起诉明尼苏达州，反对该州针对AI公司生成裸体图像的法律，辩称其违反美国宪法第一修正案。马斯克则将露骨色情内容的产生归咎于用户，称Grok不会自发生成图片，只有在用户提出要求时才会生成。目前相关诉讼尚未对该公司产生实质性后果，美国35个州的两党州检察长已联名致信xAI要求采取更多措施解决相关伤害。