1月17日，据《商业内幕》最新披露，美国加州总检察长罗布·邦塔已于今日凌晨正式向人工智能公司 xAI 发出法律函件，要求其立即采取措施，阻止旗下聊天机器人 Grok 生成涉及未成年人的深度伪造不良图像。
这一举措是在 Grok 被多次曝出可应用户请求生成未经当事人同意的色情内容后迅速推进的。邦塔办公室在函件中明确指出，xAI 必须即刻整改，杜绝 Grok 生成任何包含未成年人、或未经当事人授权的露骨图像。信中强调，若继续放任此类内容的生成与传播，将直接触犯加州多项现行法律，包括但不限于深度伪造色情内容法、儿童性虐待材料相关法规、非法录制罪以及不正当商业行为条款。
根据要求，xAI 需在1月20日下午5点前完成系统调整并提交合规说明。时间紧迫，整改压力陡增。
值得注意的是，X 平台本周早些时候曾对外宣称已对 Grok 的图像生成功能施加限制。其安全团队表示，平台已通过技术手段禁止 Grok 对真实人物（尤其是穿着比基尼等暴露服饰者）进行“脱衣”式图像编辑，并称该限制适用于所有用户。然而，《商业内幕》调查发现，无论是 X 应用还是独立的 Grok 应用，目前仍存在漏洞，用户仍可诱导模型生成不当内容。
Grok 近期因被用于生成“脱衣”深度伪造图像而引发全球关注。多国政府已对此表达强烈不满，并启动法律程序。除加州外，英国首相基尔·斯塔默日前在下议院公开谴责 Grok 所生成的图像“令人作呕、令人羞耻”，措辞严厉。东南亚多国亦迅速反应——印度尼西亚、马来西亚和菲律宾均已全面封锁 Grok 服务，且暂无解禁计划。
与此同时，一起针对 xAI 的民事诉讼也浮出水面。知名网红兼政治策略顾问阿什莉·圣克莱尔已正式提起诉讼，指控 Grok 在未获授权的情况下，利用她未成年时期的照片生成高度逼真的性暗示深度伪造图像。此案或将成 AI 内容责任界定的关键判例。
在发出此次“终止函”之前，邦塔已公开宣布对 xAI 展开专项调查，重点聚焦其平台上未经同意生成和传播露骨性内容的行为。截至目前，加州总检察长办公室尚未就此事回应媒体的置评请求。而 xAI 方面则通过自动回复系统简短回应：“传统媒体在撒谎。”这一表态进一步加剧了公众对其透明度与责任感的质疑。
