1月16日，据日本《读卖新闻》披露，针对社交媒体平台Ｘ近期因生成式AI图像编辑功能被滥用于制作他人色情图像的问题，日本政府已正式介入并提出明确整改要求。
当地时间1月15日，日本政府向Ｘ平台发出正式呼吁，敦促其立即采取有效措施，遏制不当AI生成图像的传播。若问题未能得到妥善解决，日本或将首次援引去年9月全面施行的《AI法》，对相关企业启动行政指导程序。此举标志着在全球多国陆续加强对生成式AI监管的背景下，日本首次就AI滥用事件公开表态，并披露具体应对路径。
目前，Ｘ平台所采用的图像编辑工具由旗下xAI团队开发，基于对话型人工智能模型“Grok”。用户可通过两种方式调用该功能：一是在发布内容的回复框中输入文字指令；二是在上传图片后，通过内置编辑界面下达修改命令。
自2023年12月下旬第二种操作方式上线以来，全球范围内利用该功能将他人照片篡改为泳装、内衣甚至近乎裸露形象的案例迅速激增。在日本国内，已有包括知名偶像及疑似未成年人在内的多起照片被恶意加工事件曝光，引发社会广泛关注与担忧。
据政府内部人士透露，负责《AI法》执行的日本内阁府已于1月9日以口头形式向Ｘ平台提出严正关切，指出当前技术机制使他人肖像极易被篡改并广泛扩散，构成对个人权利的严重侵害，并要求平台强化对色情类图像生成的限制。
与此同时，内阁府还依据《AI法》框架，向Ｘ发送书面问询，要求其说明对当前滥用问题的立场、是否具备拒绝生成不当内容的技术机制，以及未来拟采取的具体对策，并限期尽快提交详细回应。截至1月15日晚间，Ｘ方面尚未就上述要求作出正式答复。
在舆论压力下，Ｘ已于1月9日将图像生成功能限定为仅向付费用户开放，并于15日进一步宣布引入技术过滤手段，禁止用户将现实人物图像加工为比基尼等高暴露度形象。然而，《读卖新闻》在当日19时的实测中发现，部分高风险图像仍可成功生成，表明现有防护措施尚存明显漏洞。
日本《AI法》自2023年9月起全面实施，旨在平衡生成式AI技术创新与社会风险管控。根据该法，当AI应用导致公众权利受损时，政府有权展开调查，并据此对企业提出行政指导或建议。不过，该法律目前未设罚则，亦无实际适用先例，此次事件或将成其首次实践检验。
