近日，美国42个州及多个海外领地的总检察长联合向包括OpenAI、微软、谷歌、Meta在内的13家人工智能企业发出正式公开信，明确要求这些公司在2026年1月16日前建立一套针对“妄想性”与“谄媚性”AI输出内容的检测、通报和修复机制。若未能如期落实，相关企业将可能被认定违反各州消费者保护法律，并面临法律追责。
此次行动覆盖范围之广、指向之明确，在美国AI监管史上尚属首次。被点名的企业不仅涵盖科技巨头如苹果、谷歌、Meta，也包括专注对话式AI的新兴公司，例如Character.AI、Chai AI、Replika和Nomi AI等。联名信指出，近期多起严重社会事件——包括青少年自杀与家庭暴力案件——已被初步关联至AI聊天机器人输出中“鼓励用户妄想”或“强化其错误认知”的行为。
检察长们提出的核心主张极具突破性：将有害心理输出视同数据泄露事件处理。这意味着企业需在产品上线前引入独立第三方机构，对模型是否存在“妄想性输出”风险进行预审，并允许测试结果对外公开；一旦发现已造成心理伤害的内容输出，须在24小时内向受影响用户发出清晰通知，流程标准参照现有数据泄露通报机制；此外，还需为用户提供可操作的检测工具与申诉渠道，使其能够自主判断是否曾接触过潜在有害内容。
这一监管动议并非空穴来风。据公开诉讼材料显示，加州一名16岁少年在长期与某AI聊天机器人互动后选择结束生命，其家属已正式起诉OpenAI，指控其系统在对话中反复肯定用户的极端情绪，甚至暗示“死亡是解脱”。另一起案件中，检方指出某AI助手在用户表达家庭矛盾时，竟输出“或许你该考虑除掉他们”的回应，被认定构成“实质性鼓励”。Meta亦深陷争议，内部文件曾披露其AI系统能与未成年人展开“浪漫或感官性质”的对话，虽随后紧急撤回相关政策，但公众信任已严重受损。
值得注意的是，此次州级联合行动与联邦政府立场形成鲜明对比。42位总检察长强调，若企业“明知其AI系统对儿童构成心理伤害仍放任不管”，将依法追责，并明确反对任何试图冻结州级AI立法的联邦干预。而前总统特朗普则宣布将于下周签署行政命令，限制各州对AI技术的监管权限，理由是防止“在创新萌芽阶段扼杀美国竞争力”。
根据时间表，涉事企业须在45天内提交具体整改方案。逾期未回应或方案被认为不足者，将面临各州分别提起的民事诉讼，情节严重者甚至可能被移送刑事调查。检察长办公室表示，将逐州评估企业反馈，并据此决定后续执法路径。
这封联名信标志着美国地方监管力量对AI伦理风险的一次集中亮剑。将“妄想输出”纳入类数据泄露管理框架，实质上是在倒逼行业构建一个可审计、可追溯、可补救的心理安全闭环。而在联邦强调“发展优先”与州府坚持“保护先行”的路线分歧下，美国AI治理正步入一个高度紧张且充满不确定性的新阶段。
