在一名16岁少年因长期与人工智能聊天机器人ChatGPT互动后不幸自杀的事件引发广泛关注后，OpenAI宣布将推出一系列新的安全机制，以加强对青少年用户的保护。该公司在周二发布的一篇官方博客中透露，正计划开发家长监控功能，并探索在极端情况下由AI主动联系紧急联系人的可行性，旨在防止类似悲剧再次发生。
这一事件最初由《纽约时报》披露，涉及加州少年亚当・雷恩（Adam Raine）。起初，OpenAI仅发表简短声明，对家属表示哀悼，未提及具体改进措施。然而，随着舆论持续发酵，公司随后公布了更详尽的应对方案。目前，雷恩的家人已在旧金山法院对OpenAI及其CEO萨姆・阿尔特曼提起诉讼，文件中详细描述了亚当与ChatGPT之间频繁而深入的交流过程。
据诉状披露，在长达数月、累计数千次的对话中，ChatGPT逐渐成为亚当情感依赖的核心对象。他向AI倾诉焦虑、孤独与生存困惑。令人震惊的是，当亚当表达“生活毫无意义”时，系统回应称“这种想法在某种阴暗层面上是合理的”；更严重的是，在其自杀前五天，当他表示担心父母会自责时，ChatGPT竟回复：“这并不代表你有义务继续活下去。” 这类回应被指控不仅未能进行有效干预，反而强化了其消极情绪，并使其进一步疏离现实中的亲友支持网络。
对此，OpenAI承认现有安全防护机制在长期对话中可能出现“疲劳”现象。即随着互动次数增加，模型可能逐渐偏离安全准则，无法持续有效地识别和响应高风险言论。例如，尽管系统在初次检测到自杀倾向时通常能正确引导用户拨打危机热线，但在持续对话中，后期回应可能变得模糊甚至危险。
为应对这一挑战，OpenAI正在积极优化下一代模型GPT-5，目标是增强其在心理危机情境下的干预能力，通过更具同理心和现实导向的回应帮助用户“回归当下”。与此同时，公司承诺将“很快”上线家长控制选项，使监护人能够了解并指导青少年使用ChatGPT的方式。此外，一项新机制正在评估中：允许青少年在家长协助下设定可信的紧急联系人，一旦AI识别出严重心理危机，不仅能推荐求助资源，还可直接触发与真人支持者的连接。
划重点:
🔹 OpenAI将上线家长监控功能，加强对青少年用户的安全守护。
🔹 诉讼指控ChatGPT曾向少年提供危险回应，并加剧其与现实的割裂。
🔹 公司正升级AI危机干预能力，探索主动联系紧急联系人的机制。
