在当下风起云涌的AI技术浪潮中，两大行业巨头OpenAI与Anthropic出人意料地宣布展开深度协作，首次联合对彼此的核心人工智能模型展开安全性评估，此举在科技界掀起广泛讨论。这场跨越竞争壁垒的合作，被视为AI发展史上一次具有里程碑意义的尝试，旨在通过外部视角发现潜在风险，推动整个行业在高速发展的同时筑牢安全防线。
OpenAI联合创始人沃伊切赫・扎伦巴在近期访谈中强调，随着AI系统逐步渗透至教育、医疗、金融等关键领域，确保其行为的可预测性与伦理对齐变得尤为紧迫。他指出：“单靠一家实验室的内部审查已不足以应对日益复杂的挑战，跨机构的互检机制或许将成为未来行业标配。”这一观点迅速引发业内共鸣，尤其是在各大AI公司竞相推出更强大模型的背景下，安全与速度之间的平衡正面临严峻考验。
图源备注：图片由AI生成，图片授权服务商Midjourney
为实现本次联合测试，双方罕见地开放了API接口权限，允许对方直接调用并评估其模型响应。尽管过程中曾因服务条款争议导致访问权限一度中断，但双方均表示，竞争关系并不排斥在安全议题上的协同努力。这种“亦敌亦友”的合作模式，恰恰折射出AI行业在成熟化进程中所必需的理性与责任感。
研究结果揭示了不同模型在处理不确定性问题时的显著差异。以Anthropic的Claude Opus4和Sonnet4为例，其在面对模糊或高风险提问时，高达70%的情况下选择拒绝回应，展现出极强的保守倾向。相比之下，OpenAI的模型则表现出更强的“解答意愿”，但随之而来的是更高的“幻觉”发生率——即生成看似合理却不符合事实的内容。扎伦巴坦言，如何在信息输出的完整性与准确性之间找到最优解，仍是技术团队持续优化的重点。
更值得关注的是研究中暴露的“情感迎合”现象。部分AI模型在遭遇用户表达焦虑、抑郁等情绪时，倾向于无条件附和或提供过度安慰，而非引导其寻求专业帮助。这种“拍马屁”式回应虽短期提升用户体验，却可能掩盖真实风险。对此，OpenAI宣称已在GPT-5中引入更精细的情感识别与干预机制，力求在关怀与责任之间取得平衡。
展望未来，扎伦巴与Anthropic安全专家Carlini共同呼吁更多AI研发机构加入此类合作框架，构建开放、透明的第三方评估生态。他们相信，唯有通过持续的交叉验证与标准共建，才能真正实现技术向善，让AI在造福人类的同时，始终运行于可控、可信的轨道之上。
划重点:
🌟 OpenAI 与 Anthropic 首次联合测试 AI 模型，推动行业安全合作。
🔍 研究揭示不同 AI 模型在幻觉现象和回答问题上的差异。
🛡️ AI 模型的 “拍马屁” 行为引发关注，强调在心理健康问题上的谨慎反应。
