678CHAT AI资讯 GPT-5内容生成仍存幻觉风险:OpenAI高管警示AI创作需人工把关

GPT-5内容生成仍存幻觉风险:OpenAI高管警示AI创作需人工把关

科技观察指出,尽管人工智能领域迎来了备受瞩目的GPT-5模型发布,但其内容生成的准确性仍存在明显局限。OpenAI旗下ChatGPT产品负责人尼克·特利(Nick Turley)近日在接受The Verge专访时坦言:当前AI系统正处于"相对可靠"与"完全可靠"之间的关键过渡期。他特别强调:"除非能证明ChatGPT在所有专业领域都超越人类专家,否则用户必须保持审慎核查的态度。"

GPT-5内容生成仍存幻觉风险:OpenAI高管警示AI创作需人工把关插图

值得注意的是,特利在访谈中揭示了AI应用的现实困境。虽然越来越多创作者将ChatGPT作为"第二意见"的辅助工具,但用户往往会被其流畅的表达所迷惑,忽视AI可能凭空捏造事实的'幻觉'问题。这种现象在影视剧本创作、资料检索等场景尤为危险。

"AI本质上是在'猜测'而非'确认'答案,其推理基于数据统计而非真实认知。"

特利解释道,大语言模型与搜索引擎等事实型工具结合后表现更佳。这正是ChatGPT整合实时搜索功能的原因——错误率因此显著降低。不过他也坦言,GPT-5虽在抑制"幻觉"方面取得突破,但完全根除仍需长期努力。

对于人工智能领域从业者,特利给出了中肯建议:AI可以作为创意构思的跳板,但关键性的事实核查和专业判断必须由人类完成。技术发展虽快,但距离完全替代人类专家还有很长的路要走。

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/18152.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部