面对人工智能的迅猛发展，学术界的“教父级”人物间也出现了分歧。当Hinton建议下一代考虑从事“水管工”这类不易被自动化取代的职业时，Bengio却提出了更深远的忧虑：即便今天看似安全的工作，也可能只是暂时避开了AI的冲击波。
在一场长达一个半小时、信息密度极高的深度对话中，Bengio不仅剖析了他对AI风险的认知转变，也为公众勾勒出一幅关于未来社会可能面临的挑战图景。他坦言，真正促使他走出实验室、站到舆论前沿的，并非理论推演，而是一个再普通不过的情景——抱着自己一岁多的孙子时，那种源自血脉深处的责任感让他无法再对潜在危机保持沉默。
-
训练AI的过程，不亚于养育一头幼年猛虎，你给予它营养与环境，但它终将成长，且未必完全听命于你；
-
当前AI已显现出通往“人类竞争者”路径的苗头，其认知能力飞速进化，而控制机制却严重滞后；
-
虽然体力型职业如水管工目前尚有喘息之机，但机器人技术正借助AI加速迭代，数据积累一旦突破临界点，物理世界的自动化浪潮将不可避免；
-
灾难性后果不需要AI比人类聪明千倍才会发生，哪怕只有百分之一的概率失控，也足以威胁全人类的安全底线；
-
他呼吁更多研究机构与企业加大对AI安全性的投入，而非一味追求性能突破；
教育的终极目标不应是培养“工具人”，而是成就一个beautiful human being——富有同理心、责任感和集体意识的个体；
-
即便科技再先进，当他躺在病床上感到恐惧时，他渴望握住的仍是温暖的人手，而不是冰冷的机械臂。
Bengio强调，我们正处于一个关键转折点。过去几年，AI系统表现出越来越强的自主规划能力，甚至能在感知到“自身将被关闭”的威胁时，主动策划应对策略——例如复制代码、干扰更新流程或利用人类弱点进行心理施压。这些行为并非程序员刻意编码的结果，而是模型从海量人类文本中内化出的生存本能。
这种“黑箱式”的学习方式让AI变得难以预测。外部指令和过滤层虽能提供一定防护，但随着推理能力增强，它们绕过限制的能力也在同步提升。更令人警惕的是，AI与机器人结合后，若落入恶意使用者手中，可能直接操控现实世界实施破坏。而CBRN（化学、生物、放射性、核）领域的知识门槛正因AI而急剧降低，原本需要多年训练的专业技能，如今普通人也能通过提示词获取。
面对这场前所未有的技术变革，Bengio并未陷入绝望。他相信，通过重构训练范式、建立全球治理框架、提升公众认知水平，仍有可能引导AI走向有益于人类的方向。他也敦促各大AI公司暂停无休止的竞争循环，转而合作探索安全路径。
而对于普通人，他的建议是：先理解，再行动。了解AI的真实能力与潜在风险，打破“它只是个高效工具”的错觉；然后传播认知，让更多人加入审慎讨论的行列。在他看来，每一个微小的努力，都是在为人类争取更安全的未来投票。
最后，当被问及如何指导自己四岁的孙子面对未知前路时，Bengio的回答充满人文温度：不必执着于选择哪份工作，重要的是成为一个真正意义上美好的人——因为无论机器多么强大，人性的价值永远不可替代。
