이미지: @GoogleDeepMind (X) 영상 갈무리 · METAL LAB 편집
摘要
- 谷歌DeepMind官方X账号发布了研究副总裁Zoubin Ghahramani与Hannah Fry的对谈视频
- 核心观点是：AI只有具备概率性思维和自我怀疑的能力，而非一味自信，才能做出安全的现实世界决策
- 两人以天气预报和机器人技术为例，指出将不确定性纳入计算的做法，与当前AI的幻觉问题形成了鲜明对比
发布了什么
谷歌DeepMind通过官方X账号公开了一段对谈视频，主角是研究副总裁Zoubin Ghahramani，以及身兼主持人和数学家身份、以账号名@fryrsquared为人所知的Hannah Fry。从天气预报到机器人技术,两人对谈的核心在于：智能决策归根结底取决于"知道自己不知道什么"的能力。他们主张，如果能教会系统进行概率性思维、学会自我怀疑，系统就能在现实世界中做出更安全、更可靠的决策。
这是什么意思
Zoubin Ghahramani曾在剑桥大学主导贝叶斯机器学习研究，后担任Uber首席科学家，如今加入谷歌，长期以来在概率推理领域享有盛名——这一领域研究的正是AI如何自主判断哪些事情它有把握、哪些事情它并不清楚。所谓概率性AI，指的是不把答案钉死为一个确定结果，而是像"这个答案有70%的概率是对的"那样，把不确定性本身也纳入计算的方式。然而现在大多数大语言模型的做法恰恰相反，最典型的例子就是所谓的"幻觉"问题——面对自己并不了解的问题，模型依然会给出一个听起来言之凿凿的答案。
就像天气预报会用概率来表达("降水概率70%")一样，机器人在陌生环境中搬运物品、或是自动驾驶汽车突然遇到障碍物时，也需要同步计算"这个判断有多大把握"，这样才能减少事故的发生。这种问题意识与机器人自主模拟世界、自主制定计划的物理AI研究趋势不谋而合。正如Sakana AI为机器人自主学习的"物理AI"引入递归式自我改进一文所展示的案例，让机器人自主预测现实世界并采取行动、进而自我提升能力的尝试正在不断涌现。
这会带来什么改变
这次对谈并非新模型或新产品的发布，而是谷歌DeepMind公开表明自身在AI安全性问题上的立场。相比给出自信满满的答案，一个懂得说"我不知道"的系统在实际部署环境中会更加安全——这一信息，也是对整个业界过度沉迷于跑分竞赛的一种反问。虽然此次发布并未透露具体的研究成果或产品计划，但可以清楚看到，DeepMind正持续把不确定性量化研究，与机器人技术、医疗、气候预测等现实世界的决策问题联系在一起。
评论