METAL

Sakana AI 介绍英国皇家学会世界模型专辑

Sakana AI 于 9 月 12 日在博客上介绍了英国皇家学会期刊的世界模型专辑。包括首席执行官 David Ha 参与合著的卷首论文在内共收录十八篇,追问当下的 AI 是理解了世界,还是记住了统计表层。

Sakana AI 介绍英国皇家学会世界模型专辑

图片:METAL

摘要

  • Sakana AI 于 9 月 12 日在博客上介绍了 Philosophical Transactions of the Royal Society A 第 384 卷第 2320 期。
  • 卷首论文由十四人合著,其中包括 David Ha、Melanie Mitchell 与 Joshua B. Tenenbaum。
  • 收录的十八篇论文反复追问当下 AI 的能力是否主要来自统计表层的规律性。

一份 1665 年创刊、至今仍在出版的期刊,把整整一期都给了世界模型。Sakana AI 于 9 月 12 日在自家博客上介绍了这一专辑,并说明首席执行官 David Ha 作为卷首论文的合著者参与其中。这是英国皇家学会出版的 Philosophical Transactions of the Royal Society A 第 384 卷第 2320 期,标题是自然智能与人工智能中的世界模型。在 AGI 已经到来的说法四处流传之际,一期期刊为重新追问这种说法的依据腾出了位置。

这一专辑抓住的概念只有一个:世界模型。它指的是生物或 AI 把外部世界摄入自身、预测接下来会发生什么并据此行动的底座。编者选择不给这个词定下单一定义,而是把因果的、自指的、个体目标导向的、集体的与叙事的形态并置比较。不是先定好定义再让案例排队,而是让案例彼此照亮。

卷首论文的作者名单本身就说明了这种编法。以 Adam Safron 与 Michael Levin 为首共十四人署名,其中有 Sakana AI 的 David Ha、蒙特利尔大学的 Irina Rish、圣塔菲研究所的 David Krakauer 与 Melanie Mitchell、哈佛大学的 Samuel J. Gershman,以及麻省理工学院的 Joshua B. Tenenbaum。这是一份把 AI 公司、神经科学实验室、复杂系统研究所与认知科学团队混在同一篇论文里的名单。在 METAL 核对过的目录里,这篇论文放在序言的位置。

论文用一句话概括了专辑抛出的问题。第一作者、塔夫茨大学的 Adam Safron 与合著者们写道,反复出现的主题是当下以海量数据训练的 AI 系统究竟学到了刻画各类生物智能的那种情境敏感的、嵌入时间的、带有价值的世界建模维度,还是说它们令人印象深刻的能力主要来自统计表层的规律性。他们接着表示,希望借这一合集厘清概念地形,指出自然心智与人工心智之间相似与分歧的关键之处。这是一份要整理出下判断所需语言、而不是直接下判断的宣言。

收录的十八篇论文也没有偏向一边。Douglas Hofstadter 写了一篇追问 AI 里有没有一个我的文章,Gary Marcus 合著了一篇掂量一句话是否抵得上一千张图的论文。Stuart Russell 处理了基于模型与无模型强化学习的表示复杂度,Alison Gopnik 则用实验考察了儿童与成人在因果干预中对可控性与可变性有多敏感。怀疑论、形式理论与发展心理学实验同处一份目录之中。

由 Adam Safron 与 Michael Levin 担任客座编辑的这一专辑,在概述中把问题归为三个。第一个问题是语言模型究竟有多聪明,它们的能力在未来几年会如何演化。接下来是如何在人工系统中造出自然演化的有机体所具备的适应性智能,最后是依赖从海量统计关联中学习,是否从根本上限制了系统学习关于自身与世界的连贯模型的能力。三个问题瞄准的都不是能力,而是能力的依据。

Sakana AI 从这一专辑中挑出了三点。第一点是能做到与知道并不相同:当下的大模型所展现的能力可能是记住词语排列方式的结果,也有论者认为仅靠增加算力填不上这个差距。第二点是了解自身的 AI,即让 AI 学习预测自己的内部状态,会使内部表示得到整理、冗余减少。第三点是 AI 的难题会通向生命的难题,今后的 AI 研究可能越来越靠近人工生命研究。

从人文一侧看,一个熟悉的区分回来了。把地图整个背下来的人和在那一带认路的人,在多数考试里得分相同,而在路被堵住时分道扬镳。专辑反复追问的正是这一点,因此它要求人们看的不是能力分数,而是能力立在什么之上。生物的智能并不只是被动接收给定信息,而是亲手介入环境来学习世界,这一观察就是那份要求的依据。

世界模型也是 METAL 一直追踪的题目。METAL 曾报道过一项研究,把对方的信念作为变量加入世界模型后,预测分数从 63 分升到 88 分。那项研究呈现的是同一件事。把世界记得更多,和把世界之中的其他心智算进来,是两回事,后者一旦缺席,预测就会朝错误的方向变得精确。

阅读时也有需要考虑的地方。这一专辑于 2026 年 5 月 14 日出版,Sakana AI 的介绍是在四个月之后。同一期里还刊有一则与世界模型无关的更正启事,而既然编者自己表明不会确立单一定义,这一合集也就不会终结争论。Sakana AI 表示将在自家 RSI Lab 继续世界模型与物理 AI 的研究,而这家公司站在学术争论的一侧这一事实同样要一并看待。METAL 曾报道过这家公司是由 Transformer 论文作者在东京创办的。

一期期刊不会改变产业的速度。但能力越往上走,追问能力依据的语言就越陈旧,这个问题依然存在,而这一专辑正是重新打磨那套语言的工作。处理语言与理解世界之间的距离尚未缩短,而在打造衡量这段距离的尺子的一侧,AI 公司、哲学家与发展心理学家坐到了一起。判定下一代模型的标尺,正在那里被造出来。

评论