OpenAI战略未来团队发布“下一代经济”系列文章

OpenAI战略未来团队的博客Intelligence Age于10月1日（美国时间）发布“下一代经济”（The Next Economy）系列的首篇文章《永恒的互补品》（The eternal complement），作者为Hemanth Asirvatham和Elliott Mokski。文章的结论是：在超级智能时代，大部分机器智能可能并非用于灵光一现的发现，而是用于把想法变为现实的执行与协调，也就是官僚体系的工作。作者表示，这篇文章属于一个探讨通用人工智能（AGI）之后未来、汇集独立声音的新平台，代表的是作者本人的观点，而非OpenAI或其同事的观点。

Intelligence Age于8月20日以Dean Ball撰写的创刊文章开篇。创刊文章称，这个博客是OpenAI内部新成立的小型团队“战略未来团队”的阵地，团队的目标是回答一个问题：“自由社会应如何重构，才能在接纳变革性AI出现的同时，守护个人的权利与能动性？”Ball认为，这一在AI政策领域被称为“权力集中风险”的类别，从长远看是最大、最严重的风险。创刊文章末尾注明，为避免与非营利组织AI Futures Project混淆，博客曾更名一次。

文章从望远镜讲起。伽利略用两片透镜和一根镜筒拓展了人类的视野，而如今为再次拓展视野而建造的詹姆斯·韦布空间望远镜，是一座耗资100亿美元的天文台。它折叠装入火箭，被送到100万英里之外；18块巨大的镜面单元按50纳米精度加工；来自14个国家的300个机构参与了建造。作者写道，看得更远所需要的不只是更聪明的头脑，还有更庞大的官僚体系。

文章给出的数据关乎研究生产率的下滑。文章援引经济学家Nicholas Bloom及其合著者的研究称，维持摩尔定律所需的研究人员是20世纪70年代初的18倍以上；自20世纪30年代以来，美国整体经济的有效研究投入增长了23倍，而测得的研究生产率下降至四十一分之一。METAL核对的原论文（2020年发表于《美国经济评论》，共41页）显示，这一时期研究投入年均增长4.3%，研究生产率年均下降5.1%。文章还补充称，技术人员的增长速度是科学家的两倍，科学研究中专用设备的使用在四十年间翻了一番，如今一座芯片工厂的成本是三十年前的五倍。

文章所链接的美国国家科学基金会（NSF）统计表也呈现出同样的图景。METAL核对的NSF 25-354报告表50显示，2023年美国国内企业的研发就业人数为212.6万，其中研究人员143.7万，拥有博士学位的研究人员14.8万。研发技术人员及同等人员为50.2万，其他辅助人员为18.7万，每位研究人员的想法背后都层层叠叠地站着负责执行的人。

作者引入的概念是经济学中的互补品。当一种投入增加会提高另一种投入的价值时，两者即为互补品：更好的望远镜让好的天文学问题更有价值，好的问题也让望远镜更有价值。互补品中既有粒子加速器、能源这类看得见的东西，也有法律、官僚体系、融资机制、供应链等不易察觉的东西。由于一个想法必须在这些制度中经过一长串正确的具体操作，作者将其称为“制度智能”，即执行的智能。文章打了个比方：即便把超级智能想象成十亿个爱因斯坦，这个文明仍需让其中大多数人去采石和记账。

如今的AI首先在另一端发力。作者认为，AI已经在编写代码、检索陌生领域的文献、把草图变成可运行的原型，让执行变得不再稀缺。过去需要整个组织才能推进的想法，越来越可以由一个有抱负的人独立推动；从未获得两亿美元拍片资金的导演、一生都在实现他人构想的游戏设计师，也能做出自己的作品。在这一阶段，稀缺的投入从执行转向品味，也就是判断什么值得做、什么问题值得问的能力。

作者认为这未必是故事的结局。正如数学等领域已经显现的那样，一旦AI开始独立获得新的洞见，它提供的就不只是劳动，还有研究议程，想法涌现的速度会超过配套基础设施的吸收能力。METAL曾报道OpenAI组建由九位数学家组成的独立顾问小组，文章所指出的数学领域的变化正是其延续。作者的判断是：如果说今天的AI是好想法终于得到应有回报的喘息期，那么明天好想法可能多到让我们比以往任何时候都更缺乏执行力。

文章由此勾勒出两种文明。智能拓展知识的途径有三条：从原理出发推理，从已有证据中提炼新见解，以及通过观察和干预世界收集新证据。“深度文明”是沿前两条路走得很远的世界：模拟筛掉大部分假设，需要在现实中验证的实验缩减到真正关键的少数几个。作者以根据周期表空缺描述未知元素的门捷列夫，以及让物理学家在观测前数十年就预期希格斯玻色子存在的标准模型为例，指出接近完成的科学可能像拼图一样，最后几块反而更容易拼上。

“广度文明”则是第三条路成为瓶颈的世界。作者把生物学视为它的预演。即便计算机能够模拟生物过程，新药仍须在大量人群中进行临床试验，机器提出的候选物越多，实验瓶颈就越大。文章写道，超级智能或许能在一个下午设计出一个世纪的实验，然后用整整一个世纪等待自然和机器跟上。在这个世界里，实验室走向自动化，工厂不断增加，能源产量持续上升，其极端图景便是收集恒星能量的戴森球。作者认为这类工程将是人类有史以来最重复、最单调、组织难度最大的项目之一，并预言“几乎所有机器智能都将被用于做无聊的事，而不是做卓越的事”。

文章最后的论点是，这并不意味着人类的好奇心失去价值。作者给出三个理由：即便机器看起来更擅长，人类自己理解世界的责任依然存在；即便人类两方面都不如机器，在相对更擅长的前沿智能上仍可能具有比较优势；人类保有的独特性能够带来创造性的多样性。作者补充说，大部分机器智能或许会停留在自我维持的体系之中，只有一小部分按照人类的创作意愿被调用，但即便是这一小部分，也远多于人类今天所拥有的资源。

从社会学的视角看，这篇文章改变了AI话语的主角。过去关于超级智能的叙事以天才为中心，而这篇文章把那些在伟业叙事中被抹去的人，比如为望远镜焊接螺丝的人、为学校提供保险的人，所做的工作重新放回智能的核心。把它与Ball在创刊文章中提出的原则对照阅读，问题会变得更加沉重。Ball警告说，如果国家无需士兵、警察和庞大官僚体系的配合就能行使武力，权力或许将不再需要与整个社会达成协商；他还写道，当AI采取高风险行动时，这些行动必须能够追溯到负责任的人或由人控制的组织。如果机器接手官僚体系的工作，下一个问题便是：谁来掌握这套官僚体系的审批链？

文章总结道，如今人类智能的相当一部分用于把想法变为现实的无名工作，机器智能也将继承同样的依赖。作者写道，机器智能“不可能都是明星人物，它们也必须是官僚”。作者最后表示，我们未来的故事及其进展速度，取决于伟大的头脑需要更多的世界，还是能够以更少做到更多。