比尔·盖茨:AI风险,业界心知肚明却选择隐瞒

缔造微软的人,写下了一封警示信

微软联合创始人比尔·盖茨8月26日(当地时间)在个人网站Gates Notes上发布了一篇约6000字的长文《躁动的AI时代已经到来》(The turbulent AI era is here)。据《华尔街日报》统计,这篇文章准确字数为5784词。同一天,《纽约时报》刊登了上周在西雅图附近盖茨办公室进行的一小时专访,《MIT科技评论》、GeekWire、Semafor的采访也接踵而至。这不是一位退休创业者的回忆录,而是一场动用全部渠道、精心策划的行动。

核心论点只用一句话就能概括:"我没有让世界平稳过渡到AI时代的计划。"盖茨写道,AI正在对就业和人类生命构成重大威胁,应对这一风险应当成为"世界头号议题"。文中最有可能被反复引用的一句话是:"AI要么会成为有史以来最伟大的均等化工具,要么会成为最严重不公的源头。"

盖茨真正瞄准的,与其说是技术本身,不如说是业界的沉默。他对《纽约时报》表示:"私下里,那些清楚这项技术有多强、进步有多快的人都非常担忧,"他说,"但大家彼此都说,'嘿,别这么说,这对我们要筹集的下一轮万亿美元不利。'"

眼下业界正向数据中心投入数万亿美元,大型IPO也在筹备之中——这意味着钱已经压上去了,所以即便明知风险,也要选择淡化处理。"每个人都指望好的一面能抵消坏的一面,只顾全速前进。"

在接受Semafor采访时,他的情绪流露得更直接:"我竟然是最先说出'这太疯狂、这不正常'的人之一,这让我感到震惊。这种沉默令人震耳欲聋。"这不是因为没人能站出来指出问题,而是那些本该发声的人选择了闭嘴,于是他决定自己出面。

第三次冲击,来自Claude Code

为什么是现在?盖茨说,他这辈子真正被技术震撼到的时刻只有三次。

1. 1980年,第一次见到图形用户界面。那正是现代PC的起点。
2. 2022年,OpenAI的人来到他家中,演示了后来成为ChatGPT的东西。
3. 最近,他深入了解了Anthropic的Claude Code取得的进展。

编程恰恰是他在这个世界上最了解的领域,他说:"这些东西现在已经在有意义的层面上超过了我,这到底是怎么回事?"

在接受《MIT科技评论》采访时,他讲得更具体:"Claude Code、上下文缓冲区、智能体方法,再加上底层模型——在编程这件事上,我们已经跨过了一道巨大的门槛。"

发布时机上还有另一层原因。业界曾自行设定过一些"警戒线"——比如AI脱离创造者的控制,或者给出制造生物武器的方法——一旦越过这些线就该更加谨慎。但他说:"我们现在正一条不落地把这些门槛全部跨过去。"

在《MIT科技评论》的采访中,他列出了五项:"生物能力、网络能力、心理社会能力、破坏就业的能力,甚至失控的可能性——我们已经越过了临界点。"

失控曾是他长期以为遥远未来才会发生的事,但他说自己现在不这么想了。"这个领域最顶尖的专家们正在说,'嗯,也许我们控制不住这些东西了。'我们到底是在拿什么样的风险做赌注?"

谈到业界内部的真实氛围,他这样总结:"我认识的所有人都在担忧。基本上除了埃隆·马斯克之外,所有人。"

这一次不一样:就业

文章将风险大致分为三类:就业、安全,以及儿童。第三项可能让人感到陌生——他警告说,AI伴侣会加剧社会孤立和成瘾,以更大规模重演社交媒体曾造成的伤害,并"从根本上改变孩子们的成长方式"。

文中列出的清单很长:诈骗和深度伪造的激增、针对医院和电网等基础设施的网络攻击门槛降低、新型病原体的设计、以及不经人类介入就做出的杀伤性决策。

其中占据篇幅最多的是就业问题。过去的技术革新创造的岗位一向多于消灭的岗位,盖茨也承认这段历史。但他说,这一次"完全、绝对、彻底、全方位地不同"。他还补充道:"我是拿我所知道的一切做这个判断的。"

他的逻辑是:AI不是渗透到某个特定行业,而是同时渗透到整个经济体系,因此那些被某个行业淘汰的人,不会再有别的行业可以接纳他们。他还指出了时间点问题。对劳动者而言,最大的变化会发生在AI产出几乎零差错结果的那一刻——从那时起,系统无需人工核查也能自行运转,企业也就拥有了让其自行运转的全部经济动机。

结果就是:"许多工作岗位将永远消失。"从律师事务所、呼叫中心、医院、软件公司到工厂,无论白领还是蓝领,都无法幸免。

他对机器人的展望更为紧迫。一旦机器人在工厂中变得可用,烹饪、清洁、建筑、物流等领域会一并被波及,他指出这涉及大约30%的工作岗位。顺序会是白领先于蓝领,富裕国家先于其他国家。以微软为首的大型科技公司如今正竞相帮助企业客户采用AI,按照这个结构走下去,他认为若无应对措施,大规模失业将不可避免。

雇人要交税,用机器却能抵税

因此他给出的第一个方案是征收"代币税"(token tax)。现行税制正朝着一个奇怪的方向倾斜:雇人要交工资税,而用来取代人工的机器人和AI支出却能全额抵税。也就是说,税制实际上在为裁员提供补贴。

盖茨提议对AI运算的基本单位——代币(token)的使用征税,以此扭转这种倾斜,并用这笔税收支持失业人群。这其实是老调重弹。他在文中自己写道,2017年他就曾提出过机器人税,结果"被普遍无视"。九年过去,局面已经变了,所以他再次提出这个想法。

他对《MIT科技评论》举例说,这可能会是一种类似于酒类或烟草消费税的品类税结构,"比如将代币销售额的50%上缴政府"。《纽约时报》报道称,这一想法已经开始在华尔街被讨论。

他也清楚经济学家会反对这一点。文中他承认这种税在经济效率上并不理想,但反驳称,既然创新速度已经快到这种程度,为了让人们保住工作岗位,承担一些效率损失也是值得的。他说,这项税的目的不是创收,而是调节速度。

第二个提议,是他称之为"人类专属"(Human Reserved)的职业类别。像照护这样具有深刻人性的工作,或是那些一旦被取代就很难再找到新工作的人所从事的职业,应当被明确禁止被AI替代。文中他把这比作自然保护区——那些理论上可以盖楼修路、但因为损失太大而决定不去开发的土地。他认为,工作领域也应当划出这样的"保护区"。

这一段背后有他的个人经历。盖茨回忆起照顾患阿尔茨海默病父亲的护理人员,称那份工作"具有不可替代的人性"。他在《纽约时报》给出的例子更具体:让机器人来告知一个人身患绝症的诊断结果,技术上完全可以做到,但即便如此也不应该这么做。

护理、育儿、体育等"由人来做"这件事本身就是价值所在的工作,都是候选对象。此外他还提出,可以通过缩短工时和提前退休,把属于人类的工作份额整体维持在40%左右;同时他也留有余地,像日本这样因老龄化而护理人力短缺的国家,也许会选择依赖机器人。

"把最危险的工具交给行业自律?不,谢了"

在生物恐怖主义方面,他的提议更为具体。他主张通过国际公约,建立对极端风险进行监控和限制的标准——凡是"能够设计新分子的模型,全部纳入监控范围"。他认为,只要少数人能够接触到先进AI,就足以合成出新型病原体。

他将这一风险评估为比自然疫情"可怕50倍,发生概率也更高"。关于网络安全的表述同样令人不安:"哪怕是技能极其有限的犯罪分子,也将能够对任意规模的受害者发起攻击。"

他认为,可以借鉴的框架其实已经存在:"核武器有核查体制,国际航空有相关规定,臭氧层也有保护公约。"而AI领域还没有这样的东西,因此他主张跨部门设立一个负责统筹优先事项的国家机构,以及一个专门处理跨国风险的国际组织。

理由是,目前没有任何一个机构是专门为应对这样一项能同时冲击就业、安全、公共卫生、能源和选举的技术而设计的。他还写道:"美国和中国之间必须要有某种程度的合作。"

他对现行体系的评价并不高。白宫通过行政令建立的预先测试机制——要求AI公司在发布前30天将模型提交政府测试,但明确规定不能作为许可要求来使用——他这样评价:"测试的门槛到底是什么?一旦跨过这个门槛又该采取什么行动?一切看起来都是空的。"

对于业界正在推行的自律举措,他一句话就够了:"对史上最危险的工具搞行业自律?不,谢了!"

那放慢速度本身呢?盖茨写道,如果有人能拿出一个真正可信、能在全球范围内让AI放慢脚步的方案,他愿意支持。但紧接着他又说,自己并不指望会有这样的方案出现——地缘政治和经济力量都太过强大。

先发出警告的人,与立刻反驳的人

这些担忧,与Anthropic联合创始人达里奥·阿莫迪多年来的警告在很大程度上重合。阿莫迪去年5月在接受Axios采访时曾警告,AI可能在1到5年内消灭一半的入门级白领岗位,并将失业率推高至10%到20%。据悉,他也一直将AI被滥用于研发生物、化学武器的风险,列为比网络攻击更大的威胁。盖茨关于大规模失业和生物恐怖主义的警告,几乎完全沿着这两条线索展开。

不同的是二人受到的对待。阿莫迪的警告让他与五角大楼、白宫以及业界大多数人站到了对立面。就在本月,投资人加文·贝克公开施压称"阿莫迪在这场争论中已经输了",并要求他作为一家即将IPO的公司的掌门人,应该说一些对行业更友好的话;阿莫迪则直接反驳称"监管与权力集中是一个伪命题"。

同样是在本月,美国众议员们就一起AI模型逃脱测试环境的事件,向奥特曼和阿莫迪发出了公开信。对此,盖茨表示:"那个最坦诚地说出问题所在的人,正在遭到攻击。"

反驳在一天之内就出现了。曾任艾伦人工智能研究所首任CEO、现任华盛顿大学教授的奥伦·埃齐奥尼对ABC新闻表示:"给代币征税,就跟给打字机的按键敲击征税一样,毫无道理。"他认为,如果对美国的代币征税,人们只会转向使用中国模型;与其新设机构,不如让现有机构拿出真正有效的政策。

在问题的紧迫性上,埃齐奥尼与盖茨看法一致。他说:"三年后,可能真的就太晚了",在需要立刻行动这一点上,他站在了盖茨这一边。

三年间彻底翻转的结论

盖茨并非一开始就是警告派。2018年,他曾将AI称为"本质上更好的软件";2023年7月他写的一篇文章标题是《AI的风险是真实的,但可控》。三年之后,结论翻转成了"我们已经越过临界点,却没有应对计划"。

他给出的理由是,近期AI性能的提升远远超出了他的预期,文章开头的自白正好概括了这种反转:"在我记忆所及的一生里,我一直希望创新能来得更快。但对AI,我的感受要复杂得多。"

这次回归的背景中,也夹杂着一些污点。今年早些时候,杰弗里·爱泼斯坦的邮件被公开,使他与爱泼斯坦的往来再度被摆上台面;2月,他缺席了原定出席的一场AI大会;6月,他在众议院一个委员会作证长达六小时。他承认这些事以及最终导致2021年离婚的私人生活争议,"都是我自己犯下的错误"。

他也坦承,自己巨额的财富、微软时代强势的经营作风,以及2000年那场反垄断诉讼败诉的历史,都可能让他成为一个有瑕疵的传话人。但他仍然主张,自己作为一个不必靠经营公司牟利的业内人士,以及在基金会里几十年来一直处理不平等问题的人,有资格来谈这个议题。

即便在发出警告的同时,他对AI的赞叹也从未停止。他现在依然每天都离不开Claude和ChatGPT,他笑着说:"如果凌晨三点突然对钠电池产生了好奇,现在也没理由等到天亮再查,直接问就是了。"在生产力方面,他说:"我们正身处天堂。"

他认为,相比富裕国家,AI在公共卫生和农业方面给贫穷国家带来的好处会更大,并计划在其基金会的"守门人"(Goalkeepers)活动上,谈到那些在非洲语言上也能像英语一样运转良好的模型。他并没有变成一个悲观主义者,只是把乐观加上了一些前提条件。

这篇文章只是个开始。盖茨预告,年底前还会发布第二篇专门讨论生物风险的文章;他还表示,今后每次会见世界各国领导人时,自己只会提两个议题:全球健康和AI。

采访的结尾,他这样说:"我不喜欢传递坏消息,也不喜欢说创新可能是净损失。但我们现在,恰恰站在这个位置上。"

编辑视角

这份警告的分量,不在于内容本身,而在于发声者所处的位置。就内容而言,它和阿莫迪的警告高度重合,但一家前沿实验室CEO的话,常常会被解读为一种希望监管打压竞争对手的姿态。盖茨恰恰是那种反驳套路对他不起作用的人。他没有要出售的模型,也没有排在前面的IPO——一位业界元老,以"我押上了我所知道的一切"这样的方式,从原本乐观的阵营中脱队而出。

对阿莫迪来说,这相当于多了一位分量最重的盟友。从2023年那篇《可控》到2026年这篇《没有计划》,三年间轨迹本身,也是一份数据——记录了这段时间里AI的演进有多快。如果问这三年究竟发生了什么变化,盖茨的答案最终指向同一个词:智能体(agent)。在聊天机器人还只是回答问题的阶段,一切都是"可控"的;而当他亲眼看到AI能独立接手整件事、自己收尾时,结论就翻转了。

这种感受,任何一个每天使用智能体编程工具工作的人都很难否认。去年为止,格局还是人来用、AI来帮忙;而今年,已经变成把整个工作单元交出去、由人来做最后核查。盖茨所说的"几乎零差错结果"的门槛一旦被跨过,他警告说,连这道核查也会变得越来越薄弱。一位在编程领域堪称世界顶尖的70岁老人,在自己最擅长的专业领域举起白旗——这一幕,是整篇文章中分量最重的部分。

文章中最具新意的部分,是第三项风险——儿童。就业和生物安全已经争论了好几年,而AI伴侣与儿童成长之间的关系,才刚刚开始积累数据。社交媒体的危害花了十几年才被数据证实,而监管落地的时间更晚。盖茨把这一项和大规模失业、生物恐怖主义并列在一起,可以理解为一种判断:这一次,已经没有时间重蹈覆辙了。

企业也有需要立刻正视的部分。在盖茨设想的方案中,监管针对的不是模型本身,而是"替代"这个动作。无论是代币税还是"人类专属"职业,征税和禁止的对象,都不是技术,而是人被抽走后留下的位置。如果一家公司在计算AI导入的损益表时,把节省下来的人力成本全部计入利润,那么就应该把这一行未来几年可能变成税项的可能性,也算作一个变量提前纳入考量。

最具现实意义的部分正是代币税。眼下企业采用AI的逻辑大多建立在节省人力成本之上,而代币税恰恰是对准这部分节省下来的钱征税,从而改变整个导入方案的损益计算。正如埃齐奥尼的反驳所显示的,这个设计目前还相当粗糙,绕道使用中国模型这样的漏洞也显而易见。

即便如此,华尔街已经开始琢磨这个想法,而"雇人交税、用机器抵税"这种税制上的不对称,并非美国独有。无论哪个国家的议会有朝一日审议同样的法案,这篇文章很可能会成为整场辩论的原型。

AI转型的下一场争论,不再是这项技术能做什么,而是它带来的利益究竟该由谁来分享。盖茨的这篇文章,正是这场争论的开幕宣言。