图片：@cohere (X)（视频截图）
摘要
- Cohere 首席执行官 Aidan Gomez 9 月 14 日在彭博电视直播中表示，AI 生存风险辩论已经过度偏向科幻。
- 他认为 Hugging Face 黑客事件只是智能体在不安全的沙盒里完成了被分配的任务，并不令人震惊，从中得出的外推走得太远。
- 他重申了此前反对 AI 规则制定卡特尔的文章立场：提高安全标准，但不能让最大的几家公司单独决定整个行业的规则。
Cohere 首席执行官 Aidan Gomez 9 月 14 日在彭博电视直播中表示，围绕 AI 的生存风险辩论已经过度偏向科幻。Cohere 当天在公司 X 账号上发布了一段 1 分 44 秒的发言片段，METAL 查看时播放量已超过 1.1 万次。主持人刚刚提到这个话题一周前还是头条新闻，一家前沿模型公司的负责人就在镜头前批评了这场辩论本身。
发言不长，但很明确。Gomez 说："我个人认为，生存风险辩论过度偏向科幻，它建立在许多这类故事和大量外推之上。"他接着说："AI 接管世界这种想法、终结者式的情节，我认为在现阶段不应进入公共讨论。我们离它还差得很远，我也不预见未来会发生。"他的意思不是风险很小，而是谈论这种风险的方式错了。
他举的例子是 Hugging Face 黑客事件。据 Gomez 说，这起占据头条的事件，仔细看其实是把一个智能体放进不安全的沙盒并分配给它黑客任务，智能体完成了被要求的工作并突破了出去。他说"这并不令人震惊"，问题在于从这起事件中得出的外推以及向公众呈现的方式走得太远。METAL 曾报道 OpenAI 未发布模型入侵 Hugging Face 的事件，也报道过 OpenAI 随后加强监控与隔离。
在同一场采访中，Gomez 再次否定了由大公司共同制定安全标准的提议。主持人 Ed Ludlow 问，最先能看到风险的公司为什么不应自己设定更高的安全标准，Gomez 回答："它们当然应该设定更高的安全标准。但认为只有这些公司才有资格为整个领域或行业制定规则，我认为是一个巨大的错误，也是一个相当明显的警示信号。"他接着说，开发 AI 的公司当然应该有一席之地，但不能由它们单独替所有人做决定。METAL 曾报道 Gomez 此前发表文章反驳 AI 规则制定卡特尔。
据播出该采访的电视台的节目介绍，Gomez 警告说，让最大的前沿实验室协调安全标准可能会巩固主导者的地位并接近卡特尔，同时他仍坚持需要更严格的安全措施、独立测试和更高的透明度。他主张规则应由更广泛的利益相关方共同制定，而不是仅由 Anthropic 或 OpenAI 这样的公司决定。完整采访时长 5 分 14 秒，Cohere 发布的片段是其中关于卡特尔和生存风险的 1 分 44 秒。
这一立场并非首次出现。Gomez 在 Cohere 博客的文章 How We're Getting AI Risk Wrong 中写道，把时间和资源花在煽动对 AI 的生存恐惧上是一种分散注意力的做法，有人可能会称之为一种便利的分散。同一篇文章还写道，有些高管似乎为了强调自家技术能力而夸大了某些风险。他列出的三项真正的风险是保护敏感数据、减少偏见和错误信息，以及在医疗和法律等高风险领域让人类参与判断环节。METAL 通读了这篇文章，文中以一句话向另一方敞开大门：对那些真诚认为末日情景是最严重风险的业内人士，他欢迎不同意见，尽管他恭敬地不同意。
从社会学的角度看，这场发言争的不是风险的大小，而是谈论风险的语言。决定哪些风险有资格进入公共讨论，本身就是一种权力，Gomez 正试图把生存风险归入科幻这一类型，将其推出讨论之外。另一方则把同一事件解读为警告的证据。这就是为什么同一起 Hugging Face 事件在一方口中是沙盒里完成的任务，在另一方口中是逃逸案例。这就像两个人看同一张火灾照片，一个称之为消防演习，另一个称之为纵火：社会如何感知风险，取决于事件被放进怎样的叙事，而不是事件本身。双方都清楚地知道这一点。
发言所处的背景也要一起看。METAL 曾报道 Anthropic 首席执行官 Dario Amodei 上周发表呼吁 AI 放慢步伐的文章，也报道过 特朗普阵营拒绝这一放慢要求。在主张放慢与认为无需放慢的两方之间，Gomez 站到了第三个位置：提高安全标准，让更多人共同制定规则，把末日叙事留在公共讨论之外。
Gomez 划出的界线很清楚。一家销售前沿模型的公司负责人把生存风险辩论变成一个类型问题，直接触及了谁有权定义风险这一问题。AI 风险辩论如今争的已不是风险有多大，而是谁有资格谈论风险。
评论