이미지: TechCrunch AI
摘要
- 在拉斯维加斯Ai4大会上，辛顿、李飞飞、吴恩达围绕AI监管与开放性展开讨论
- 吴恩达对少数企业沦为"守门人"表示警惕，主张扩大开放性作为应对方案
- 辛顿承认开放权重模型的扩散已成不可逆趋势，但同时再次指出其被滥用的风险
- 행사
- Ai4 콘퍼런스, 라스베이거스, 2026년 8월 초 개최
- 참석자
- 제프리 힌턴(노벨상 수상자), 페이페이 리(월드랩스 CEO 겸 공동창업자), 앤드루 응(코세라 공동창업자)
- 앤드루 응 핵심 발언
- "게이트키퍼가 있는 걸 원치 않는다"
- 힌턴의 구분
- 오픈소스(코드 공개)와 오픈웨이트(학습된 가중치 공개)는 다르다고 강조
- 힌턴의 우려
- 오픈웨이트 모델을 저비용으로 재학습시켜 사이버공격 등 악용에 쓸 수 있다는 점
- 힌턴의 인정
- 오픈웨이트 확산은 이미 되돌릴 수 없는 흐름이 됐다고 발언
- 배경 맥락
- Pacing the Frontier 등 프론티어 랩 중심 안전 프로젝트가 업계에서 논의되는 시점
引言
在拉斯维加斯会展中心的舞台上并排而坐的三个人，是人工智能历史上屈指可数的名字。诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、World Labs首席执行官李飞飞（Fei-Fei Li）、Coursera联合创始人吴恩达（Andrew Ng）。在上周举行的Ai4大会上，三人异口同声地表达了"不能让AI被少数企业控制"的问题意识。不过，三人在具体理由和解决方案上略有不同。
发生了什么
在Ai4大会的小组讨论中，三人就监管、开源访问权，以及在中国追赶态势下美国的竞争力等主题交换了意见。近期，前沿AI实验室以维护安全为名，推动将尖端模型开发集中于少数企业的动向持续存在（例如被称为Pacing the Frontier的项目等），在此背景下，开源与开放权重模型成为业内的热门议题。由于自由分发、难以控制使用方式，一些实验室一直将开放权重模型视为风险因素。
吴恩达指出，如果少数企业掌控平台，创新速度可能放缓。他以苹果、谷歌瓜分移动操作系统市场的案例为例，表示"不希望出现守门人"。他给出的处方只有一个——通过维持多个模型与企业相互竞争的格局来守护开放性。
辛顿的反转
辛顿明确划清了开源与开放权重之间的界限。他解释说，开源是公开代码本身，让任何人都能检查漏洞；而开放权重则是将训练完成的大型模型的参数原封不动地交出去。他表示自己一直反对开放权重，原因在于担心训练成本高昂的大型基础模型，可以被以较低成本重新训练，从而被改造用于网络攻击等滥用目的。
尽管如此，辛顿也承认了现实。他解释说，开放权重模型已经成为不可逆转的趋势，而训练大型模型所需的成本这一进入壁垒本身也已经消失。就连最早、最持久地警告风险的人物，都认为阻止这一趋势的时机已经过去。
为何这场争论会在此时出现
围绕开放权重的紧张关系，与近期业界动向密切相关。阿里巴巴通义千问（Qwen）的2.4万亿参数模型以开放权重形式发布，上线首日即可在vLLM上运行；DeepSeek也推出了在基准测试上接近开源阵营水平的V4 Pro，带动了低价竞争。而在对立一方，OpenAI于8月10日推出了专用于网络安全的模型GPT-5.6-Cyber，采取了支持经授权的漏洞研究、但将访问权限限制在受控渠道内的方式。这可以说是对辛顿所担忧的低成本滥用情形的正面回应。
三人立场对比
| 人物 | 所属 | 核心立场 |
|---|---|---|
| 吴恩达 | Coursera联合创始人 | 支持开放性，反对出现守门人 |
| 杰弗里·辛顿 | 诺贝尔奖得主 | 对开放权重持谨慎态度，但承认其扩散已不可逆转 |
| 李飞飞 | World Labs首席执行官 | 参与了监管与开放性的讨论，其具体立场在摘录资料中介绍有限 |
这意味着什么变化
这场讨论不会立即改变政策。但代表业界的三位重量级人物共同指出少数企业垄断是共同的风险，这一事实分量不轻。就连最长期警告开放权重模型风险的辛顿也承认这一趋势已无法逆转，如今争论的焦点正从"是否应该阻止开放权重"转向"如何安全地驾驭开放权重"。像GPT-5.6-Cyber这样在控制访问权限的同时仍试图保留开放性优点的尝试，未来很可能会进一步增多。
