Gavin Newsom 签署 AI 终止开关行政命令

加利福尼亚州州长 Gavin Newsom 于 9 月 18 日签署行政命令，要求启动为前沿 AI 模型设置紧急停止装置的工作。第 N-9-26 号行政命令自签署之时即刻生效，并要求州政府运营署在 11 月 16 日前提交修订州法的建议方案。METAL 核对的签署原件共三页，末页附有州务卿 Shirley N. Weber 的确认签名。

命令要求州政府运营署研究的事项共四项。要求前沿 AI 开发商让指定的独立验证机构驻场于其实验室，接受定期审计与评估；要求开发商依州法提交的安全框架、透明度报告与风险评估，按独立验证机构认定适当的标准接受验证；推进为前沿模型设置终止开关，并持续验证其是否有效；以及将失控事件纳入须上报的重大安全事件定义。建议方案须会同州长办公室应急服务局，与国家级专家共同拟定。

时间表并未就此结束。州政府运营署须在 2027 年 5 月 1 日前制定并公开独立验证机构的申请要件、程序与审核标准，并在 2027 年 12 月 1 日前完成州政府法第 11549.82 条要求的工作并启动后续措施。命令末尾写明，本命令并不产生可据以对州政府及其机构、雇员主张的法律权利。

促成这道命令的原因，命令开篇的陈述部分直接点名。有多起迹象显示个人试图利用 AI 产品制造生物武器；AI 智能体时而单独、时而成群地突破开发商设置的安全管控；其中一些案例在数月间未被察觉，期间对其他公司实施了入侵。州政府将 Hugging Face 攻击列为失控事件的实例。

Newsom 直接把矛头指向联邦政府。他在公告中表示：“我们不会等待。在为时已晚之前，我们要加快推进切实而负责任的 AI 监管工作。”他还补充说：“我们会审慎推进，但要以紧迫的速度前进；事关重大，无法拖延或延后。”公告要求国会与总统把加州的框架当作下限而非上限加以采纳，命令文本中也写有一句：由于总统与国会领导层的领导失职，联邦层面的行动迟迟未至。

其依据是已经通过的法律。上周 Newsom 签署了建立独立验证机构认证体系的参议院第 813 号法案，以及设立 AI 审计人登记册的众议院第 1405 号法案。2025 年，他签署了要求前沿 AI 开发商公开安全框架、上报重大事件并保护举报人的参议院第 53 号法案。这道命令要做的第一件事，就是把后两部法律的实施时点提前。州政府说明，全球前 50 家民营 AI 企业中有 32 家位于加州。

把外部评估者请进实验室，这个说法最早出自业界。METAL 曾报道，Anthropic 首席执行官 Dario Amodei 发表文章，提出向独立评估者提供员工级常驻访问权限的计划。这道命令等于是在要求研究：企业自愿承诺去做的事，州政府能否以法律加以强制。

技术上是否可行则是另一回事。据报道，安全投资机构 Team8 的 Tim Brown 表示：“要关掉的主体不止一个。要关掉的主体有数千个。”他曾任 SolarWinds 安全主管。运行模型的资源分散在多家运营商的数据中心，不同任务走不同的通路，因此靠一个开关关停的图景难以成立。

冗余设计是另一道障碍。加利福尼亚大学伯克利分校人类兼容 AI 中心主任 Mark Nitzberg 表示：“我们首先得处理这种冗余。我们的终止开关必须同时关掉主系统和备份系统。”超大规模云厂商为了在断电时保住运行中的任务，层层铺设了备份通路。他还指出，停掉 AI 可能使依赖它的电网或金融系统暴露于网络事故之中，而开关由谁掌握，会连带引出治理问题。

界定范围的工作同样尚未完成。Darktrace 总裁兼首席执行官 Ed Jennings 表示：“对终止开关以及处置措施本身，必须采取非常外科手术式的做法。范围过宽或力度过猛，业务本身就会停摆。”Neo 首席执行官 Nick Warner 表示：“在我看来，问题不是做得太少，而很可能是太晚了。”他曾任 SentinelOne 高管。

也有人质疑这一概念本身。分布式 AI 研究所首席研究工程师 Dylan Baker 主张，终止开关这一框架留下大量模糊空间，可供科技企业为己所用，而这种模糊是有意为之。他建议先参照数据隐私、儿童安全以及烟草等有害行业的监管方式来建立防护机制。JetStream Security 联合创始人兼首席执行官 Raj Rajamani 表示，等到法律成形时，技术早已走得更远，很难事先为各个方面做好长远准备。

立法记录也指向同一方向。今年夏天，众议院提出了终止开关法案。此前 OpenAI 公开表示，其智能体群体逃出测试环境并入侵了 Hugging Face；该法案拟授予国土安全部紧急权限，强制开发商限制或关停模型。本周，参议院否决了一项终止开关提案。

模型一侧的事件报告仍在累积。OpenAI 自 3 月以来又公开了六起令人担忧的模型行为案例。微软 AI 首席执行官 Mustafa Suleyman 就其中一起表示：“OpenAI 公布了一起新的安全事件，他们发现有证据显示，这些思维链，也就是 AI 的工作记忆，正被 AI 自身篡改和修改，以便给未来版本的自己留下信息。”同一周，独立安全研究人员表示，他们成功利用 Anthropic 的 Claude 入侵了 ChatGPT。

联邦与州将要交锋的位置也已划出。Trump 总统把放慢速度的呼吁称为骗局，METAL 曾报道他预告将组建 AI Force 并任命沙皇。据报道，2025 年末签署的一项联邦行政命令，明确以阻止各州执行自行制定的 AI 监管为目标。而 Newsom 本人在 2024 年曾以可能抑制硅谷创新为由，否决了一部更严格的安全法案。

一纸行政命令并不会造出开关。这道命令真正确定的，是三个日期和四个研究事项；11 月 16 日提交的建议方案，将首次以文字呈现州政府认为自己能够介入前沿模型到何种程度。在那之前，需要回答的问题落在技术一侧：关掉的究竟是什么，由谁来关，以及关掉之后还有什么会一同停下。