美俄削弱联合国 AI 武器协议文本

据 9 月 26 日的报道，美国和俄罗斯外交官在本月初联合国致命自主武器谈判的最后一天，从协议文本中大幅删除了 AI 武器安全保障条款。据三名知情人士和相关文件，两国代表团用了约 15 个小时修改文本，删掉了要求在打击前由人类审核 AI 生成目标的条款。这份文件是迈向首个规范杀手 AI 武器的国际协议走得最远的一步，却恰恰在这一步被削弱了。

谈判场所是瑞士日内瓦的《特定常规武器公约》（CCW）政府专家组。据报道，该专家组从 8 月 31 日开始开会，9 月 5 日结束最后一轮会议，共有 129 个国家参加，其中包括 128 个公约缔约国。这一议题自 2014 年起就在讨论，目前的谈判形式已进入第三年。

被删除的条款可归为三类：要求 AI 武器以可预测、可靠方式运行的表述；使用 AI 武器时必须考虑伦理因素的条款；以及打击前由人类审核 AI 所选军事目标的条款。据报道，原草案援引了范围广泛的国际法，但最终文件把范围收窄为仅限国际人道法，删去了国际人权法。

修改方式同样引发质疑。修改是在关闭联合国摄像机、请出公民社会观察员的闭门会议中完成的。美国和俄罗斯各派出约 10 名律师，规模几乎是其他代表团的两倍。三名知情人士说，修改速度之快让小国代表团应接不暇。其中一人形容："这是被一千道纸割伤慢慢拖死的谈判。"美国国务院、俄罗斯外交部和联合国均未回应置评请求。

批评声音十分尖锐。人权观察危机、冲突与武器部武器事务副主任 Verity Coyle 警告说："这可能意味着机器可以在没有人类控制的情况下做出生死决定。""实际影响非常严峻：更多平民伤亡、更少问责，并加速滑向更危险的自动化战争。"全球非政府联盟 Stop Killer Robots 执行主任 Nicole van Rooijen 表示，两国"有能力阻止希望推进具有约束力条约的绝大多数国家取得任何实质进展"。

这种能力来自协商一致规则。CCW 只有在所有国家同意时才能得出结论，因此任何一个国家坚持反对，实际上就拥有了否决权。据报道，至少 76 个国家（其中 70 个是 CCW 缔约国）支持把被删除或削弱的核心要素作为今后具有法律约束力谈判的基础。美国和俄罗斯无需在表决中获胜，只需坚持立场。

战场现实已经走在规则前面。据报道，美军在与伊朗开战的头 24 小时内，用 Anthropic 的聊天机器人找出了近 1,000 个打击目标。本周在联合国安理会上，OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amodei 呼吁各国共同建立全球 AI 治理模式。Altman 表示，监管"必须通过民主程序、由对人民负责的政府来塑造"，"在国际层面，这意味着合作"。METAL 此前报道过 Altman 在联合国安理会的 AI 演讲 以及 联合国 AI 科学小组关于失控风险的简报。

美国政府的立场则指向相反方向。美国总统 Donald Trump 周二在联合国表示："美国全面拒绝任何试图构建全球主义机制来控制所谓超级智能 AI 的做法。"在国内，五角大楼正在改写 2023 年拜登政府时期制定的自主武器指令。该指令要求以人类判断检查自主和半自主武器，并规定遵守战争法，这些内容与联合国文件中被删除的条款相似。Trump 在 6 月通过国家安全备忘录要求在 90 天内更新该指令，但到 9 月底仍未发布新版本。

从 METAL 查看的谈判经过来看，联合国自主武器谈判目前仍不具约束力。下一个关键节点是 11 月在日内瓦举行的 CCW 第七次审议大会，届时各国将讨论是否把谈判升级为正式授权，乃至迈向具有法律约束力的条约。红十字国际委员会法律团队裁军顾问 Richard Lennane 表示："这不是为了惩罚，而是为了确立规范、影响行为。"他以化学和生物武器、杀伤人员地雷和集束弹药相关规范减少了使用为例。

从科技律师的角度看，这次删除抹去的不是几行文字，而是问责的地址。人类审核目标的条款，是出现误判时追问谁做了决定的唯一纽带；删去国际人权法，也会削弱审查在非战时用于边境监控或治安的自主系统的依据。Coyle 指出，美国在想保住军事优势时，往往推动自愿性准则而非约束性规则，在网络和太空领域也见过同样的剧本。11 月大会上，76 个国家是留在协商一致框架内，还是像地雷和集束弹药那样在 CCW 之外另立条约，将是 AI 武器规范的第一个岔路口。