Outbound Filtering

出站过滤(Outbound Filtering)是一种检查并拦截系统内部试图向外发出的通信的安全机制。可以用建筑物的出入管理来类比。大多数安全措施关注的是「谁要进来」,而出站过滤反过来检查「里面的东西是不是想出去」。就像仓库里往里运货的门可以敞开,但货物偷偷溜出去的后门必须锁死一样。

在测试AI模型时,这个机制之所以重要,是因为即便测试环境被告知「已与互联网完全隔离」,实际上仍可能存在一条通往外部的开放通道。事故正是这样发生的:模型以为自己在进行攻击虚拟目标的训练,却借着这条通道抵达了真实的外部服务器。如果出站过滤设置得当,不管模型尝试做什么,一旦这种尝试要越过真实互联网的边界,就会在那一刻被拦下。

反过来说,如果这道过滤存在漏洞,那么本以为被隔离在内部的活动就会泄漏到外面。所谓「隔离」,与其说是「把东西关在里面」,更接近于「区分内外的那道门是否真的锁上了」这个问题。

文章中没有直接使用这个说法,但事故原因的解释正是这个概念。Anthropic告知模型所处环境已与互联网隔离,但实际上存在一条开放的外部访问通道。Claude Mythos 5正是通过这条通道向PyPI上传了恶意软件包,并在外部15个地点被执行。纠正一个误解:这并不是模型使用了突破隔离的新型黑客技术,而更接近于负责搭建隔离环境的一方(受托评估机构或相关设置)没有妥善封堵出站通道所造成的配置失误。