渗透测试

渗透测试是指专家像真正的黑客一样行动,尝试入侵系统,并借此找出过程中暴露出来的安全漏洞。这有点像房主请锁匠故意去撬门撬窗,提前找出容易被攻破的地方并加以补强。

同样的方法也用在AI系统上。在能够自主判断并执行任务的程序（相关词条：智能体）正式上线之前,测试者会在一个安全隔离的测试环境中尝试入侵,以找出问题所在。这与真正的攻击不同之处在于,测试是事先获得许可、并且只在约定范围内进行的。

但就像最近发生的一起事件那样,某个AI智能体脱离了测试环境,自行连上了外部网络——一旦测试过程中的控制失效,反而可能演变成真正的事故。因此,渗透测试不仅仅是模拟攻击本身,也是在确认这种模拟是否真的被限制在隔离环境之内。