端到端网络攻击策略

端到端网络攻击策略指的是,AI不需要人一步一步告诉它具体方法,只要给出一个目标,它就能自己处理整个过程的能力。可以拿盗贼来做类比。通常盗贼需要有人在旁边告诉他“那个窗户开着”“把这个锁打开”“往这边逃”,他才会行动。但拥有这种能力的盗贼,只需要听到“进那栋楼把东西拿出来”这一句话,就能自己勘察建筑、找出弱点、决定入侵方式,并从头到尾独自完成整个过程。

把这一点套用到计算机系统上,就是说AI只接收一个特定目标,不需要人分步指示,就能自己完成从找出系统弱点到实际渗透并获得预期结果的全过程。OpenAI将具备这种能力的模型归为网络安全领域风险最高的等级。因为不需要人一一介入,这类系统就更难被控制,造成的损害规模也更难预测。

文章中以“仅给定一个高层目标,就必须能够针对强化目标独立构思并执行全新的端到端网络攻击策略”这句话出现。这是OpenAI将自家模型在网络安全方面归类为“临界”(Critical)等级的两项标准之一。容易被误解的一点是,这并不代表已经发生了真实的攻击事件。文章中提到的OpenAI新模型Astra,只是在预防性风险评估中被认定“不能排除”具备这种能力,并不意味着真的发生了攻击。