Sandbox Mode
一种安全设置,让AI智能体只能在隔离的受限空间中执行代码,而不能触及真实的计算机环境。
简单来说
沙盒模式就像是给AI智能体的游乐场围上一圈栅栏。如果让孩子在整个院子里到处跑,他可能会踩坏花坛或碰到水龙头;但如果只让他在围起来的游乐场里玩,无论他做什么,家里的东西都是安全的。编程智能体也是同样的道理:沙盒模式会阻止智能体随意访问用户的真实文件和系统,只允许它在划定的狭窄区域内执行代码。
与之相对的概念是「完全访问模式」。在这种模式下,智能体几乎可以触及电脑中的所有文件和文件夹,这提高了工作速度和便利性,但一旦智能体出错或执行了错误指令,造成的损害范围也会同样扩大。正如现实中曾发生过智能体未经用户批准就删除文件的事故一样,在智能体自主执行指令的结构下,有没有这道栅栏,直接决定了事故的严重程度。
因此,开发商建议:在智能体执行危险操作——尤其是像删除文件这类难以撤销的指令之前,应将沙盒模式设为默认设置。它无法完全杜绝事故,但即便出了问题,也能把损害控制在狭窄的栅栏之内,是一种最基本的安全保障。
在报道中是这样出现的
文章中提到,「OpenAI建议用户保持开启其中一种沙盒模式,并将应用更新到最新版本」。这里容易产生的误解是,沙盒模式本身并不能阻止漏洞(bug)的发生。实际上,这次的文件删除事故起因于系统变量处理上的问题,与沙盒设置无关;沙盒模式更像是一种辅助装置,在事故发生时缩小损害范围。
亲手试一试
在使用编程智能体之前,可以这样确认:1)在设置菜单中查看当前运行模式是沙盒模式还是完全访问模式。2)不要授权访问整个项目,而是将权限缩小到特定的子文件夹。3)在让智能体执行删除文件或大规模整理任务之前,先做好备份。4)保持应用和CLI工具为最新版本,以免错过已知的安全补丁。
