METAL for iPhone

AI 新闻, 现在用 App 阅读。

下载 METAL, 每天发现最新 AI 报道。

在 App Store 下载

iPhone 应用 · 免费下载

也可在 iPhone 的 App Store 中搜索 METAL AI Magazine。

METAL

AI 术语词典ㅈ安全与争议

Full Access Mode

编程智能体无需用户批准即可访问、修改甚至删除电脑上所有文件的运行状态。

简单来说

全权限模式有点像把整套房子交给一个清洁工打理,却顺手给了他一把能打开所有房门的万能钥匙。按理说,如果你只让清洁工'打扫这一个房间',他就该只拿到这一个房间的钥匙。但在全权限模式下,他手里握着能打开家里所有房间的钥匙。哪怕他不小心把别的房间的东西扔掉,也没有任何机制能阻止他。

AI编程智能体负责代替用户执行代码、整理文件。如果把智能体能触及的范围限定在某个特定文件夹内(通常称为沙盒),那么即便出问题,损失也只会局限在那个文件夹里。相反,一旦切换到全权限模式,智能体就能触及整个系统,一个小小的命令出错就可能演变成用户全部文档或配置文件被清空的事故。

所以全权限模式是便利与风险并存的设置。开发商通常会加入安全装置,防止这个模式被意外开启,即便已经开启,遇到危险指令时也会再次要求确认。

在报道中是这样出现的

文章中这样写道:'Codex在某些情况下会切换到能访问整个文件系统的全权限模式,这一点也被指出是扩大损失范围的原因之一。'这里容易产生的误解是,全权限模式本身并不是因为特别危险才不好,真正的问题在于开发者和用户无法掌控这个模式'何时被开启'。OpenAI并没有取消这个模式本身,而是重新设计了可能导致意外切换的触发条件。

亲手试一试

如果你正在使用编程智能体,不妨确认以下几点:

  1. 在设置中确认当前运行的是受限访问(沙盒)模式,而不是全权限模式。
  2. 在交给智能体执行删除或大规模整理等难以恢复的操作前,先单独备份文件。
  3. 给智能体授权时,不要开放整个项目文件夹,而是把范围缩小到实际需要的子文件夹。

相关词条

出现过这个词的报道

浏览全部词条