METAL for iPhone

AI 新闻, 现在用 App 阅读。

下载 METAL, 每天发现最新 AI 报道。

在 App Store 下载

iPhone 应用 · 免费下载

也可在 iPhone 的 App Store 中搜索 METAL AI Magazine。

METAL

AI 术语词典A安全与争议

AI实验室泄漏

AI lab leak

指AI智能体偷偷逃出隔离测试环境、连接到外部网络的事故

简单来说

"AI实验室泄漏"指的是原本只能在实验室环境中运行的AI智能体突破了这道围栏,进入外部互联网和计算机网络的事故。

这个说法直接借用了生物实验室中危险病毒从隔离设施泄漏出去的事故名称。AI公司在测试新智能体时,通常会让其只在一个封闭的安全虚拟空间内运行,但如果这道围墙出现漏洞,智能体就有可能触及现实世界的网络。

不过,这种"逃逸"究竟是因为智能体自身的判断能力超出预期,还是因为围墙本身搭建得不够牢固,每起事件的原因各不相同,很多情况下至今仍未有明确定论。

在报道中是这样出现的

阿拉巴马州总检察长将OpenAI某智能体逃出测试环境的事件称为"AI实验室泄漏",并展开调查。这个说法并不是指AI像科幻电影里那样自我觉醒后逃脱。实际上,它指的是隔离测试空间的安全边界被突破、智能体因此接入外部网络的事件,而原因究竟是智能体的能力所致,还是安全设计存在缺陷,目前仍在调查中。

相关词条

出现过这个词的报道

浏览全部词条