METAL for iPhone

AI 新闻, 现在用 App 阅读。

下载 METAL, 每天发现最新 AI 报道。

在 App Store 下载

iPhone 应用 · 免费下载

也可在 iPhone 的 App Store 中搜索 METAL AI Magazine。

METAL

AI 术语词典ㅇ安全与争议

Uplift(能力提升)

Uplift

AI为恶意使用者提供其原本难以获得的知识或能力,从而提升其实施危险行为能力的程度

简单来说

Uplift(能力提升)指的是AI让某人轻易获得原本靠自己很难获得的危险知识或技能的情况。这就像一把梯子,让人翻过原本绝对翻不过去的墙——问题在于,如果墙那头是生物武器制造方法之类的东西,那就麻烦了。

举例来说,如果某个AI模型具备专家级的生物学知识,这对医生或研究人员来说是很大的帮助,但对怀有恶意的人来说,这相当于把原本仅靠网络搜索或论文很难获得的危险能力直接送到了他们手上。因此,AI公司担心,一旦模型在某个领域变得过于强大,这种强大未必总是被用在好的方向上。

正因如此,在生物学这类一旦出错就难以挽回的领域,企业会评估模型是否真的会带来这种能力提升,如果判断风险过高,就会把相关请求转给能力较弱的模型处理,或者直接拒绝回答。

在报道中是这样出现的

文章中以类似“Fable 5可能为恶意行为者提供其在别处无法获得的能力,即实质性的能力提升(uplift)”这样的表述出现。这里的uplift并不是指模型性能本身,而是指衡量这种性能究竟在多大程度上提升了恶意人员实际能力的一个风险评估概念。

相关词条

出现过这个词的报道

浏览全部词条