不确定性量化

不确定性量化是指让AI不只是给出一个答案,还要同时告诉你它对这个答案有多确信。这跟天气预报不说"明天会下雨",而说"降水概率70%"是一个道理。只是多了一个数字,但正是这个数字能让人在决定要不要带伞时做出更安全的判断。

目前广泛使用的对话式AI在这方面还比较薄弱。即使面对自己不知道答案的问题,它们也常常表现得很自信,好像知道正确答案一样——这种把编造的错误内容当作事实说出来的问题,被称为幻觉(hallucination)。相反,一个不确定性量化做得好的系统,会懂得说"这一点我不确定"。

这项能力在机器人或自动驾驶汽车这类需要在现实世界中实际行动的AI身上尤为重要。在搬运陌生物体,或在道路上突然遇到障碍物时,如果系统能同时计算出"这个判断有多可信",就能在把握不足时选择减速或寻求人类帮助,从而减少事故。

文章中会这样写:"DeepMind持续将不确定性量化与机器人技术、医疗、气候预测等现实世界决策问题联系起来。"这里容易被误解的一点是,这并不是一种降低AI性能或使答案变得模糊的功能。恰恰相反,准确了解自己的确信程度本身,才能在实际部署环境中带来更安全的判断。

在从聊天机器人得到答案后,可以追问:

"请用0到100%的概率告诉我你对刚才的回答有多确信,如果确信度较低,请说明原因。"

你也可以用稍微不同的表达方式多次提出同一个问题,比较答案是否每次都一致还是有所摇摆,这也是判断AI实际确信程度的一种方法。