概率推理
Probabilistic Reasoning
AI在给出答案时不直接断定唯一正解,而是把不确定性本身也纳入计算,比如给出'有多少百分比概率是正确的'这样的思考方式
简单来说
概率推理是指AI给出答案时,连同自己对这个答案的确信程度也一起计算出来的方式。想想天气预报就很容易理解。气象主播不会一口咬定明天下不下雨,而是会说降雨概率70%。这样一来,听众就可以根据自己的情况判断要不要带伞。采用概率推理的AI也是同样的道理:它不会自信满满地只给出一个答案,而是会同时展示自己有多大把握。
相反,目前广泛使用的许多大型语言模型,即便面对自己不知道答案的问题,也常常表现得好像自己知道正确答案一样,给出看似合理的回答。这种态度表面上看起来很聪明,但实际上可能变成一种危险的习惯——自信地给出错误信息。概率推理正是想用承认'不知道就是不知道'的方式,来取代这种习惯,并把它教给系统。
这种方法在机器人搬运从未见过的物体,或自动驾驶汽车突然遇到障碍物的情况下尤为重要。只有能够自行判断自己的判断有多可靠的系统,才能在模糊不清的情况下不冒然行事,而是选择减速或向人类确认等更安全的做法。
在报道中是这样出现的
文章中常以"AI自行判断自己确信什么、不知道什么的概率推理"这样的表述出现。一个常见的误解是,认为概率推理等于精度较低的系统,但实际情况恰恰相反。核心观点是:越是不隐藏自身确信程度、如实展示出来的系统,越能在危险情况下更加谨慎地行动。
亲手试一试
在向聊天机器人提问时,试着像下面这样一并要求它给出确信程度,你会感受到明显的差别:
"回答这个问题时,请用百分比表示你对答案的确信程度,并说明确信度较低的部分是为什么。"
将这个结果与直接提出同样问题时的回答相比较,可以看出模型是否承认自己没有把握的部分,还是依然给出断定性的回答。