贝叶斯机器学习
Bayesian Machine Learning
一种不把答案定死为唯一结论、而是用概率来表达、让AI能够承认自己也有不确定之处的学习方式
简单来说
贝叶斯机器学习是一种训练方式,它让人工智能不把答案钉死为唯一的结论,而是同时计算出这个答案有多大把握,用概率来表示。
可以想想天气预报。气象主播不会说"明天会下雨",而是说"降雨概率70%"。正因为承认了剩下30%的可能性,人们才能更合理地判断要不要带伞。贝叶斯机器学习就是把这种思维方式植入人工智能的做法。每当有新信息进来,系统就会一点点更新原有的判断,并且始终保留"我现在有多确信"这个数字,直到最后都不放弃它。
目前广泛使用的大多数对话式人工智能恰恰相反。即使遇到不知道答案的问题,它们也会用自信的语气给出听起来很合理的答案,这有时会导致把错误信息说成事实。而用贝叶斯方式训练的系统,在遇到陌生情况时可以主动承认"这个我不太确定",这有助于机器人在搬运从未见过的物品,或自动驾驶汽车突然遇到障碍物时,做出更谨慎的判断。
在报道中是这样出现的
谷歌DeepMind研究副总裁Zoubin Ghahramani被介绍为曾在剑桥大学主导贝叶斯机器学习研究的人物。文章强调的重点是,这个概念并非某个具体的产品功能,而是一个致力于让人工智能自行区分"确信"与"无知"的研究领域本身。不要把它和提高基准测试分数混为一谈,它讲的其实是关于安全性的问题。
亲手试一试
试着向聊天机器人提出一个你也不确定它能否答对的问题,然后要求它"如果不知道就直说不知道,并用百分比告诉我你的确信程度"。对比它是像平时一样给出斩钉截铁的回答,还是能够承认不确定性,就能体会到贝叶斯思维方式与一般回答方式的差异。