因果学习
Causal Learning
一种让AI学会区分数据中单纯同时出现的现象与真正存在因果关系的现象的学习方式。
简单来说
因果学习是让AI学会分辨两件事到底只是碰巧一起发生,还是其中一个真的导致了另一个的方式。
打个比方。冰淇淋销量上升的日子里,溺水事故也会增多。但这并不意味着冰淇淋导致了事故。真正的原因是炎热的天气——天气同时推高了冰淇淋销量和事故数量,而冰淇淋和事故本身并没有因果关系。大多数AI模型只是从海量数据中观察哪些事物经常一起出现,借此学习模式。因此,如果冰淇淋和事故经常同时出现,模型很容易误以为二者之间存在关联。
具备因果学习能力的AI想要更进一步。它学习像做实验一样逐一改变条件(比如保持天气不变,而人为压低冰淇淋销量),来验证是否真的存在因果关系。这样一来,AI就不再只是死记硬背经常同时出现的组合,而是能更准确地预测:改变某个行为之后,结果究竟会如何变化。
亲手试一试
试着这样问聊天机器人:"冰淇淋销量和溺水事故数量同时增加。请解释这两者之间是否存在因果关系,还是背后有一个共同的隐藏原因。"看看回答是否区分了相关性和因果关系,是否找出了隐藏原因(比如天气)——由此可以感受这个模型处理因果关系的能力如何。