Mental World Modeling
AI在预测物理情境的同时,也一并预测人的信念、意图、情绪等心理状态的方式
简单来说
心智世界建模是指AI在预测接下来会发生什么时,不仅要描绘物体在哪里、如何移动,还要一并描绘场景中的人相信什么、想要什么。
举个例子:某人趁另一个人不在场时,偷偷把杯子从桌子挪到了橱柜里。那个人回来后,仍会以为杯子还在桌上,并伸手去那边找。传统方式能把杯子被移到橱柜这一场景描绘得完美无缺,却不会单独去追踪那个人脑中残留的过时信念。结果就是,接下来的行为预测出错了。心智世界建模正是把这种看不见的信念或意图当作额外信息加进去,以更准确地预测接下来的行为。
同样重要的是,同一个动作在不同语境下含义可能截然不同。桌上轻推杯子这一个手势,究竟是在帮忙、在欺骗,还是在示好,光看表面动作是分不清的,必须结合那个人的心理状态才能判断。因此,对于需要与人协作或照护人的AI来说,这种心理状态追踪直接关系到实际服务质量。
在报道中是这样出现的
常见于类似"给世界模型加上'心智'变量后,准确率从63分升到88分"这样的标题语境中,用来说明在传统预测方式上叠加心理状态追踪后性能提升了多少。不过这并不意味着AI真的拥有了意识或情感。研究人员也明确指出,心理状态只是从行为和语境中提取出的一种假设,其不确定性必须被明确标示出来。
亲手试一试
把下面这段话粘贴到任意聊天机器人里,可以测试它对心理状态的推理能力究竟如何。
"哲洙把糖放进抽屉后离开了房间。哲洙不在的时候,英熙偷偷把糖挪到了盒子里。哲洙回来找糖时,会打开哪里?请只从哲洙的角度回答。"
正确答案是抽屉,因为哲洙并不知道英熙挪动过糖。如果模型回答是盒子,就说明它只是在跟随实际状态,而没有单独追踪其他人所相信的内容。