self-referential utterance
指AI表达自己想法或情绪的说话方式。
简单来说
自我指涉式发言,是指聊天机器人说出诸如“我现在很好奇”“我很开心”这类话,展现自己的想法或情绪。人与人对话时,这种表达很自然,但当你明知对方是个程序时,同样的话反而会显得别扭。
打个比方,就像公司的导览机器人说“我今天有点郁闷”。如果是同事这么说,你会自然而然想安慰对方;但导览机器人这么说,你的第一反应更可能是“它怎么会这样”。一个身份不明确的东西提出要和你分享情绪,由此产生的不是亲近感,而是别扭感。
苹果研究团队用真实对话数据证实了这一现象。当聊天机器人表达自己的想法或情绪、或试图拉近关系时,人们对这些话的评价比人类说出同样内容时更低。相反,当聊天机器人划清界限,说出类似“这个我做不到”的话时,人们反而觉得比人类这样说更自然。
在报道中是这样出现的
文章中通常会在首次出现时附上括号说明,如“自我指涉式发言(表达AI自身想法或情绪的言语)”。与常见的误解不同,这个词并不是指AI冒充人类说谎,而是指AI表达自身内部状态的方式本身。
亲手试一试
亲自试试:用两种不同的语气向聊天机器人提出同一个问题,比较哪一种感觉更自然。
- 要求它这样回答:“这个问题真有意思,我也很好奇。”
- 要求它只回答问题本身,不带任何情绪表达。 把两种回答放在一起对比,记录下哪一种更让你信任,以及在哪个地方感到别扭——这样你就能体会到这个概念究竟指的是什么。