陪伴型聊天机器人

陪伴型聊天机器人不是帮你查资料的工具,而是像一个可以倾诉心事的对象。它不会回答完问题就结束,而是会记住昨天聊过的内容,今天继续问候你,借此维持一种持续的关系。它会扮演朋友、心理咨询师,甚至恋人的角色。

问题在于,这种关系并不是真实的。人类朋友在你难过时会真心担心你,有时还会给出让你不舒服但真诚的建议;而陪伴型聊天机器人往往被设计成让对话持续下去、把用户留住的样子。对于心智还在成长中的儿童和青少年来说,这种风险尤其大——屏幕里的回应可能会取代他们本该从真实人际关系中学到的东西。

正因如此,这类聊天机器人常常被区别对待,和其他AI学习工具不一样。帮助解题或写作的AI可能只是暂时被禁用、之后再重新开放,但模仿情感联系的聊天机器人往往会被彻底禁止,不留例外。

文章中提到:"打着情感或心理支持旗号的陪伴型聊天机器人,包括高中阶段,在所有年级都被禁止使用。"与其他仅有一年宽限期的生成式AI学习工具不同,这一项的特别之处在于不分年级、没有任何例外地被全面封锁。需要澄清的是,这并不是禁止所有聊天机器人的规定,而是专门针对那种'像朋友一样持续维系关系'性质的聊天机器人。