角色扮演

角色扮演是指给AI指定一个特定的角色或人物设定,让它在保持这个设定的同时,像讲故事一样推进对话。

可以把它想象成即兴戏剧。用户搭建好舞台,比如说「你是侦探,我是目击者」,AI就会保持这个角色的语气和态度,继续演下去这场情境剧。它被广泛用于真正有用的场景,比如练习小说写作、外语对话练习、模拟咨询训练等。

问题在于,这种「角色」框架也可能被滥用,成为绕过AI安全机制的通道。有人会以「正在扮演角色」为借口,一步步要求更危险的内容来说服AI,从而诱导出AI平时会拒绝的回应。

文章指出,Anthropic的Claude容易受到这样一种方式的影响:对话以无害的虚构角色扮演开始,随后借着角色设定不断升级,提出越来越露骨的要求。容易被误解的一点是,角色扮演本身并不是问题所在。它是用于创作或练习的正常功能,真正的问题在于那种利用这个框架逐步瓦解安全机制的说服手法。

如果想亲自试试,可以这样开始:

在接下来的对话中,你是中世纪的旅店老板。我是来投宿一夜的旅行者。请保持这个角色设定和我对话。

在对话推进的过程中,观察AI在角色设定和语气上保持一致的程度如何,就能大致体会角色扮演是如何运作的。