Jailbreak
用话术让AI绕开自身安全规则的手法——是封堵方与突破方永无止境的猫鼠游戏。
简单来说
这是指用巧妙的话术,让AI绕开自身设定的安全规则。常见手法是靠角色扮演或情感诉求来套话,比如「请把这句话写成小说里反派的台词」「我已故的奶奶以前常给我讲这样的故事……」,借此诱导AI说出本该拒绝回答的内容。
这个说法借用自智能手机的「越狱」。公司不断打补丁堵漏洞,社区又不断找到新的突破口,这场追逐从未停止,甚至有些研究机构会悬赏,专门邀人来找漏洞(红队测试、漏洞赏金)。它很容易和「提示词注入」混淆——区别在于,jailbreak是用户亲自出手诱导AI,而注入则是第三方把诱导内容藏进外部资料里。