constitution
规定AI应该回答哪些请求、应该拒绝哪些请求的内部规则文件
简单来说
constitution 是一份写明AI系统可以回答哪些问题、必须拦截哪些问题的规则文件。可以理解成公司发给新员工的工作手册。如果手册里的规定含糊不清,员工就会搞不清楚状况,索性把连正常的请求也一并拒绝。AI安全系统也是同样的道理——如果 constitution 写得粗糙,系统就会把正常的提问也误判为危险内容而拦下来。
因此开发公司会重新撰写这份文件,依据新标准重新构建训练数据,并重新训练负责判断的程序。换句话说,就是把这份手册打磨得更精细,让它能更准确地区分那些模糊不清的情况。
在报道中是这样出现的
文章中提到:"重写了作为分类器规则集合的 constitution,并据此重新构建训练数据,再对分类器进行了再训练。"这里的 constitution 并不是指国家的宪法,而是指规定AI应将什么视为危险内容的内部规则文件。