classifier constitution
规定AI安全监测装置该放行什么、该拦截什么的规则文档
简单来说
分类器宪法（classifier constitution）是用来训练判断AI请求是否危险的监测装置时所依据的基准文档。就像法院判案要依据宪法条文一样,这套监测装置也要参照人类事先整理好的规则集,学习该放行什么、该拦截什么。
编写这套规则集比想象中要棘手得多。要研制疫苗,科学家必须亲自培养危险的病原体;有些降压药的成分则来自毒蛇的毒液。有益的研究和危险的研究外表往往几乎一样,规则定得太松,危险请求就会漏网;定得太严,连医生或学生的正常提问都会被挡下。因此各公司会汇集内部和外部专家的意见,反复修改这套规则集,再据此重新训练监测装置。
规则集一变,监测装置的判断标准也会随之整体改变。这意味着昨天被拦截的问题,今天可能就能通过,反之亦然。
在报道中是这样出现的
文章中常这样使用:"耗费数周时间,全面重写了生物安全分类器判断依据的分类器宪法。"尽管名字里带有"宪法"二字,人们常误以为它是法律文件,但实际上它更接近安全团队内部使用的训练指南。