ASIMOV-Agentic
指用来评估AI智能体是否避免危险行为、遵守安全规则的基准和评估体系的名称。
简单来说
ASIMOV-Agentic这个名字本身就说明了它的含义。'ASIMOV'来自艾萨克·阿西莫夫,他在小说中提出了'机器人不得伤害人类'的机器人三定律;'Agentic'则指能够自主判断并行动的AI。把两个词合在一起,意思就很清楚了——这是一套用来测试能够自主行动和决策的AI是否在安全规则范围内行事、不会伤害人类的工具。
打个比方,这就像让一名新入职的机器人快递员在真正上路之前先经过模拟测试。要提前确认它在接到指令时是否会选择危险的捷径,是否会为了达成目标而不惜违反规则。可以把它理解为一个测试平台,用来检验即使没有人类直接监督,AI是否也能自觉守住安全底线。