dual-use query
既可能用于良性目的、也可能用于恶意目的的问题或请求,使AI难以判断其是否安全
简单来说
双重用途查询指的是既能用于好的目的、也能用于坏的目的的问题或请求。可以想想厨房里的刀:它可以用来做饭,但也可能伤到人。卖刀的人和买刀的人都无法提前知道这把刀会被用在什么地方。向AI提出的问题也是同样的道理。比如,询问某种病原体对人体有什么影响的问题,可能来自正在研究疫苗的科学家,也可能来自怀有危险目的的人。仅从问题的字面上看,很难分辨提问者的真实意图。
实际上,要研发治疗某种疾病的药物,往往必须先接触引发这种疾病的危险物质。制造疫苗需要直接培养要预防的病原体,某些降血压药物就是在分离毒蛇毒液的过程中被发现的。像这样,危险的知识和有益的知识紧密交织在一起的领域,确实是存在的。
因此,AI公司会设置类似把关人的系统来过滤这类问题,但早期出于安全考虑,往往会把相关问题整批地、宽泛地拦截下来。问题在于,这样一来,真正出于好奇提问的学生、患者或医护人员的问题也会一并被挡住。近期的改进工作正致力于让这个把关系统更加精细,以便更准确地区分真正危险的问题和单纯正常的求知需求。
在报道中是这样出现的
新闻报道中提到,安全系统经过改造,以“更好地区分良性查询与双重用途查询之间的细微差别”。容易被误解的一点:双重用途查询本身并不意味着是恶意问题。它的意思是,同一个问题在不同情况下可能是安全的,也可能是危险的,正因如此,它才被归类为AI判断起来颇为棘手的对象。