完全自主杀伤性武器
Fully Autonomous Lethal Weapon
无需人类扣动扳机,由AI自主判断目标并执行攻击的武器系统。
简单来说
完全自主杀伤性武器指的是没有人类的最终批准,机器自行判断攻击对象并真正扣动扳机的武器。这有点像放出一只猎犬,只下达一句"去抓"的命令,之后猎犬就会自己挑选猎物并发起攻击。人类只下达最初的命令,而何时攻击谁则交由机器自行判断。
这之所以引发争议,是因为目前的人工智能并不完美。识别图像中的物体出错,或者对情况判断失误,都是常见的事,而这类错误一旦发生在战场上,就可能造成无辜者受伤这种无法挽回的后果。因此,一些AI公司即便向国防领域提供自身技术,也会在合同中明确规定,该技术不能用于在没有人类介入的情况下选择目标并发起攻击。
在报道中是这样出现的
文章中提到:"Anthropic表示可以解除大部分限制,但对两件事绝不让步:一是对美国人的大规模国内监控,二是无需人类介入即可自主选择目标并发起攻击的完全自主杀伤性武器。"这里容易产生的误解是,以为Anthropic完全拒绝与国防部打交道,但实际上它允许大部分军事用途,只是明确划出了这一武器用途和大规模监控这两条红线。