FreeForm
Flock Safety监控摄像头的AI搜索功能,用户输入描述外貌特征的自由文本句子即可查找目标人物。
简单来说
FreeForm让警察像写目击证词一样输入一句话,比如「一名穿红色连帽衫的男子」,AI就会在城市各处摄像头拍下的画面中找出符合描述的人。与过去只能按车牌号等固定项目查询的方式不同,FreeForm的特点在于它把写出来的句子本身当作搜索词,而不是让用户从预设选项中挑选。
问题在于,这种自由文本在不同类别中的过滤方式并不一样。涉及种族或宗教的表达会被AI自动拦截,但涉及政治或社会议题的表达只会弹出一次警告提示,警察点击确认勾选框后搜索照样进行。这就好比在检查站没收危险物品,却对可能同样敏感的物品只挂上一块「小心」的提示牌就放行。
在报道中是这样出现的
文章指出:「人物搜索不设任何过滤,只接受手写的句子输入,而Flock已经把这项功能称为FreeForm销售多年。」容易被误解的一点是,人们以为FreeForm对所有表达都一视同仁地审查,但实际上在八个敏感类别中,只有政治、社会、文化相关的表达是唯一不会被完全拦截、仅弹出警告就能通过的。