谷歌上线Earth AI功能一天后紧急下线

谷歌在推出Earth AI功能仅一天后便将其下线。此前该功能被指出可能传播错误信息。

这既说明功能上线的速度有多快、下线的速度也有多快，也说明这一风险在发布前的验证环节中未被过滤掉。

在地图上叠加生成式内容的难度

地图是用户默认视为事实的界面。聊天机器人给出错误答案时，用户还留有怀疑的余地，但地图上显示的信息读起来就像是经过测绘的事实。一旦生成式输出被放在这个位置上，答错的代价就与其他产品品类不同了。

分类	普通聊天机器人	地图上的生成式内容
用户的基本态度	需要核实	直接当作事实接受
错误的形式	一句话	关于位置、边界、地形的断言
纠正难度	重新提问即可	若不从画面中消失，会持续扩散
影响范围	个人判断	灾害应对、行政、争议地区

地理信息中也混杂着政治上敏感的领域。国境线、地名、领土主权标注会因所在国家不同而有差异，地图服务长期以来一直依靠人工政策来管理这一问题。一旦生成式文本叠加其上，句子就会在管理范围之外被生成出来。

一天内撤回说明了什么

迅速撤回这件事本身并非坏信号。反而说明谷歌事先做好了可回退的设计。如果没有可通过功能开关随时开关的架构，就不可能在一天之内下线。

问题出在前端。在地理信息这种对事实性要求极高的领域，普通的有害内容过滤器是不够的。过滤器通常只能阻止"不该说的话"，但这次出问题的是**"把错误的内容说成事实"**。这是另一种性质的验证。

产品开发方可以借鉴的要点

1. 按领域划分事实性等级。 即便是同一模型，叠加到地图、医疗、法律等场景上时，通过标准也应有所不同。3%的错误率在某些界面上无妨，在另一些界面上却是事故。
2. 在画面上保留信息来源。 如果不在视觉上区分生成的说明与经过测绘的数据，用户是无法自行分辨的。颜色、图标、标签中至少要用上一种。
3. 先做好关闭开关。 这次谷歌能在一天内下线，正是因为有这个开关。如果功能开关是事后补加的，那回滚本身就会变成一次新的发布。
4. 上线前加入对抗性审查。 在内部提出"用这个功能制造出最像真的谎言"这样的任务，比常规评审更快能发现问题。
5. 准备好纠错路径。 错误输出一旦留存在缓存、截图、搜索索引中，如何纠正它，才是实际应对工作的大头。

各平台开始划定边界

案例	措施	性质
谷歌 Earth AI	上线一天后下线功能	事实性风险
Snapchat Spotlight	停止为完全由AI生成的内容提供奖励	经济机制设计

方向虽不同，但有一个共同点：上线又下线AI功能的这套流程本身，正在成为产品的一部分。

若应用于国内服务

国内涉及地图、房地产、交通、灾害信息的服务在加入生成式摘要功能时，会遇到同样的问题。尤其是地址、行政区划、设施营业时间等用户会直接据此采取行动的信息，一旦出错代价很大。

最安全的做法是：凡是原始数据库中可核实的项目，都不生成而是直接查询呈现，生成式功能只用于说明和摘要，将两者分离。如果画面上能进一步区分哪句话来自查询结果、哪句话是生成内容，则更为理想。

来源：TechCrunch报道。由于功能已被下线，具体规格难以确认。