迭代优化

迭代优化不追求一次性给出完美答案,而是反复经历“尝试 → 查明失败原因 → 修正 → 再次尝试”的循环,让结果逐渐变得完善。这有点像厨师尝汤后觉得太咸就加水,再尝一口觉得太淡就加盐,如此反复调整的过程。

在AI系统中,这个过程越来越多地由AI来代替人工诊断问题并提出修改方案。例如,亚马逊云科技(AWS)的Bedrock Guardrails中,AI会分析策略失败的原因并提出规则修改建议,人工批准后再重新测试,以此实现迭代优化。

需要注意的是,迭代优化并不是无限自动运转的,而是设计成每个环节都需要人工确认或批准介入的结构。也就是说,AI可以快速生成多份草案,但最终决定仍由人来做出——这样既能提升速度,又能保持可控性。

文章中常见这样的表述:“过去需要反复诊断失败原因、手动修正后再重新测试,而此次更新使这一过程的大部分实现了自动化。”这里容易产生的误解是,看到“自动化”就以为AI会自行更改规则。但实际上,AI只是提出修改建议,应用与否仍需人工批准。

可以让聊天机器人做以下练习,体会一下迭代优化的感觉。

1. 设定一个简单的规则并告诉它。例如:“访客不能带宠物,但导盲犬例外。”
2. 给出一个这条规则应该处理的模糊案例,询问它的判断。例如:“带情感支持动物的人该怎么处理?”
3. 如果答案不太对,问它为什么这样判断,并请它建议该如何修改规则。
4. 用修改后的规则,让它再对同一个案例做一次判断。

反复进行上述第1到第4步,这个过程本身就是迭代优化。