Fail-safe
一种设计原则：系统一旦发生故障或遇到意外情况，就会自动切换到安全状态，以防止造成损害。
简单来说
Fail-safe（故障安全）指的是提前设计好一套保障机制，让系统在出问题时，得到的是最安全的结果，而不是最危险的结果。想想电梯就很好理解：即使缆绳断裂，电梯也不会直接坠落。它被设计成一旦出现异常，刹车会自动咬合，让电梯停在原地。故障本身无法完全避免，但故障发生后系统会落入什么状态，是可以提前控制的。
把这个原理用在红绿灯上也是一样：如果停电导致信号灯完全熄灭，比起某个方向亮绿灯、另一个方向亮红灯地卡在那里，让所有方向都闪烁提示车辆减速通行，事故风险会更低。对于那些自主做判断的机器、车辆或软件来说，这个原则更加重要。传感器突然失灵、判断逻辑给出异常结果的时刻迟早会出现，这时系统必须被设计成停下来或把控制权交还给人，而不是继续一意孤行。
所以，fail-safe 不是打造完美系统的技术，而是为不完美的系统终将失败这一刻做准备的技术。典型的例子就是自动驾驶汽车：当传感器信号相互矛盾、判断变得模糊不清时，比起急着冲向目的地，更应该设计成缓缓靠边停车。
亲手试一试
如果想亲自体验一下，可以这样问AI聊天机器人：
"自动驾驶汽车行驶中，两个传感器给出了不同的判断，这种情况下fail-safe设计应该提供哪些选项？请具体提出三个。"
看看答案是否都指向降低风险的方向，比如'停车''减速''把控制权交给人类'，这样就能大致体会到fail-safe这种设计思路是什么感觉了。