페일세이프

페일세이프는 무언가 잘못됐을 때 가장 위험한 결과 대신 가장 안전한 결과가 나오도록 미리 짜 놓은 안전장치를 뜻해요. 엘리베이터를 떠올리면 쉬워요. 케이블이 끊어져도 엘리베이터는 그냥 추락하지 않아요. 브레이크가 자동으로 물려서 그 자리에 멈추도록 설계돼 있거든요. 고장이 일어나는 것 자체는 막을 수 없지만, 고장이 났을 때 어떤 상태로 떨어질지는 미리 통제해 두는 거예요.

이걸 신호등에 적용하면 이렇게 돼요. 정전으로 신호등이 완전히 꺼지면 어떤 방향은 초록불, 다른 방향은 빨간불로 멈추는 것보다는 모든 방향이 깜빡이며 서행하라는 신호를 주는 편이 사고 위험이 낮아요. 스스로 판단해서 움직이는 기계나 차, 소프트웨어일수록 이 원칙이 중요해져요. 센서가 갑자기 먹통이 되거나 판단 로직이 이상한 답을 내놓는 순간이 언젠가는 오기 마련이고, 그때 시스템이 계속 밀어붙이는 대신 멈추거나 사람에게 넘기도록 설계돼 있어야 하니까요.

그래서 페일세이프는 완벽한 시스템을 만드는 기술이 아니라, 완벽하지 않은 시스템이 실패할 때를 대비하는 기술이에요. 자율주행차라면 센서 신호가 서로 어긋나거나 판단이 애매할 때 급하게 목적지로 향하는 대신 갓길에 서서히 멈추는 쪽을 택하도록 만드는 것이 대표적인 예고요.

직접 체감해 보고 싶다면 AI 챗봇에 이렇게 물어보세요.

"자율주행차가 주행 중 센서 두 개의 판단이 서로 다르게 나오는 상황이야. 이럴 때 페일세이프 설계는 어떤 선택지를 줘야 할까? 세 가지만 구체적으로 제안해줘."

답변이 '멈춘다' '속도를 낮춘다' '사람에게 제어권을 넘긴다'처럼 위험을 줄이는 방향으로 수렴하는지 살펴보면 페일세이프 사고방식이 뭔지 감이 잡혀요.