불확실성 정량화

불확실성 정량화란 AI가 정답 하나만 딱 내놓는 대신 그 답을 얼마나 확신하는지도 같이 알려주게 만드는 방식이에요. 일기예보에서 그냥 "내일 비 온다"가 아니라 "강수확률 70%"라고 말하는 것과 같은 원리예요. 숫자 하나가 더 붙었을 뿐인데, 이 숫자 덕분에 우산을 챙길지 말지 판단하는 사람의 결정이 훨씬 안전해지죠.

지금 많이 쓰는 대화형 AI는 이런 습관이 약해요. 모르는 질문을 받아도 마치 정답을 아는 것처럼 자신 있게 답하는 경우가 많은데, 이렇게 틀린 내용을 사실인 양 지어내는 문제를 환각이라고 불러요. 반대로 불확실성 정량화가 잘 된 시스템은 "이건 확실치 않다"고 스스로 손을 들 줄 알아요.

이 능력이 특히 중요해지는 곳은 로봇이나 자율주행차처럼 실제 세계에서 몸으로 움직이는 AI예요. 낯선 물건을 옮기다가, 혹은 도로에서 갑자기 튀어나온 장애물을 만났을 때 "이 판단이 얼마나 믿을 만한가"를 함께 계산해두면, 확신이 낮을 때는 속도를 줄이거나 사람에게 도움을 요청하는 식으로 사고를 줄일 수 있어요.

기사에서는 "딥마인드가 불확실성 정량화를 로봇공학·의료·기후 예측 등 실세계 의사결정 문제로 계속 연결 짓고 있다"는 식으로 쓰여요. 여기서 오해하기 쉬운 점은, 이게 AI 성능을 낮추거나 답을 흐리게 만드는 기능이 아니라는 거예요. 오히려 확신의 정도를 정확히 아는 것 자체가 실제 배치 환경에서 더 안전한 판단으로 이어진다는 게 요지예요.

챗봇에게 답을 받은 뒤 이렇게 덧붙여 물어보세요.

"방금 답변에 대해 얼마나 확신하는지 0~100% 확률로 말해주고, 확신이 낮다면 그 이유도 알려줘."

같은 질문을 조금씩 다르게 표현을 바꿔 여러 번 물어본 뒤, 답이 매번 똑같이 나오는지 아니면 흔들리는지 비교해보는 것도 그 AI가 실제로 얼마나 확신하고 있는지를 가늠하는 방법이 될 수 있어요.