확률적 추론

확률적 추론이란 인공지능이 답을 내놓을 때 확신의 정도까지 함께 계산하는 방식이에요. 일기예보를 떠올리면 쉬워요. 기상캐스터는 내일 비가 올지 안 올지 딱 잘라 말하지 않고 강수확률 70%라고 말하죠. 이렇게 하면 우산을 챙길지 말지는 듣는 사람이 상황에 맞게 판단할 수 있어요. 확률적 추론을 하는 AI도 마찬가지로 하나의 답을 자신 있게 던지는 대신 얼마나 확실한지를 같이 보여줘요.

반대로 지금 널리 쓰이는 대형 언어 모델 다수는 모르는 질문에도 마치 정답을 아는 것처럼 그럴듯하게 답하는 경우가 많아요. 이런 태도는 겉으로는 똑똑해 보이지만, 실제로는 틀린 정보를 자신만만하게 내놓는 위험한 습관이 될 수 있어요. 확률적 추론은 이런 습관 대신 모르는 것을 모른다고 인정하는 법을 시스템에 가르치려는 접근이에요.

이 접근은 로봇이 처음 보는 물건을 옮기거나 자율주행차가 갑자기 튀어나온 장애물을 마주하는 상황에서 특히 중요해요. 자신의 판단이 얼마나 믿을 만한지 스스로 가늠할 줄 아는 시스템이라야, 애매한 상황에서 무모하게 밀어붙이는 대신 속도를 줄이거나 사람에게 확인을 구하는 등 더 안전한 선택을 할 수 있기 때문이에요.

기사에서는 "AI가 무엇을 확신하고 무엇을 모르는지 스스로 판단하는 확률적 추론"이라는 표현으로 등장해요. 흔한 오해는 확률적 추론이 곧 정확도가 낮은 시스템이라는 생각인데, 실제로는 정반대예요. 확신의 정도를 숨기지 않고 드러내는 시스템일수록 위험한 상황에서 더 신중하게 행동할 수 있다는 게 핵심 주장이에요.

챗봇에게 답을 요청할 때 다음처럼 확신의 정도를 함께 요구해보면 차이를 느낄 수 있어요.

"이 질문에 답할 때, 정답이라고 얼마나 확신하는지 퍼센트로 표시하고, 확신이 낮은 부분은 왜 그런지도 설명해줘."

같은 질문을 그냥 물어봤을 때와 비교하면, 모델이 자신 없는 부분을 인정하는지 아니면 여전히 단정적으로 답하는지 확인할 수 있어요.