반복적 개선

반복적 개선은 한 번에 완벽한 답을 내지 않고, 시도 → 실패 원인 확인 → 수정 → 재시도를 여러 번 거쳐 결과를 점점 다듬어가는 방식을 말한다. 요리사가 국 맛을 보고 짜다 싶으면 물을 더 넣고, 다시 맛보고 싱겁다 싶으면 소금을 더하는 과정을 계속하는 것과 비슷하다.

AI 시스템에서는 이 과정을 사람이 직접 하는 대신 AI가 대신 진단하고 수정안을 제안하는 경우가 늘고 있다. 예를 들어 아마존웹서비스(AWS)의 베드락(Bedrock) 가드레일에서는 정책이 왜 실패했는지 AI가 원인을 분석해 규칙 수정안을 제안하고, 사람이 그 제안을 승인하면 다시 테스트하는 식으로 반복적 개선이 이뤄진다.

중요한 건 반복적 개선이 무한히 자동으로 굴러가는 것이 아니라, 매 단계마다 사람의 확인이나 승인이 끼어드는 구조로 설계된다는 점이다. AI가 빠르게 초안을 여러 번 만들어주는 대신, 최종 결정은 사람이 내리는 식으로 속도와 통제를 함께 확보하는 방법이다.

기사에서는 "실패 원인을 진단하고 직접 수정한 뒤 재테스트하는 과정을 반복해야 했는데, 이번 업데이트로 이 과정 상당 부분이 자동화됐다"처럼 쓰인다. 여기서 오해하기 쉬운 부분은 '자동화'라는 말 때문에 AI가 알아서 규칙을 바꿔버린다고 생각하는 것인데, 실제로는 AI가 수정안을 제안할 뿐이고 적용은 사람이 승인해야 이뤄진다.

챗봇에게 이렇게 시켜보면 반복적 개선의 감을 잡을 수 있다.

1. 간단한 규칙을 하나 정해서 알려준다. 예: "방문객은 반려동물을 데려올 수 없다. 단, 안내견은 예외다."
2. 이 규칙이 걸러내야 할 애매한 사례를 하나 주고 판단을 물어본다. 예: "정서 지원 동물을 데려온 사람은 어떻게 되나?"
3. 답이 이상하면 왜 그렇게 판단했는지 물어보고, 규칙을 어떻게 고치면 좋을지 제안해달라고 요청한다.
4. 수정된 규칙으로 같은 사례를 다시 판단시켜본다.

이 1~4단계를 몇 번 반복하는 것 자체가 반복적 개선이다.