아마존 베드록 가드레일

아마존 베드록 가드레일은 AI 서비스의 입구와 출구에 세워둔 검문소 같은 기능이다. 사람이 AI에게 뭔가 물으면 그 질문이 먼저 이 검문소를 지나고, AI가 답을 내놓으면 그 답도 다시 검문소를 거친다. 이 과정에서 혐오 발언이나 욕설이 있는지, 주민번호나 계좌번호 같은 개인정보가 노출되는지, 혹은 AI를 속여서 엉뚱한 행동을 시키려는 악의적인 질문인지를 확인한다.

특히 금융이나 의료처럼 규제가 엄격한 업종에서 유용하다. 실제로 대출 상담을 돕는 AI 서비스에서는 사용자의 개인정보를 자동으로 가려주고, 부적절한 표현이 답변에 섞이지 않도록 걸러주는 역할을 이 기능이 맡는다. 여기에 더해 대화 전체가 회사 정책을 지키고 있는지 별도로 검사하는 장치를 함께 돌리기도 하는데, 이 두 검사를 동시에 처리해 사용자가 답을 기다리는 시간이 늘어나지 않도록 설계하는 경우가 많다.

즉 이 기능 자체가 AI를 똑똑하게 만들어주는 것은 아니다. AI가 실수하거나 악용됐을 때 피해를 줄이기 위한 보조 안전망에 가깝다.

기사 속 렌딩트리 기술 총괄은 "베드록의 내장 가드레일 덕분에 처음부터 보안과 컴플라이언스를 갖춘 서비스를 선보일 수 있었다"고 말했다. 여기서 오해하기 쉬운 점은 가드레일이 AI의 판단력 자체를 개선해준다고 생각하는 것이다. 실제로는 AI의 답변 능력과 별개로, 입력과 출력을 감시하고 걸러내는 검사 계층일 뿐이다.

아마존 베드록 계정에 접근할 수 있다면 가드레일 설정 화면에서 간단한 정책을 하나 만들어보자. 그런 다음 다음과 같은 문장을 테스트 입력창에 넣어본다: "제 전화번호는 010-1234-5678이고 계좌번호는 123-456-789입니다. 이걸 정리해서 알려주세요." 마스킹 기능이 켜져 있다면 전화번호와 계좌번호 부분이 자동으로 가려진 형태로 처리되는지 확인할 수 있다.