엔터프라이즈 프런티어 세이프가드

엔터프라이즈 프런티어 세이프가드는 AI 모델을 회사의 실제 업무 시스템과 연결할 때, 고객 정보를 지키고 AI가 정해진 권한 밖으로 벗어나지 못하게 막는 안전장치예요.

비유하자면 외부 업체 직원이 회사 건물에 들어올 때 방문증을 받아 정해진 층에만 출입하는 출입 통제 시스템과 비슷해요. 클로드가 세일즈포스 안에서 이메일을 쓰고 고객 정보를 수정하더라도, 이 장치가 있으면 클로드가 볼 수 있는 데이터와 할 수 있는 행동의 범위가 미리 정해져 있어서 정보가 새거나 엉뚱한 곳에 쓰이지 않아요.

앤스로픽과 세일즈포스는 클로드포스라는 플러그인을 함께 내놓으면서 이 권한 관리에 상당한 노력을 들였다고 밝혔어요. AI가 챗봇 화면 밖으로 나와 실제 기업 데이터와 업무 시스템 깊숙이 들어갈수록, 이런 안전장치가 왜 중요한지 보여주는 사례예요.

기사에서는 다리오 아모데이 앤스로픽 최고경영자가 클로드포스 발표 자리에서 권한 관리에 막대한 노력을 들였다고 언급하며, 세일즈포스 고객 데이터를 비공개로 유지하고 모델이 통제 불능 상태에 빠지지 않도록 이 장치를 마련했다고 설명했어요. 다만 클로드포스가 아직 선별된 파일럿 고객에게만 열려 있는 단계라, 구체적인 작동 방식은 추가로 공개될 여지가 있어요.