엔터프라이즈 프론티어 세이프가드

엔터프라이즈 프론티어 세이프가드는 AI 회사가 사이버보안이나 생명과학처럼 잘못 쓰이면 피해가 큰 분야에 모델을 내줄 때, 아무나 바로 쓰게 하지 않고 신원과 목적을 확인받은 기업·연구자에게만 강화된 안전장치를 씌워 접근을 허용하는 방식이에요. 같은 건물이라도 로비는 누구나 드나들지만 위험 물질을 다루는 실험실 구역은 출입증을 확인받은 사람만 들어가게 나눠 놓은 것과 비슷해요.

앤스로픽이 내놓은 클로드 페이블 5.1과 클로드 Mythos 5.1이 이 방식을 보여주는 예예요. 두 모델은 사실 같은 기반 모델인데, 페이블 5.1은 코딩과 지식노동용으로 누구나 쓸 수 있게 일반 공개됐고, Mythos 5.1은 사이버보안·생명과학 작업을 지원하도록 별도의 촘촘한 안전장치를 얹어 신뢰 접근 프로그램을 통과한 곳에만 제공돼요. 안전장치의 촘촘함 차이 때문에 같은 능력이라도 벤치마크 점수가 서로 다르게 나올 수 있어요.

여기에는 모델의 사고 과정을 몰래 빼내 안전장치 없는 복제본을 만드는 수법을 막는 장치도 함께 포함되는 경우가 많아요. 즉 이 세이프가드는 성능을 낮추는 장치가 아니라, 위험한 활용을 막기 위해 누가 어디까지 접근할 수 있는지를 정교하게 나누는 제도예요.

기사에서는 "Claude Mythos 5.1은 신뢰 접근 프로그램을 통과한 기업·연구자만 쓸 수 있다"는 식으로 이 개념이 등장해요. 흔한 오해는 안전장치가 강할수록 모델 성능이 떨어진다는 생각인데, 실제로는 안전장치가 특정 작업에 개입해 점수 차이가 났다가 장치를 다듬으면서 격차가 줄어드는 식으로 성능 자체와는 별개로 움직여요.