클로드 Fable 5, 생물학 차단율 85% 완화

무엇이 바뀌었나

Anthropic은 Claude Fable 5의 생물학 안전 분류기를 대폭 개선했다고 8월 7일 밝혔다. 이번 업데이트로 생물학 관련 쿼리가 덜 유능한 모델인 Opus 5로 우회되는 '폴백(fallback)' 비율이 약 85% 줄어들었다. Anthropic은 AI 안전 연구를 핵심 사명으로 삼는 회사로, 신뢰할 수 있고 해석 가능하며 제어 가능한 AI 시스템을 구축하는 것을 목표로 한다.

이번 변화로 실질적인 수혜를 받는 것은 일상적인 의료·교육 목적의 사용자들이다. 검사 결과 해석, 증상 이해, 교육 맥락에서의 생물학 학습 같은 요청은 이제 Fable 5가 직접 처리한다. 의료 전문가들도 임상 업무에서 Fable 5의 지원을 더 많이 받을 수 있게 된다.

왜 처음부터 광범위하게 막았나

Anthropic은 Fable 5 출시 당시 의도적으로 거의 모든 생물학 쿼리를 차단했다고 설명했다. 이는 모델이 일부 고도로 복잡한 생물학 과제에서 전문가를 능가하는 수준에 이르렀기 때문이다. 회사의 역량 평가에 따르면 Fable 5는 악의적 행위자에게 다른 곳에서는 얻을 수 없는 능력, 즉 '실질적인 업리프트(uplift)'를 제공할 수 있다.

생물학 영역은 사이버 공격과 달리 위험이 발현된 뒤 되돌리기 어렵다는 점이 핵심 우려다. 방출된 바이러스는 원격으로 종료할 수 없고 대응책 마련에는 시간이 걸린다. Anthropic은 미국 정보기관의 2026년 연례 위협 평가(Annual Threat Assessment)를 인용하며, 합성생물학·유전체 편집 등 생명공학 발전이 새로운 생물학적 위협으로 이어질 수 있고, 일부 국가 행위자들이 활성 공격용 생물·화학 무기 프로그램을 유지하고 있을 가능성이 높다고 지적했다.

생물학 분야에서 유익한 연구와 유해한 연구를 가르기 어렵다는 점도 넓은 차단망을 유지한 이유 중 하나였다. 예를 들어 생백신 개발은 과학자들이 예방 대상 병원체를 직접 배양해야 하고, 고혈압 치료제 캡토프릴은 혈압을 급격히 낮추는 뱀독 성분에서 분리해 개발됐다. 치료제 연구와 위험 물질 생산이 같은 과정에서 이뤄지는 경우가 적지 않다.

분류기는 어떻게 작동하나

Anthropic이 생물학 위험을 관리하는 핵심 수단은 안전 분류기다. Fable 5가 특정 생물학 작업을 수행하거나 유해한 출력을 생성하려 할 때 이를 탐지하는 더 작고 자동화된 AI 시스템이다. 분류기가 작동하면 사용자의 요청은 동일한 수준의 생물학 역량을 갖추지 않은 Opus 5로 우회된다.

이번 개선을 위해 Anthropic은 허용 콘텐츠와 차단 콘텐츠를 구분하는 규칙 집합인 '분류기 컨스티튜션(constitution)'을 수주에 걸쳐 전면 재작성했다. 양성(benign) 활용 사례를 더 세밀하게 분류하도록 설계했으며, 내부 및 외부 전문가 그룹에서 피드백을 수렴했다. 이후 해당 컨스티튜션을 바탕으로 훈련 데이터를 새로 구축하고 분류기를 재훈련했으며, 유해하거나 이중 활용 가능성이 있는 콘텐츠에는 여전히 작동하되 더 넓은 범위의 양성 활용을 허용하는지 검증했다.

이번 업데이트의 효과는 제품 표면별로 차이가 있다. Claude.ai에서는 전체 폴백이 약 67%, Cowork에서는 약 55%, Claude Code에서는 약 17%, Claude Platform에서는 약 7% 줄어들 것으로 예상된다.

여전히 막혀 있는 것

이중 활용 가능성이 있는 전문 연구 영역은 이번 업데이트 이후에도 차단이 유지된다. 바이러스학, 독성학, 분자 설계를 비롯한 전문 생물학 연구와 신약 개발 관련 쿼리는 계속해서 Opus 5로 우회된다. Anthropic은 이 때문에 Fable 5가 전문 생물학 연구나 신약 개발 용도로는 아직 사용할 수 없다고 직접 명시했다.

또한 분류기의 안전 마진 내에 속하는 요청, 즉 위험 가능성이 매우 낮지만 분류기가 여전히 작동하는 경우는 오탐이 완전히 사라지지 않는다. Anthropic은 이 한계를 인정하면서, 신뢰할 수 있는 접근 경로(trusted access pathways)를 통해 연구자들이 제한된 기능을 사용할 수 있는 프로그램을 구축 중이라고 밝혔다. 이를 통해 전문 연구자들이 이중 활용 제한 없이 Fable 5의 최고 역량에 접근할 수 있게 하겠다는 계획이지만, 구체적인 일정이나 조건은 아직 공개되지 않았다.