클로드 Fable 5, 생물학 오차단 85% 감소

오탐 줄이기 위한 분류기 재설계

Anthropic은 AI 안전 연구 회사로, 신뢰성·해석 가능성·제어 가능성을 갖춘 AI 시스템 개발을 목표로 한다. 이번에 공개한 업데이트는 Fable 5의 생물학 안전 분류기를 전면 재작성한 결과물이다. 분류기의 규칙 집합인 '컨스티튜션(constitution)'을 다시 쓰고, 이를 바탕으로 학습 데이터를 새로 구성한 뒤 분류기를 재훈련했다. 내부·외부 다양한 전문가 집단에서 의견을 수렴한 과정도 포함됐다.

개편된 분류기는 이전보다 양성(benign) 질의와 이중 활용(dual-use) 질의 사이의 미묘한 차이를 더 잘 구별할 수 있도록 설계됐다. 그 결과 생물학 관련 폴백이 제품 전반에서 약 85% 감소했다. 구체적으로는 Claude.ai에서 총 폴백이 약 67%, Cowork에서 약 55%, Claude Code에서 약 17%, Claude Platform에서 약 7% 줄어들 것으로 예상된다.

폴백이란 무엇인가

Fable 5는 안전 분류기가 위험 또는 이중 활용 가능 생물학 질의를 감지하면, 해당 요청을 자동으로 Opus 5로 전환해 처리한다. Opus 5는 Fable 5와 동일한 수준의 생물학적 역량을 갖추고 있지 않아, 악의적 사용자에게 제공할 수 있는 지원이 제한된다. 이것이 사용자가 경험하는 '폴백'이다.

Anthropic은 Fable 5 출시 당시 거의 모든 생물학 질의를 차단하는 매우 광범위한 분류기를 의도적으로 적용했다고 설명했다. 이는 모델이 다른 도메인에서는 정상 서비스되도록 하면서, 생물학 오용 위험을 선제적으로 관리하기 위한 결정이었다. 분류기를 충분히 정교하게 다듬을 때까지 모델 전체 출시를 미루는 대신, 넓은 차단망을 치고 먼저 공개한 뒤 단계적으로 개선하는 방식을 택한 것이다.

왜 생물학은 특별히 다루는가

Anthropic이 생물학 도메인에 별도의 강력한 안전장치를 적용하는 이유는 이중 활용 가능성의 구분이 특히 어렵기 때문이다. 질병 치료제를 개발하려면 그 질병을 유발하는 위험 화합물을 먼저 생성해야 하는 경우가 있다. 생백신이 대표적 사례로, 과학자들이 예방하려는 병원체를 직접 배양해야 한다. 고혈압 치료제 캡토프릴 개발 시에도 연구자들이 혈압을 급격히 낮추는 뱀독의 독성 성분을 분리해야 했다.

Anthropic의 역량 평가에 따르면 Fable 5는 일부 고난도 생물학 과제에서 전문가를 능가하는 수준에 도달해 있으며, 악의적 행위자에게 다른 곳에서는 얻을 수 없는 능력을 제공할 수 있다고 판단했다.

지금 달라진 것과 여전히 막힌 것

이번 업데이트로 실험실 검사 결과 해석, 증상 이해, 교육 목적의 생물학 학습 같은 일상적 건강·교육 질의에서 폴백이 크게 줄어들 것으로 보인다. 의료 전문가 역시 임상 관련 질의에서 Fable 5로부터 더 많은 지원을 받을 수 있게 된다.

그러나 바이러스학, 독성학, 분자 설계 등 이중 활용 가능성이 있는 전문 연구 영역은 현재도 Opus 5로 폴백되며, 전문 생물학 연구나 신약 개발 용도로는 아직 사용할 수 없다. Anthropic은 이 격차를 해소하기 위해 신뢰 접근 경로(trusted access pathway)를 별도로 개발 중이라고 밝혔다. 이 경로의 구체적인 운영 방식이나 일정은 현재 공개되지 않았다.