이미지: METAL
요약
- 앤스로픽이 Claude Fable 5의 생물학 관련 안전장치를 업데이트했다
- 테스트 결과 생물학 관련 폴백(차단) 비율이 약 85% 줄었다
- 일상 건강·교육 질문에 대한 응답 범위가 넓어졌다고 밝혔다
- 대상 모델
- Claude Fable 5
- 업데이트 내용
- 생물학 관련 안전장치(세이프가드) 조정
- 효과
- 생물학 관련 폴백 약 85% 감소(전 제품 표면 기준)
- 목적
- 오탐(false positive) 감소, 일상 건강·교육 질문 지원 확대
- 발표 경로
- X(구 트위터) 공식 Claude 계정
- 발표일
- 2026-08-07
무엇이 바뀌었나
앤스로픽(Anthropic)이 자사 모델 Claude Fable 5의 생물학 관련 안전장치를 업데이트했다고 공식 X 계정을 통해 밝혔다. 이번 조정의 목표는 실제 위험이 없는 질문까지 과도하게 차단하는 '오탐(false positive)'을 줄이는 것이다. 회사 측은 테스트 과정에서 생물학 관련 응답 거부, 즉 폴백(fallback) 비율이 전 제품 표면(product surfaces)에서 약 85% 감소했다고 설명했다.
오탐 감소 수치
공개된 수치는 폴백 감소율 하나뿐이지만, 감소 폭 자체는 상당한 것으로 평가된다. 아래는 이번 발표에서 확인 가능한 핵심 변화다.
| 항목 | 내용 |
|---|---|
| 생물학 관련 폴백 감소율 | 약 85% bar:85 |
| 적용 범위 | 전 제품 표면(Product Surfaces) |
| 대상 사용 사례 | 일상 건강·교육 질문 |
다만 감소율 산정 기준이 되는 이전 폴백 발생 빈도나 구체적인 테스트 방법론은 원문에서 확인되지 않아 불확실성이 남아 있다.
배경: 왜 안전장치를 조정했나
생물학 관련 안전장치는 위험한 생물학 정보 요청을 걸러내기 위한 장치이지만, 지나치게 민감하게 작동하면 건강 정보나 교육용 질문까지 차단하는 부작용이 생긴다. 앤스로픽은 이런 오탐을 줄이는 방향으로 Claude Fable 5를 조정했다고 밝혔다. 회사는 공식 발표에서 "Fable can now assist on a wider range of everyday health and educational questions"라고 설명했다.
관련해 AI 모델의 안전장치와 오탐 이슈를 다룬 이전 보도는 metallab.ai의 AI 안전 관련 기사에서도 확인할 수 있다.
남은 질문들
이번 발표는 짧은 공지 형태로 이뤄져 세부 테스트 규모, 비교 대상 이전 버전, 안전성 저하 여부에 대한 별도 검증 결과는 공개되지 않았다. 생물학 안전장치를 완화하면서도 실제 위험 요청에 대한 차단 능력이 유지되는지는 추가 확인이 필요한 부분으로, 회사 측의 후속 설명이 뒤따를지 지켜볼 필요가 있다.
댓글