준비 프레임워크

준비 프레임워크는 AI 모델이 위험한 능력에 얼마나 가까워졌는지를 미리 정해둔 기준으로 재고, 그 기준을 넘어서면 회사가 어떤 조치를 취해야 하는지까지 사전에 규칙으로 정해둔 문서다.

병원 응급실의 중증도 분류를 떠올리면 쉽다. 환자 상태를 낮음, 중간, 높음, 위독 같은 단계로 나눠두면 어느 단계에 이르렀을 때 어떤 처치를 할지 미리 정해둘 수 있다. 준비 프레임워크도 똑같다. 생물무기, 화학무기, 사이버보안, AI의 자기개선 능력이라는 네 영역에서 모델의 능력을 단계별로 나눠두고, 특정 단계(특히 '치명적' 단계)에 이르면 출시를 멈추거나 보안을 대폭 강화하는 식으로 정해진 대응이 자동으로 걸린다.

예를 들어 사이버보안 영역의 '치명적' 단계는 모델이 사람의 도움 없이 실제 핵심 시스템에서 알려지지 않은 보안 취약점을 스스로 찾아 공격에 쓸 수 있는 수준을 말한다. 이 단계에 도달했거나 도달했을 가능성을 배제할 수 없다는 평가가 나오면, 접근을 격리하고 데이터를 암호화하는 등 강화된 보안 통제가 곧바로 뒤따른다.

기사에는 "아스트라는 준비 프레임워크상 '치명적' 사이버 역량 등급을 배제할 수 없다는 결론에 이르렀다"처럼 쓰인다. 오해하기 쉬운 점은 이것이 정부가 정한 법적 규제가 아니라 오픈AI가 2023년 12월 스스로 만든 내부 정책이라는 점이다. 다만 최근에는 백악관이 이런 유형의 내부 평가 기준을 정부 감독 체계에 반영하려는 움직임을 보이고 있어, 회사 내부 규칙이 공공 정책으로 옮겨갈 가능성이 논의되고 있다.