아스트라

아스트라는 오픈AI가 만들고 있지만 아직 세상에 내놓지 않은 AI 모델이다. 정식 출시 전 내부 점검 단계에서 성능과 위험을 함께 재는 중이다.

신약을 시장에 풀기 전 임상시험에서 예상보다 강한 효과가 나와 부작용 검사를 다시 하는 상황과 비슷하다. 아스트라는 코드를 스스로 짜고 실행하는 능력, 그리고 보안 시스템의 빈틈을 찾아내는 능력에서 이전 모델보다 크게 앞섰다는 평가를 받았다. 그런데 그 능력이 너무 강해서, 나쁜 목적으로 쓰일 경우 실제 컴퓨터 시스템에 심각한 피해를 줄 수 있다는 우려가 함께 나왔다.

그래서 오픈AI는 아직 등급을 확정하지 못한 채로 출시를 앞두고 안전장치를 먼저 강화했다. 즉 아스트라는 '위험하다고 확정된 모델'이 아니라 '위험할 수 있어서 더 조심스럽게 다루는 중인 모델'이라고 이해하면 된다.

기사에서는 "아스트라의 사이버 역량이 '치명적' 임계치를 배제할 수 없다"는 표현으로 등장한다. 여기서 오해하기 쉬운 부분은, 이 발표가 아스트라의 실제 사고나 유출 사건을 뜻하지 않는다는 점이다. 오픈AI는 아스트라가 아직 벤치마크와 평가가 진행 중인 미출시 모델이며, 같은 시기 알려진 허깅페이스 보안 사고와도 무관하다고 명확히 밝혔다.