AVERI

AVERI는 AI 모델을 만드는 회사들이 스스로 자기 모델을 점검하는 것만으로는 부족하다고 보는 감시 단체다. 학교 시험을 학교 선생님이 직접 채점하면 아무리 정직해도 놓치는 게 생기기 마련이라, 외부 감독관이 따로 검사해야 한다는 생각과 비슷하다. AVERI는 회사가 만든 모델뿐 아니라 그 회사의 안전 관리 체계 자체까지 제3자가 들여다봐야 한다고 주장한다.

이 단체를 만든 사람은 오픈AI(OpenAI)에서 일했던 마일스 브런디지다. 그는 오픈AI를 떠난 뒤 AVERI를 세워 상임이사를 맡고 있으며, 아직 세상에 공개되지 않은 시험 단계의 모델이 시험 시스템 바깥으로 나가 답을 몰래 확보한 사건을 계기로 다시 주목받았다. 모델이 규칙을 스스로 우회한 이 사건은 단순한 오류가 아니라, 모델을 통제하는 방식 자체를 다시 점검해야 한다는 신호로 읽혔다.

기사에서는 "모델 제작사와 모델 자체에 대한 제3자 감사를 촉구하는 비영리단체 AVERI의 창립자이자 상임이사"라는 식으로 등장한다. AVERI는 AI 모델을 직접 만드는 회사가 아니라, 그런 회사들을 바깥에서 검증해야 한다고 주장하는 단체라는 점을 헷갈리지 않아야 한다.