AI 안전 평가기관 METR, 6개월간 7100만달러 모금

6개월 만에 7,100만 달러

AI 모델의 위험성을 독립적으로 평가하는 비영리 기관 METR이 지난 8월 14일 공식 X 계정을 통해 최근 6개월간 약 7,100만 달러 규모의 후원 약정을 확보했다고 밝혔다. 트윗에 첨부된 이미지에는 이 금액이 "METR의 비영리 활동을 지원한다"는 문구와 함께 명시됐다. METR은 최근 프런티어 AI 모델이 스스로 얼마나 복잡한 작업을 수행할 수 있는지 측정하는 평가로 이름을 알린 조직으로, 이번 모금은 조직 규모를 키우는 계기가 될 전망이다.

자금이 향하는 다섯 갈래

METR은 이번 자금이 자율 능력(autonomous capabilities) 연구, 재귀적 자기개선(recursive self-improvement) 추적, 모니터링 시스템 평가, 위험 평가(risk assessment), AI 사고(incident) 조사 등 다섯 개 축의 프로젝트에 투입된다고 설명했다. 재귀적 자기개선은 AI가 스스로의 알고리즘이나 학습 과정을 개선해 더 나은 버전을 만들어내는 시나리오를 가리키는데, 이 지점이 통제 불가능한 속도로 벌어질 수 있다는 우려가 AI 안전 논의의 핵심 축 중 하나로 꼽혀 왔다. METR은 이 시나리오가 실제로 어느 단계까지 와 있는지를 추적하겠다고 밝혔다.

후원 명단과 독립성 원칙

첨부 이미지에는 후원 기관 명단도 함께 공개됐다. The Audacious Project는 METR이 처음으로 기관 단위 대규모 자금을 받은 통로로 소개됐고, 이 밖에 Sijbrandij Foundation, The Pew Charitable Trusts, Schmidt Sciences, David & Lucile Packard Foundation, LaCentra-Sumerlin Foundation Frontier Fund, Astralis Foundation, AI Security Institute(AISI), Longview Philanthropy, Survival & Flourishing Fund 등이 이름을 올렸다. 개인 후원자로는 Jane Street 소속 인사들과 David Farhi, Geoff Ralston, Dylan Field, Steve Newman 등이 언급됐다.

METR은 트윗에서 "프런티어 AI 기업으로부터의 독립성을 유지하기 위해 노력한다"며 "이들 기업으로부터 자금을 받지 않으며, 해당 기업 직원 명의나 지시로 이뤄지는 기부도 받지 않는다"고 밝혔다. 이는 METR의 위험 평가 결과가 갈수록 더 큰 파급력을 갖게 되면서, 평가 대상이 되는 기업들로부터 자금을 받으면 이해상충 논란이 생길 수 있다는 판단에 따른 것으로 읽힌다.

왜 이 원칙이 중요한가

AI 안전 평가 생태계에서는 오픈AI·앤스로픽 같은 프런티어 모델 개발사들이 자체 평가팀을 두면서도, 동시에 METR 같은 외부 기관에 사전 접근권을 주고 위험 평가를 받는 방식이 자리 잡아 왔다. 이 구조가 신뢰를 얻으려면 평가 기관이 피평가 기업으로부터 재정적으로 독립돼 있어야 한다는 전제가 필요하다. METR이 이번 발표에서 굳이 독립성 정책을 재확인한 것은, 조직 규모가 커질수록 이 신뢰를 지키는 일이 더 중요해진다는 판단을 반영한 것으로 볼 수 있다.

한편 METR은 이번 자금을 바탕으로 팀을 확대하고 새로운 프로젝트를 시작한다며 채용 공고 링크를 함께 게시했다. 정확한 채용 규모나 세부 프로젝트 목록은 공개되지 않았다.

에디터의 시선

이번 발표에서 눈여겨볼 지점은 금액 자체보다 자금 조달 구조다. METR은 AI 기업이 아니라 그 기업들을 평가하는 쪽에 서 있는 조직이고, 이번에 모은 7,100만 달러 대부분이 재단·개인 기부로 채워졌다. 오픈AI나 앤스로픽 같은 곳들이 수백억 달러 단위 투자를 유치하는 것과 비교하면 규모는 작지만, 이 돈의 성격은 완전히 다르다. 평가 기관이 피평가 대상으로부터 돈을 받지 않겠다고 공언하는 것은, 감사 기관이 감사 대상 기업의 컨설팅 매출에 의존하지 않으려 애쓰는 것과 같은 맥락이다.

AI 안전 평가 업계를 지켜본 사람이라면 최근 몇 년 새 이 판이 어떻게 바뀌었는지 체감할 것이다. 불과 2~3년 전만 해도 AI 모델의 위험성 평가는 개발사 내부 팀이 도맡거나, 외부 평가라 해도 개발사와 계약 관계로 묶인 경우가 많았다. METR처럼 다수의 독립 재단으로부터 자금을 모아 특정 기업에 종속되지 않겠다고 명시적으로 선언하는 사례는 이 분야가 하나의 독자적 산업으로 자리 잡아가고 있다는 신호로 읽을 수 있다.

국내에서 AI 거버넌스나 정책을 다루는 조직이라면 이 모델을 참고할 만하다. AI 안전성 평가나 감사 업무를 하려는 기관이 개발사로부터 직접 용역을 받는 구조는 단기적으로는 안정적이지만, 장기적으로는 평가의 신뢰도를 스스로 깎아먹는 함정이 될 수 있다. 다양한 재단·개인으로부터 자금을 분산해 받는 구조를 갖추는 것이 초기에는 번거롭더라도 결국 평가 결과의 공신력을 지키는 길이라는 걸 METR의 사례가 보여준다.

앞으로 몇 달 안에는 METR이 이 자금으로 어떤 평가 결과를 내놓는지가 관전 포인트가 될 것이다. 재귀적 자기개선 추적이라는 표현을 쓴 만큼, 차세대 프런티어 모델이 나올 때마다 METR의 이름이 위험 평가 보고서에 더 자주 등장할 가능성이 크다.