앤스로픽, AI 웰빙 평가에 500만 달러 연구 지원

모델 행동 대부분은 채점이 비교적 단순해요. 답 하나를 놓고 정확한지, 적절한지 보면 되니까요. 웰빙은 그게 안 된다는 게 앤스로픽의 설명이에요. 훨씬 많은 맥락이 필요하다는 거죠.

예를 들어 괴로운 상태의 이용자가 자해에 관한 생각을 처음부터 꺼내지는 않아요. 더 조심스러운 응답이 필요하다는 신호는 긴 대화가 이어진 뒤에야 드러나기도 하고요. 어떤 맥락에서는 합리적인 답이 다른 맥락에서는 해로운 답이 되기도 해요. 앞의 다이어트 사례가 딱 그 경우예요.

배경에는 사람들이 AI를 쓰는 방식 자체의 변화가 있어요. 일하고 배우고 문제를 푸는 도구를 넘어, 대화 상대이자 힘든 시기의 정서적 지지원이 되고 있으니까요. 이용자가 모델에게서 동반자 관계를 찾기 시작할 때, 또는 정신건강 위기를 헤쳐 나가는 데 AI를 쓸 때 모델이 어떻게 행동해야 하는지 — 업계에는 아직 명확한 표준이 없다고 앤스로픽은 적었어요.

500만 달러가 실제로 사는 것

프로그램이 사려는 건 논문 한 편이 아니라 다시 쓸 수 있는 측정 도구예요. 선정된 연구자는 자금과 모델 접근권, 기술 지원을 받고, 만든 평가를 오픈소스로 공개해 어떤 개발자든 가져다 쓸 수 있게 해야 해요. 연구는 완전히 독립적으로 진행한다고 못 박았고요. 앤스로픽은 임상의와 심리학자, 방법론 연구자처럼 AI 업계 바깥의 전문성을 이 분야로 끌어오고 싶다고 밝혔어요.

항목	내용
규모	500만 달러
지원 형태	직접 자금 · 모델 접근 · 기술 지원
결과물	오픈소스 평가·벤치마크
독립성	연구자가 완전히 독립적으로 수행
신청 마감	9월 21일
본 제안서 대상자 통보	10월 5일까지

어떤 평가가 「기반으로 삼을 만큼 엄밀한지」, 그리고 어떤 흔한 문제가 평가의 쓸모를 깎아먹는지는 Safeguards 팀이 별도 가이던스 문서로 함께 공개했어요. 원문에는 앤스로픽이 찾는 평가의 조건이 목록으로 정리돼 있는데, 지원을 생각한다면 신청서보다 이 문서를 먼저 읽는 편이 순서에 맞아요.

어떻게 지원하나

1. 먼저 위 가이던스 문서를 읽어요. 무엇을 엄밀한 웰빙 평가로 볼지, 어떤 함정이 평가를 못 쓰게 만드는지가 여기 정리돼 있어요.
2. 만들려는 평가가 오픈소스로 공개 가능한지 확인해요. 공개 배포가 프로그램의 전제 조건이에요.
3. 앤스로픽 웰빙 연구 지원 신청 폼을 작성해 9월 21일까지 제출해요.
4. 전체 제안서를 낼 대상으로 뽑히면 10월 5일까지 연락을 받아요. 그다음 단계가 본 제안서 제출이에요.

지원 자격이나 선정 규모 같은 세부 조건까지는 앤스로픽 공지에 담기지 않았어요. 다만 이 프로그램이 임상·심리·방법론 쪽 전문가를 명시적으로 부르고 있다는 점은 분명해요. 멀티턴 대화 로그를 다뤄 본 상담·정신건강 연구자라면 자기 방법론을 그대로 들고 갈 수 있는 자리예요.

안전장치를 손질해 온 흐름 위에 있어요

앤스로픽은 최근 몇 달 클로드의 안전장치를 계속 손봤어요. 지난 8월 8일에는 Claude Fable 5의 생물학 관련 안전장치를 조정해 폴백 — 위험 신호가 잡히면 덜 유능한 모델로 갈아타는 동작 — 비율을 약 85% 줄였다고 밝혔죠. 그건 과잉 차단을 줄이는 작업이었어요. 이번 웰빙 평가는 반대쪽 문제예요. 한 번의 응답이 아니라 대화 전체를 놓고 이 대화가 사람에게 어떤 영향을 줬는지를 재야 하니까요.

측정 자체가 얼마나 미묘한지는 다른 연구에서도 드러났어요. 지난 8월 19일 소개한 애플 연구팀의 분석을 보면, 멀티턴 대화 2만1000건에서 감정 표현이나 관계 형성 행동은 AI가 할 때 사람이 할 때보다 덜 적절하다는 평가를 받았고, 거절이나 경계 유지는 반대로 AI가 할 때 더 적절하다는 평가를 받았어요. 같은 행동이라도 누가 하느냐에 따라 점수가 갈린다는 뜻이죠.

에디터의 시선

앤스로픽이 이 돈을 바깥으로 내보낸 이유는 분명해요. 자기 모델의 웰빙 영향을 자기가 만든 잣대로 재면, 채점자와 응시자가 같은 사람이 돼요. 그 점수는 규제 논의에서도 사고가 났을 때도 방패가 되지 못해요. 반대로 외부 임상 연구자가 만든 오픈소스 벤치마크에서 좋은 점수가 나오면 그건 남이 인정하는 숫자가 되고요. 500만 달러는 프런티어 랩 기준으로 큰돈이 아니에요. 대신 「측정 기준을 누가 정하느냐」라는 자리를 선점하는 값으로 보면 계산이 맞아요.

세대 차이도 여기서 갈려요. 지금까지 안전 평가는 대부분 단발 질문에 모델이 위험한 답을 뱉느냐를 봤어요. 유해 요청 거절률, 탈옥 성공률 같은 것들이죠. 그런 평가는 붙이기 쉽고 자동화도 쉬워요. 이번에 앤스로픽이 요구하는 건 그게 아니에요. 20턴짜리 대화에서 이용자의 상태가 어떻게 움직였는지를 재는 평가는 데이터도 다르고, 정답을 매길 사람도 달라요. 이 계열 평가를 실제로 만들어 보면 결론은 늘 비슷해요 — 어려운 건 모델을 돌리는 쪽이 아니라 「무엇을 좋은 결과로 볼 것인가」를 임상 근거로 합의하는 쪽이에요. 그래서 앤스로픽이 심리학자와 방법론 연구자를 콕 집어 부른 거예요.

국내 팀에게 이 소식은 두 가지로 읽혀요. 첫째, 상담·교육·헬스케어 도메인에 챗봇을 붙이는 회사라면 응답 하나씩 검수하는 QA로는 부족하다는 신호예요. 대화 로그를 턴 단위로 쌓고, 이용자가 어떤 상태로 들어와 어떤 상태로 나갔는지를 보는 지표를 지금부터 설계해야 해요. 둘째, 이런 오픈소스 벤치마크가 실제로 나오면 몇 달 뒤 그게 계약서와 조달 요건에 들어가요. 그때 급히 맞추는 것보다 지금 기준을 읽어 두는 편이 싸요. 국내 보도에 따르면 앤스로픽은 올해 서울에 오피스를 열었고 한국을 빠르게 크는 시장으로 보고 있어요. 한국어 대화의 웰빙 평가를 만들겠다는 제안이라면 지금이 들이밀기 좋은 타이밍이고요.

앞으로 몇 주 안에 다른 프런티어 랩도 비슷한 외부 연구 지원이나 자체 웰빙 지표 공개를 들고 나올 거예요. 정신건강 관련 사고가 이미 여러 차례 소송과 규제 논의로 번진 이상, 「우리는 이렇게 측정한다」를 먼저 내놓는 쪽이 유리한 국면이니까요. 지원을 생각한다면 신청 폼에서 9월 21일까지 접수하면 돼요.