텐센트 훈위안, AI 에이전트 '자기진화' 검증하는 5단계 지도 공개

에이전트가 스스로 고쳤다는데, 그걸 어떻게 믿나

AI 에이전트가 작업을 마친 뒤 스스로 프롬프트를 다시 짜고, 메모리를 정리하고, 심지어 자기 평가 기준까지 바꾼다고 하면 사람은 무엇을 근거로 '더 나아졌다'고 판단할 수 있을까. 텐센트 훈위안(Tencent Hunyuan)이 8월 12일 X 계정을 통해 이 질문에 답하려는 서베이 논문 'Diving into Reliable Self-Evolving Agents: A Survey'를 소개했다. 에이전트가 스스로를 바꾸는 방식을 체계적으로 정리하고, 각 업데이트를 신뢰하려면 어떤 증거가 필요한지 지도를 그린 작업이다.

변화의 깊이를 다섯 단계로 나누다

논문이 제시한 핵심 틀은 '변화가 얼마나 깊이 스며드는가'를 기준으로 한 다섯 단계 분류다. L0은 지금 하고 있는 작업에만 영향을 주는 출력·행동 수준의 변화이고, L1은 학습 가능한 모델이나 정책 자체를 바꾸는 수준이다. L2는 프롬프트·스킬·메모리·워크플로·하니스(에이전트를 감싸는 실행 틀) 같은 뼈대(scaffold)를 바꾸는 단계, L3은 앞으로의 업데이트를 누가 어떻게 제안하고 관리할지를 다루는 단계, L4는 그 행동과 미래 업데이트를 판단하는 기준 자체를 바꾸는 가장 깊은 단계다.

레벨	명칭	영향 범위
L0	Output-Level	현재 작업에만 한정
L1	Model-Level	학습 가능한 모델·정책
L2	Scaffold-Level	프롬프트·스킬·메모리·워크플로
L3	Improver-Level	향후 업데이트 제안·관리 방식
L4	Criterion-Level	행동·업데이트를 판단하는 기준

논문의 논지는 명확하다. L0과 L1처럼 당장의 작업 안에서 끝나는 변화는 검증이 비교적 쉽지만, L2 이상으로 갈수록 그 변화가 다음 작업, 다음 업데이트까지 이어진다. 텐센트 훈위안은 첨부 이미지를 통해 "업데이트 경계 밖에 남는 증거가 필요하다"고 못박았다. 에이전트가 스스로를 판단하는 기준까지 바꿔버린다면, 그 판단 기준으로 자신의 변화가 옳았다고 주장하는 순환 논리에 빠질 수 있다는 우려가 깔려 있다.

왜 지금 이 질문이 나왔나

자기진화 에이전트는 최근 업계에서 빠르게 실험 단계를 넘어서고 있다. 지난 8월 8일에는 Kimi가 최대 100개 서브 에이전트를 병렬로 띄워 1,500회 이상 툴 호출을 처리하는 'Agent Swarm' 시스템을 공개했고, 8월 10일에는 사카나AI가 RSI Lab을 확장해 물리 세계에서 스스로 개선하는 '물리 AI'를 다음 연구 프론티어로 제시했다. 방향은 다르지만 공통된 전제는 같다. 에이전트가 사람의 개입 없이 스스로 성능을 끌어올리는 시스템을 만들겠다는 것이다.

문제는 그 개선을 증명할 방법이 뒤따라가지 못하고 있다는 점이다. 모델이 스스로 프롬프트를 재작성하거나 메모리 구조를 바꿨을 때, 벤치마크 점수가 올랐다는 사실만으로는 그 변화가 다른 상황에서도 유효한지 알기 어렵다. 텐센트 훈위안의 서베이는 바로 이 지점, 즉 '자기진화의 결과를 어떤 증거로 신뢰할 수 있는가'라는 평가 방법론의 빈틈을 메우려는 시도로 읽힌다.

그래서 무엇이 달라지나

이 논문 자체가 새로운 모델이나 제품은 아니다. 하지만 자기진화 에이전트를 만드는 쪽이라면 참고할 기준선이 하나 생겼다. 단순히 '성능이 올랐다'가 아니라 그 변화가 L0부터 L4 중 어느 단계에서 일어났는지 먼저 구분하고, 그 단계에 맞는 증거를 요구해야 한다는 방향이다. 스캐폴드 수준의 변화를 모델 수준의 개선으로 포장하거나, 판단 기준 자체를 바꿔놓고 좋아졌다고 주장하는 식의 착시를 걸러내는 체크리스트로 쓰일 여지가 있다. 에이전트를 실제 서비스에 투입하려는 기업들에게는 '더 똑똑해졌다'는 주장을 그대로 받아들이기 전에 물어야 할 질문 목록이 하나 더 늘었다고 볼 수 있다.