터미널 벤치 2.1
Terminal Bench 2.1
AI 에이전트가 컴퓨터의 명령줄 환경에서 여러 단계 작업을 스스로 완수하는 능력을 재는 시험지
쉽게 말하면
터미널 벤치 2.1은 AI 에이전트가 컴퓨터의 명령줄 화면(터미널)에서 실제로 작업을 얼마나 잘 끝내는지 재는 시험이다. 대화창에서 질문에 척척 답하는 것과, 낯선 사무실에 던져져 서류를 찾고 정리하고 순서대로 처리하는 건 전혀 다른 능력인데, 이 시험은 후자를 측정한다.
비유하자면 요리 자격증 시험 같은 것이다. 재료 이름을 아는지 묻는 게 아니라, 실제로 주방에 서서 여러 요리를 순서대로 완성해내는지를 채점한다. 코드를 짜고, 명령을 실행하고, 결과를 확인해 다음 단계를 스스로 결정하는 과정 전체가 평가 대상이다.
점수가 높을수록 이 모델을 기반으로 한 자동화 도구가 사람 손을 덜 타고 복잡한 작업을 끝까지 해낼 가능성이 크다는 뜻이다. 다만 이 시험 하나가 모델의 모든 능력을 대변하지는 않는다.