자기수정 하네스 상태

자기수정 하네스 상태는 AI 에이전트가 일을 하는 도중에 자신을 둘러싼 실행 환경 자체를 스스로 고쳐 쓰는 기능이다. 에이전트가 도구를 어떤 순서로 쓰고, 기록을 어떻게 관리하고, 언제 멈출지를 정해둔 일종의 작업 매뉴얼을 하네스라고 부르는데, 보통은 사람이 미리 짜둔 그대로 따라간다. 반면 이 기능이 있으면 에이전트가 작업 중간에 그 매뉴얼 자체를 손봐서 이후 행동 방식을 바꿀 수 있다.

비유하자면 요리사가 레시피를 보고 요리하다가, 상황이 바뀌었다 싶으면 레시피 자체를 자기 손으로 고쳐 쓰고 그 다음부터는 고친 레시피대로 요리하는 것과 비슷하다. 특히 몇 시간이고 이어지는 긴 작업에서는 처음 정해둔 방식이 중간에 맞지 않게 될 수 있는데, 사람이 매번 개입해 고쳐주지 않아도 에이전트 스스로 조정하도록 만드는 시도다.

다만 에이전트가 자기 실행 환경을 실제로 어떤 절차로 바꾸는지, 잘못 바꿨을 때 막을 장치는 있는지는 아직 구체적으로 공개되지 않았다.

프라임 인텔렉트가 공개한 에이전트 하네스 'Prime Agent'의 네 가지 설계 요소 중 하나로 '자기수정 하네스 상태(self-modifiable harness state)'가 소개됐다. 회사는 이를 '자기개선형(self-improving)'이라는 표현과 함께 제시했지만, 실제 동작 방식이나 안전장치는 발표 게시물 한 건 외에 확인된 자료가 없다. '자기개선형'이라는 말만 보고 모델 자체가 똑똑해진다고 오해하기 쉬운데, 여기서 바뀌는 것은 모델이 아니라 모델을 둘러싼 실행 절차(하네스)라는 점을 구분해야 한다.