테스트 타임 학습

테스트 타임 학습은 인공지능 모델이 이미 완성된 뒤, 실제로 사용되는 바로 그 순간에 새로운 예시를 보고 즉석에서 적응하는 방식을 말해요.

비유하자면 이래요. 보통의 학습은 요리사가 몇 년간 요리학교에서 훈련받는 과정과 비슷해요. 훈련이 끝나면 실력은 고정되고, 새 요리를 배우려면 다시 학교로 돌아가야 하죠. 반면 테스트 타임 학습은 이미 주방에 서 있는 요리사가 옆 사람이 새 요리를 한 번 만드는 걸 보자마자, 그 자리에서 바로 비슷하게 따라 만드는 것에 가까워요. 따로 연습 기간을 갖지 않고, 눈앞의 시범 하나만으로 즉시 응용하는 거예요.

이 방식이 특별한 이유는 계산 비용이에요. 원래 모델을 새 상황에 맞추려면 수많은 반복 계산을 거쳐 내부 값을 조금씩 바꿔야 하는데, 테스트 타임 학습은 이 과정을 거의 건너뛰거나 아주 조금만 거쳐요. 로봇 사례에서는 방금 본 시범 하나를 짧은 기억 공간에 넣는 것만으로 작업을 해냈고, 약간의 추가 학습을 거치더라도 바뀌는 내부 값은 전체의 0.15%도 안 됐어요. 완전히 새로운 걸 배우는 게 아니라, 이미 가진 지식을 상황에 맞게 재배치하는 쪽에 가깝다는 뜻이에요.

기사에서는 로봇 스타트업 Generalist AI가 자사 모델의 능력을 두고 "극도로 적은 데이터로 하는 테스트 타임 학습"이라고 표현했어요. 시연 영상 하나를 로봇의 짧은 기억 공간에 넣자마자 별도의 훈련 없이 바로 동작을 따라 한 것을 가리키는 말이었죠.

오해하기 쉬운 점 하나. 테스트 타임 학습은 모델이 그 순간 완전히 새로운 능력을 창조해낸다는 뜻이 아니에요. 사전에 쌓아둔 방대한 지식 위에서, 눈앞의 예시에 맞게 그 지식을 순간적으로 재배치하는 것에 가까워요. 그래서 사전학습이 부실한 모델은 아무리 좋은 예시를 줘도 이런 즉석 적응이 잘 일어나지 않아요.

챗봇에게 이렇게 시켜 보세요.

1. "다음은 내가 원하는 답변 형식의 예시야: [예시 하나]. 이제 이 형식 그대로 [새 질문]에 답해줘"라고 입력해요.
2. 별도의 재훈련 없이, 대화창 안에 넣은 예시 하나만으로 모델이 형식을 바로 따라 하는지 확인해요.
3. 예시를 두 개, 세 개로 늘려가며 답변의 정확도가 어떻게 달라지는지 비교해 보세요.

이건 로봇이 시연 영상을 보고 즉시 따라 하는 것과 같은 원리예요. 대화창(맥락) 안에 넣은 정보만으로 모델이 그 자리에서 적응하는 거죠.