치명적 망각

치명적 망각은 AI 모델이 새로운 내용을 배우는 과정에서 이전에 배웠던 내용을 갑자기 잊어버리는 현상이다.

화이트보드를 떠올리면 이해하기 쉽다. 새 글씨를 쓰려면 보통 지우개로 예전 글씨를 지워야 한다. 사람은 새로운 것을 배워도 예전 지식이 웬만해서는 그대로 남아 있지만, 많은 학습 모델은 그렇지 않다. 새 데이터로 다시 훈련시키면 모델 내부의 수많은 연결 값이 한꺼번에 바뀌면서, 예전에는 잘하던 일을 갑자기 못하게 되는 부작용이 생길 수 있다.

이 문제 때문에 지금의 언어모델 대부분은 훈련이 끝나면 그대로 멈춘 채로 서비스에 쓰인다. 계속 배우게 두면 새 지식을 넣을 때마다 기존 지식이 지워질 위험이 있어서, 아예 훈련을 마친 시점에 내부 값을 고정해버리는 쪽을 택하는 것이다. 리처드 서튼 같은 연구자들은 이 방식 대신 모델이 계속 배우면서도 옛 지식을 잃지 않는 방법을 찾아야 한다고 주장한다.

기사에서는 리처드 서튼이 지속학습을 이야기하며 "모든 학습은 지속적이어야 하고, 그러면서도 치명적 망각은 일어나지 않아야 한다"고 말한 대목에 등장한다. 여기서 '망각'은 모델이 고장 났다는 뜻이 아니라, 새로운 것을 배우는 과정에서 기존 능력이 통째로 사라지는 부작용을 가리키는 말이다.