모델 붕괴
model collapse
AI가 만든 글이나 그림이 다시 학습 데이터로 쓰이면서, 세대를 거칠수록 결과물 품질이 점점 나빠지는 현상
쉽게 말하면
모델 붕괴는 AI가 스스로 만든 결과물을 다시 먹고 자라면서 점점 부실해지는 현상이다.
복사기로 복사한 문서를 또 복사하고, 그걸 또 복사하는 걸 떠올리면 된다. 처음 몇 번은 큰 차이가 없어 보이지만, 복사를 반복할수록 원본의 미세한 결과 세부 정보가 조금씩 지워지고 흐려진다. AI 학습도 비슷하다. AI가 사람이 쓴 글과 그림을 배워 결과물을 내놓는데, 그 결과물이 인터넷에 쌓이고, 다음 세대 AI가 그걸 또 학습 재료로 삼으면 사람의 다채로운 원본 대신 AI 특유의 평균적이고 납작한 패턴만 반복해서 배우게 된다.
이 걱정이 현실이 되려면 진짜 사람이 쓴 새 글과 그림이 계속 공급돼야 하는데, 만약 작가나 창작자들이 보상을 못 받아 글쓰기를 그만두면 그 공급 자체가 마른다. 기사 속 표현으로는 AI가 학습할 사람의 글이 말라붙는 "AI 기근"이다. 모델 붕괴는 그 결과로 벌어지는 품질 저하 시나리오를 가리킨다.
기사에서 이렇게 나와요
기사는 "훈련 데이터가 AI 산출물로 오염되며 품질이 무너지는 모델 붕괴(model collapse) 시나리오를, 소송에서 이긴 작가가 AI 회사를 향해 꺼내 든 거예요"라고 쓴다.
오해하기 쉬운 점 하나. 모델 붕괴는 지금 당장 AI 답변이 틀어졌다는 뜻이 아니다. 사람이 만든 원본 콘텐츠가 계속 줄어들 때 앞으로 벌어질 수 있는 장기적 위험을 가리키는 말이라, 이 기사에서도 저작권 소송의 승소가 아니라 그 이후에 대한 경고로 등장한다.