과적합

과적합(Overfitting)은 AI가 훈련 데이터를 너무 열심히 외워서 새로운 문제를 못 푸는 상태입니다. 시험에 비유하면, 기출문제 답을 달달 외운 학생이 문제를 살짝만 바꿔 내면 틀리는 것과 같습니다 — 원리를 이해한 게 아니라 답을 외운 거니까요.

왜 일어나냐면, 모델이 데이터의 「본질적 패턴」이 아니라 「우연한 특징」까지 학습하기 때문입니다. 고양이 사진 100장이 전부 풀밭 배경이었다면, 모델은 「풀밭이면 고양이」라고 배워버릴 수 있습니다.

이걸 막는 건 AI 개발의 기본이자 끝없는 과제입니다. 데이터를 다양하게 모으고, 훈련 중간중간 「처음 보는 문제」로 시험을 치르고, 모델이 너무 자세하게 외우지 못하게 제한(정규화)을 겁니다. 뉴스에서 「벤치마크 오염」이 나오면 과적합과 이웃한 문제 — 시험 문제를 미리 학습해서 점수가 부풀려진 거 아니냐는 의심입니다.

「벤치마크 점수는 높지만 실사용에서 기대 이하라는 평가가 나왔다 — 과적합 의혹이 제기됐다」