프루닝
pruning
AI 모델 안에서 결과에 별로 기여하지 않는 연결과 뉴런을 잘라내 모델을 가볍게 만드는 기법.
쉽게 말하면
프루닝은 다 자란 나무에서 열매에 도움이 안 되는 잔가지를 쳐내듯, 인공신경망 안에서 결과에 거의 영향을 주지 않는 연결과 계산 부위를 찾아내 잘라내는 기법이다.
처음 학습을 마친 모델은 가지가 무성한 나무와 비슷하다. 수많은 연결 중 상당수는 실제로 답을 내는 데 크게 기여하지 않는다. 프루닝은 이런 연결들을 하나씩 찾아 잘라내고, 남은 부분만으로도 원래와 비슷한 성능을 내도록 다듬는 작업이다. 가지를 쳐낸 나무가 더 가벼워지듯, 프루닝을 거친 모델은 크기가 줄고 계산도 빨라진다.
이 작업이 중요한 이유는 실행 환경 때문이다. 큰 모델을 그대로는 노트북이나 스마트폰 같은 작은 기기에서 돌리기 어렵다. 프루닝은 모델의 몸집을 줄여 이런 기기에서도 쓸 수 있게 만드는 여러 경량화 방법 중 하나다.