ROCm

ROCm은 AMD 그래픽카드(GPU)를 연산에 쓸 수 있게 해주는 소프트웨어 도구 모음이다. 그래픽카드는 원래 화면에 그림을 그리는 부품이지만, 요즘은 AI 계산을 대신 시키는 용도로 더 많이 쓰인다. 문제는 GPU에게 계산을 시키려면 중간에서 통역해줄 소프트웨어가 필요하다는 점인데, 그 통역사 역할을 하는 게 ROCm이다.

이 분야에서는 엔비디아가 만든 CUDA라는 통역사가 오랫동안 사실상 표준으로 쓰여왔다. AI 개발자 대부분이 CUDA에 익숙하다 보니, AMD 그래픽카드를 써도 CUDA 없이는 성능을 온전히 끌어내기 어려운 경우가 많았다. ROCm은 이 자리를 AMD 쪽에서 대신할 수 있게 만든 대안으로, 계속 개선되며 따라잡는 중이다.

다만 ROCm은 설치와 빌드 과정이 CUDA보다 까다롭다는 평가를 받아왔다. 그래서 개발 도구들이 ROCm을 얼마나 안정적으로 지원하느냐가 AMD 그래픽카드로 AI를 돌리려는 사람들에게 중요한 관심사가 된다.

기사에서는 "llama.cpp 저장소에 ROCm 7.14용 CI 타깃을 추가"라는 식으로 등장한다. 여기서 CI 타깃 추가는 새 기능이 생겼다는 뜻이 아니라, 개발팀이 이 버전과 조합에서 빌드가 안 깨지는지 자동으로 계속 확인하기 시작했다는 의미다. 실제 속도가 얼마나 빨라졌는지는 별개 문제이니 헷갈리지 않아야 한다.