DGX Spark 2대·3대·4대 연결하는 법, 엔비디아 공식 가이드로 확정

풀어서 설명하면, 엔비디아는 이전에도 공식 X 계정으로 DGX Spark 여러 대를 연결해 로컬에서 AI를 돌리는 가이드를 소개한 적이 있어요. 그때는 MiaAI_lab이라는 계정이 만든 가이드를 소개하는 수준이라 몇 대까지 연결되는지, 케이블 규격이 뭔지는 확인되지 않았어요. 이번에 엔비디아가 직접 낸 사용자 가이드는 그 빈 자리를 대수별 연결 규칙과 승인 케이블 목록, 자동 설정 도구까지 구체적으로 채웠어요.

엔비디아는 이 문서에서 여러 대를 묶는 목적도 분명히 했어요. DGX Spark 한 대에 담기지 않는 규모의 작업을 여러 대로 나눠 돌리기 위해서라고 설명해요. 노트북 크기의 기기를 여러 대 이어 붙여 클라우드 없이 더 큰 모델을 굴리려는 수요를 겨냥한 구성이에요.

대수별 연결 규칙

연결 방식은 대수에 따라 정해진 패턴을 따라야 해요. 직접 연결과 스위치 연결을 섞어 쓰는 것은 지원하지 않고, 한 링크에는 케이블 하나만 써야 해요. 두 대를 케이블 두 개로 연결한다고 성능이 좋아지지 않는다고 문서는 밝히고 있어요.

구성	연결 방식	필요한 케이블
2대	직접 연결 또는 스위치 경유	직접 1개 / 스위치 경유 2개
3대	직접 연결(링 구조) 또는 스위치 경유	직접 3개 / 스위치 경유 3개
4대	스위치 경유만 지원	4개(장치당 1개)

3대를 직접 연결할 때는 각 장치가 나머지 두 대와 모두 연결되는 링 구조를 이뤄요. 4대부터는 직접 연결 자체가 지원되지 않고 반드시 스위치를 거쳐야 해요.

승인된 케이블과 포트 규격

엔비디아는 QSFP 케이블 중에서도 200Gb/s 이상을 보장하는 제품만 쓰라고 안내해요. 더 빠른 케이블을 써도 포트 자체가 200Gb/s로 제한돼 있어 이득이 없어요. 문서에 이더넷 구성 전용으로 명시된 승인 케이블은 Amphenol의 NJAAKK-N911(0.5m 버전은 NJAAKK0006)과 Luxshare의 LMTQF022-SD-R 두 종류예요.

포트 자체는 왼쪽과 오른쪽이 호환되지만, 엔비디아가 제공하는 2대·3대·스위치 연결 플레이북은 특정 포트를 기준으로 짜여 있어 어느 쪽인지 구분해 꽂는 게 중요해요. 케이블은 당김 탭이 위를 향하도록 끼워야 하고, 뻑뻑하게 들어가지 않으면 방향부터 다시 확인해야 해요. 억지로 밀어 넣으면 포트가 손상될 수 있다고 경고하고 있어요.

케이블 하나에 인터페이스 여덟 개

DGX Spark 안의 ConnectX-7 네트워크 컨트롤러는 외부 QSFP 포트와 그레이스 블랙웰 SoC 사이를 두 개의 독립된 PCIe Gen5 x4 링크로 연결해요. 그래서 포트 하나가 리눅스에서는 이더넷 인터페이스 두 개로 나타나고, 여기에 대응하는 RoCE(인피니밴드 통신용) 인터페이스까지 더하면 포트 하나당 총 네 개의 네트워크 인터페이스가 생겨요. 양쪽 QSFP 포트에 케이블을 다 꽂으면 이 숫자가 여덟 개로 늘어나요.

이 구조 때문에 수동으로 IP를 설정하려면 PCIe 주소와 인터페이스 이름의 대응 관계를 알아야 해서 까다로워요. 엔비디아 문서는 이 대응표까지 별도로 제공하는데, 그만큼 사람이 직접 손대기 번거로운 작업이라는 뜻이기도 해요.

네트워크는 도구가, 워크로드는 따로

이 복잡한 설정을 대신해 주는 것이 NVIDIA Sync 안의 Cluster Assistant예요. 케이블로 제대로 연결돼 있으면 장치를 자동으로 찾아내고, ConnectX-7 네트워크 설정을 적용하고, 링크 성능을 점검하고, 노드 간 SSH까지 구성해 줘요. 사용자가 네트워킹이나 PCIe 구조를 몰라도 되게 만드는 게 이 도구의 목적이에요.

다만 이 도구가 하는 일은 딱 여기까지예요. 추론이나 파인튜닝 같은 실제 작업 설정은 Cluster Assistant의 영역이 아니라고 문서는 명시하고 있어요. 네트워크가 잡힌 다음에는 NCCL, vLLM, PyTorch 파인튜닝 같은 별도 플레이북으로 워크로드를 얹어야 해요. Cluster Assistant는 최대 3대까지는 직접 연결, 4대까지는 스위치 연결을 지원해요.

어떻게 써보나

1. 케이블 준비: 대수에 맞춰 Amphenol NJAAKK-N911이나 Luxshare LMTQF022-SD-R 케이블을 마련해요.
2. 물리적 연결: DGX Spark 뒷면을 마주 보고 QSFP 포트에 당김 탭이 위로 오도록 케이블을 꽂아요. 매끄럽게 들어가지 않으면 방향을 다시 확인해요.
3. 장치 등록과 업데이트: 각 DGX Spark를 NVIDIA Sync에 계정으로 등록하고, DGX Dashboard에서 최신 소프트웨어로 업데이트해요.
4. Cluster Assistant 실행: NVIDIA Sync 안에서 Cluster Assistant를 열면 연결된 장치를 자동으로 찾아 네트워크 설정과 SSH 구성까지 끝내 줘요.
5. 워크로드 얹기: 네트워크가 완성되면 NCCL·vLLM·PyTorch 파인튜닝 플레이북 중 필요한 것을 골라 실제 작업을 돌려요.

에디터의 시선

지난 8월 초 NVIDIA AI 계정의 X 게시물 하나를 두고 우리가 쓸 수 있었던 건 “여러 대를 연결할 수 있다더라”는 정도였어요. 정작 몇 대까지 되는지, 케이블은 뭘 써야 하는지는 통째로 비어 있었거든요. 이번 문서가 그 자리를 채운 방식을 보면 엔비디아의 전략이 읽혀요. DGX Spark를 데이터센터용 슈퍼컴퓨터가 아니라 책상 위에서 늘려 가는 개인용 AI 인프라로 자리매김하려는 시도예요. 2대와 3대는 케이블 하나로도 되게 열어 두고, 4대부터 스위치를 요구하는 건 소규모 실험실과 개인 개발자를 붙잡되 본격적인 확장은 네트워크 장비 투자로 유도하는 선긋기로 보여요.

같은 시기 퍼플렉시티가 DGX Spark 한 대 위에서 클라우드 의존 없이 도는 포터블 컴퓨터를 내놓은 것도 같은 흐름 위에 있어요. 오케스트레이터와 서브에이전트 LLM을 로컬 하드웨어 하나로 돌리는 실험이 이미 나온 상황에서, 그보다 더 큰 모델이나 더 많은 동시 작업이 필요해지면 다음 선택지가 바로 이번에 문서화된 클러스터링이에요. 한 대로 시작해서 필요할 때 대수를 늘리는 경로가 이제 서류상으로 완성된 셈이에요.

국내에서 로컬 AI 구성에 관심 있는 개발팀이라면 이 문서에서 얻을 실무 힌트가 명확해요. Cluster Assistant가 네트워크 설정을 대신해 주는 건 맞지만, NCCL이나 vLLM으로 실제 분산 추론·훈련을 돌리는 건 별도 지식이 필요한 영역이라는 점이에요. 클러스터를 사겠다고 결정하기 전에 팀 안에 이 플레이북을 다룰 사람이 있는지부터 확인하는 게 순서예요. 케이블 규격을 잘못 골라 200Gb/s가 안 나오는 것보다, 네트워크는 잡혔는데 그 위에 올릴 워크로드 설정에서 막히는 경우가 더 흔할 걸로 봐요.

앞으로 몇 주 안에는 이 클러스터링 문서를 기반으로 한 실제 벤치마크나 사용기가 나올 가능성이 커요. NCCL·vLLM 플레이북이 이미 언급된 만큼, 2대·3대·4대 구성별 실제 추론 속도 비교가 다음 단계로 자연스럽게 이어질 거예요.