이미지: NVIDIA
摘要
- NVIDIA开发者博客公开了一份教程，介绍如何结合KAI Scheduler与vCluster，在单一GPU基础设施上为各团队搭建完全隔离的Kubernetes租户集群
- 每个团队都拥有独立的API服务器、RBAC、CRD以及集群管理员权限，但实际上共享同一批GPU节点
- 该教程以1块NVIDIA L40S GPU和3个团队的配置设计，确保可复现，并表示同一方式可扩展至数百个节点规模
- 발행처
- NVIDIA Dev Blog
- 발행일
- 2026-08-03
- 핵심 도구
- KAI Scheduler, vCluster (오픈소스)
- 테스트 환경
- NVIDIA L40S GPU 1개, 3개 팀 공유
- 확장성
- 수천 개 노드 및 다수 워크로드 규모까지 운영 가능하다고 설명
NVIDIA开发者博客介绍了一种架构，可在单一GPU基础设施之上，让多个团队运行完全隔离的Kubernetes集群。该方案的出发点在于：如果每个团队都拥有专属集群，会产生超出必要程度的隔离成本；反之，若多个团队共享一个集群，则CRD版本冲突、RBAC重叠以及GPU容量分配问题会随之加剧。
KAI Scheduler与vCluster组合
KAI Scheduler是一款专为AI工作负载设计的拓扑感知调度器，支持按团队设定配额和动态GPU分配，可与默认的kube-scheduler并行运行。文中说明，只有被指定为schedulerName: kai-scheduler的Pod才会由该调度器处理，其余Pod则按原有方式处理。该调度器还与NVIDIA GPU Operator集成，据悉可支持多达数千个节点的规模。
vCluster会在物理节点之上为每个团队配置一个拥有独立API服务器、控制器、数据存储和调度器的虚拟集群。从租户的角度来看，这与拥有专属集群几乎没有区别，但实际上底层节点和GPU仍然是共享的，无需对硬件进行物理划分。
可复现的测试配置
该教程采用了小规模环境搭建：1块NVIDIA L40S GPU由3个团队分别使用其中一部分资源，以便资源有限的用户也能照做。文中表示，同样的方式在拥有数百个GPU节点、数十个团队的环境中也能同样运作，可以通过增加节点池、队列层级以及租户集群数量来进行扩展。完成实践后，可以确认3个团队分别在各自隔离的租户集群中运行实际的GPU Pod，同时无法看到其他团队的工作负载。
