GPU 운영 플랫폼 전체를 공개했다
엔비디아가 2026년 10월 13일 NVIDIA Run:ai 전체 플랫폼을 오픈소스로 공개했다. Run:ai는 Kubernetes 클러스터에서 AI 개발·학습·추론 작업을 배치하고 GPU 자원을 여러 팀에 나눠 주는 운영 소프트웨어다. 이번 공개는 NVIDIA DSX AI Factory 플랫폼의 일부로 이뤄졌다. 공식 발표
기존에 공개돼 있던 KAI Scheduler뿐 아니라 제어 영역과 클러스터 서비스, 설치 도구 등을 포함한 플랫폼을 제공한다는 점이 핵심이다. 운영팀은 전체 구성을 도입하거나 필요한 모듈을 선택해 기존 환경과 결합할 수 있다. 공식 저장소
여러 팀의 학습·추론 작업을 GPU 자원 풀에 배치하고, 팀별 할당량과 사용 현황을 관리하는 흐름.
작업 배치와 팀별 할당량을 함께 다룬다
공개 저장소는 Run:ai를 제어 영역과 클러스터 서비스로 설명한다. 제어 영역은 작업 제출과 조직별 자원·정책·모니터링을 관리하고, 클러스터 서비스는 실제 작업이 실행되는 곳에서 GPU를 고려한 배치와 작업 관리를 맡는다. 웹 화면과 CLI, REST API를 통해 운영할 수 있다.
이는 팀마다 GPU를 고정 배정한 뒤 남는 장비를 따로 조율하던 상황에 적용할 수 있는 구조다. 예를 들어 개발용 작은 추론 작업과 여러 GPU가 동시에 필요한 학습 작업의 요구가 다르다면, 배치 규칙과 자원 보장을 함께 설계할 수 있다. 이 예시는 편집팀이 설명을 위해 구성한 사용 장면이며 특정 고객의 성능 검증 결과는 아니다.
네 가지 모듈을 따로 적용할 수도 있다
엔비디아는 전체 플랫폼과 함께 네 가지 구성요소를 독립적으로 도입할 수 있다고 안내한다. 이미 자체 운영 도구가 있다면 부족한 기능부터 결합하는 경로가 생긴 셈이다.
| 구성요소 | 맡는 역할 |
|---|---|
| KAI Scheduler | GPU 작업 배치, 자원 공유와 우선순위 조정 |
| GPU Fractioning Operator | Kubernetes에서 CUDA 기반 GPU 분할 기능 연결 |
| KAI Resource Management | 부서·프로젝트별 할당량과 자원 계층 관리 |
| Workload Map | 서로 다른 작업 유형의 구조와 상태를 일관되게 표현 |
KAI Scheduler는 GPU 작업의 공동 배치와 공정한 자원 공유 등을 다루는 기존 공개 프로젝트다. GPU를 여러 작업에 나누는 기능도 실제 드라이버와 하드웨어 조건을 확인해야 한다. 모듈 이름만 보고 모든 GPU와 기존 클러스터에서 같은 구성이 작동한다고 가정할 수는 없다. KAI Scheduler 문서
공개 코드와 지원 서비스는 구분해야 한다
Run:ai 저장소의 기본 코드 라이선스는 Apache 2.0이며 일부 포함 파일과 구성요소에는 별도 고지가 있다. 엔비디아는 NGC에도 통합 설치용 Helm 차트를 포함한 Community Product를 제공한다. 다운로드에는 해당 NVIDIA 약관이 적용되지만 유료 Run:ai 구독이나 지원 자격을 요구하지 않으며, NVIDIA 기업 지원도 포함하지 않는다고 설명한다.
상용 지원을 포함하는 기존 제공 방식은 별도로 유지된다. 따라서 오픈소스 공개를 기업 지원 서비스 전체의 무료 전환으로 해석해서는 안 된다. 실제 운영 비용에는 GPU 장비뿐 아니라 설치, 업그레이드, 장애 대응, 관측 도구와 담당 인력도 포함된다는 것이 편집팀의 판단이다. 커뮤니티 배포 안내
도입 전에는 현재 병목부터 확인한다
이 발표가 모든 조직에 즉각적인 GPU 비용 절감을 보장하는 것은 아니다. GPU가 남아도는 시간과 작업 대기 시간이 함께 발생하는지, 팀별 보장 용량이 필요한지, 기존 배치 정책이 작업 특성과 맞는지를 먼저 살펴야 한다. 같은 작업으로 변경 전후의 대기 시간과 완료 시간, 사용률을 비교하는 편이 도움이 된다.
공개 저장소도 단일 팀이 전용 GPU에서 작업하는 환경이라면 기본 Kubernetes 배치로 충분할 수 있다고 설명한다. 여러 팀이 자원을 공유하는 정도와 운영 복잡성에 맞춰 전체 플랫폼 또는 일부 모듈을 선택하는 것이 현실적인 접근이다.
자주 묻는 질문
이번에 새로 공개된 범위는 무엇인가?
KAI Scheduler 하나에 한정되지 않고 Run:ai 전체 플랫폼과 관련 모듈을 공개했다. 제어 영역, 클러스터 서비스, 설치 도구 등이 저장소에 포함되며 필요에 따라 일부 모듈만 사용할 수도 있다.
오픈소스 버전에도 기업 지원이 포함되나?
NGC Community Product에는 NVIDIA 기업 지원이 포함되지 않는다. 지원이 필요한 조직은 별도 상용 제공 방식의 라이선스와 지원 범위를 확인해야 한다.
GPU를 무료로 제공하는 서비스인가?
GPU 작업을 배치하고 자원을 관리하는 소프트웨어 공개다. 실행에 필요한 GPU·클라우드·운영 자원은 별도로 준비해야 하며 장비 비용이 없어지는 발표는 아니다.
기존 Kubernetes를 바꿔야 하나?
Run:ai는 Kubernetes 위에서 GPU 작업의 배치와 관리를 확장하는 계층이다. 기존 스케줄러·운영 도구와의 결합 방식, 지원 버전, 드라이버 조건을 확인한 뒤 도입 범위를 정해야 한다.
한눈에 정리
엔비디아는 Run:ai 전체 플랫폼을 공개해 GPU 자원 공유와 작업 관리를 직접 검토·도입할 수 있는 범위를 넓혔다. 전체 구성을 쓰거나 필요한 모듈만 결합하는 선택지가 있다.
운영팀은 코드 라이선스와 NGC 배포 약관, 기업 지원을 나눠 확인하고 실제 작업의 대기 시간과 자원 사용률을 기준으로 적용 효과를 평가할 필요가 있다. 오픈소스 전환 자체와 운영 성과를 동일시하지 않는 것이 중요하다.