NVIDIA NVKE 공개, 고객별 GPU 클러스터 운영 전에 볼 제약

NVIDIA Kubernetes Engine(NVKE)이 GPU 인프라 위에서 고객별 Kubernetes 클러스터를 만들고 운영하는 관리 평면을 공개했습니다. 실서비스에 바로 도입하기보다, 분리된 시험 환경에서 평가할 단계입니다. 공식 문서는 프리뷰임을 밝히고 프로덕션 사용을 권하지 않습니다.

핵심은 GPU 한 장에 작업을 올리는 방법보다 여러 고객의 클러스터를 나누고 관리하는 일에 있습니다. 고객에게 독립된 Kubernetes 환경을 제공하려는 플랫폼 팀이 주요 대상입니다. 관리 평면의 업그레이드·백업·복원 절차와 초기 접근 설정이 도입 판단을 가릅니다.

고객마다 독립된 클러스터를 만드는 관리 평면

NVKE의 작업 클러스터는 각각 자체 제어 평면과 상태 저장소인 etcd, 노드 풀을 갖습니다. 운영자가 NVKE 관리 평면을 설치하고 고객용 클러스터를 생성하면, 고객은 Kubernetes API와 kubectl로 자신의 클러스터를 사용합니다. 클러스터를 제공하는 쪽과 사용하는 쪽의 역할을 나눈 구조입니다.

NVKE는 Kubernetes 배포판이 아니라고 공식 문서에 명시돼 있습니다. 기존 클러스터에 GPU 지원 기능만 추가하는 도구로 보면 범위를 좁게 이해하게 됩니다. NVKE API나 nvkectl로 클러스터를 요청하고, 인프라 제공자를 통해 머신을 준비해 독립된 클러스터를 구성하는 흐름입니다.

노드 풀 생성·확장·삭제와 노드 교체, Kubernetes 업그레이드를 다룹니다. 노드가 참여 자격을 받기 전에는 SPIFFE/SPIRE와 TPM을 이용해 신원을 증명합니다. etcd 데이터 암호화는 클러스터별로 선택할 수 있습니다.

별도 프로젝트인 NVIDIA Kubernetes Recipes(NVKR)는 고정된 입력을 바탕으로 노드 이미지와 구성요소를 만듭니다. NVKR가 빌드한 산출물을 NVKE가 배포하는 역할 분담입니다. 운영자는 머신뿐 아니라 네트워크, 노드 이미지와 레지스트리도 준비해야 합니다.

설치 직후의 API는 그대로 열어두면 안 됩니다

초기 보안 설정은 중요한 제약입니다. 설치 직후 API는 TLS 없는 HTTP로 동작하고 인증도 꺼져 있습니다. 관리 노드의 30080 포트에 접근할 수 있는 호출자는 모든 엔드포인트를 호출할 수 있다고 문서에 적혀 있습니다.

허용 네트워크를 제한하고 인증을 설정하는 작업이 필요합니다. 토큰도 해당 HTTP 포트로 보내면 암호화되지 않으므로, 운영자가 TLS 종단점을 앞에 두거나 신뢰할 수 있는 격리 네트워크 안으로 클라이언트를 한정해야 합니다. 단순히 인증 옵션을 켰다는 이유만으로 전송 구간까지 보호되지는 않습니다.

인증 뒤에도 제약이 남습니다. NVKE는 인증된 호출자의 권한을 세분화하지 않습니다. API가 받아들인 호출자는 고객 클러스터를 생성·삭제하는 엔드포인트를 포함해 모든 엔드포인트를 호출할 수 있습니다.

고객에게 전달하는 것은 관리자 kubeconfig이며, 고객별 사용자 자격 증명을 발급해 주는 기능은 없습니다. 더 좁은 권한은 고객 관리자가 해당 클러스터 안에서 만들어야 합니다. 이미 전달한 관리자 kubeconfig도 NVKE에서 인증기관을 회전시키지 않기 때문에 클라이언트 인증서가 만료되기 전까지 사본의 효력이 남습니다.

고객 클러스터 관리와 관리 시스템 복구는 별개입니다

관리 클러스터는 자신의 노드를 업그레이드·확장·교체하지 않습니다. 관리 평면 서비스를 새 NVKE 릴리스로 옮기는 절차도 제공하지 않습니다. 고객 클러스터의 수명주기를 다룬다는 설명을 관리 시스템 자체의 자동 운영까지 되는 것으로 읽으면 안 됩니다.

관리 클러스터와 관리 평면 상태의 백업·복원 절차도 없습니다. 문서는 부트스트랩에서 받은 kubeconfig와 etcd 암호화 키 파일을 안전하게 보관하라고 안내합니다. 고객을 추가하기 전에 관리 시스템의 장애 복구를 어떻게 처리할지 별도로 판단해야 하는 이유입니다.

노드 풀의 설정 변경도 실행 중인 노드에 곧바로 반영되지 않습니다. 새 설정은 이후 생성된 노드에 적용됩니다. recycleBudget을 0보다 크게 설정한 자동 모드가 오래된 노드에 교체 필요 표시를 해도, NVKE가 직접 비우거나 삭제하지는 않습니다. 설정 변경과 기존 노드 교체를 분리해서 봐야 합니다.

전체 디스크 암호화(FDE) 이미지도 평가 용도에 한정됩니다. 같은 이미지에서 만든 노드들이 동일한 볼륨 암호화 키를 물려받고, 원본 이미지와 공개된 부트스트랩 암호로 그 키를 복구할 수 있다고 문서에 설명돼 있습니다. 저장 데이터의 기밀성을 이 이미지에 의존하지 말라는 제한입니다.

실제 GPU 없이 구조부터 평가할 수 있습니다

로컬 빠른 시작은 모의 NICo를 사용해 GPU 하드웨어 없이 관리 평면과 작업 클러스터를 평가하는 경로입니다. Linux 호스트 또는 가상 머신에서 CPU 6개, 여유 메모리 12GiB, 여유 디스크 100GiB 이상이 필요합니다. amd64와 arm64를 지원하며 Docker와 가상 TPM도 요구합니다.

macOS용 안내는 Colima 가상 머신 안에서 평가하는 방식입니다. 로컬 평가에는 NVIDIA 계정이 필요하지 않습니다. 먼저 클러스터를 생성해 노드가 Ready로 보고되는 흐름을 확인한 뒤 실제 인프라 설치를 검토할 수 있습니다.

인프라 제공자는 문서 간 표기를 구분해야 합니다. README는 NICo를 유일한 호환 제공자로 적었지만, 프리뷰 제약과 지원 플랫폼 문서는 배포에서 활성화한 LaunchLayer도 지원한다고 설명합니다. NICo만 된다고 단정하기보다 세부 지원 조건을 따져야 합니다.

원문 반응은 GPU 지원보다 관리 범위에 집중됐습니다

해커뉴스 댓글에서 jimbokun은 “일반 Kubernetes도 GPU에 배포할 수 있지 않나?”라고 물었습니다. 이는 NVKE가 무엇을 추가하는지에 대한 질문입니다. 공식 문서의 고객별 독립 클러스터 생성·운영이라는 설명이 그 차이를 이해하는 기준입니다.

chandlerh는 제품 설명이 불명확하다는 다른 댓글에 대해 첫 문단에서 이미 고객용 Kubernetes 클러스터를 만들고 운영하는 관리 평면이라고 설명한다고 반박했습니다. Yasuraka는 여러 구성요소의 관심사를 섞었다고 평가하면서도 관리 클러스터 부트스트랩과 SPIFFE/TPM 통합에 관심을 보였습니다. 이 평가는 댓글 작성자의 의견입니다.

NVKE의 평가 포인트는 고객 클러스터의 분리·생성·교체 흐름입니다. 실서비스 도입 판단에서는 초기 API 보호, 관리 평면 복구와 노드 교체의 수동 작업을 함께 봐야 합니다. 현재 프리뷰의 프로덕션 비권장 방침도 그대로 남아 있습니다.

원문 보기: NVIDIA Kubernetes Engine