RTX Spark에 리눅스 깔면 추론이 4.7배 느려진다, 원인은 암호화된 펌웨어

RTX Spark 노트북에 리눅스를 직접 설치하면 대부분 동작합니다. 문제는 전원을 꽂는 순간입니다. GPU 클럭이 2.2GHz에서 780MHz로 떨어지고, 같은 모델 추론이 65토큰에서 14토큰으로 줄어듭니다.

원인은 리눅스 커널도 배포판도 아닙니다. CPU와 GPU의 전력 배분을 담당하는 윈도우 전용 펌웨어 구성요소이고, 그 안의 전력 설정 표가 암호화되어 있습니다.

리눅스는 깔린다, 그런데 전원을 꽂으면 느려진다

실측은 MSI Prestige N16 Flip AI Plus에서 이뤄졌습니다. RTX Spark 플랫폼은 이 노트북 외에 Asus ProArt, Dell XPS에도 들어갑니다. 데스크톱인 DGX Spark와 같은 GPU 설계를 쓰지만, 노트북은 전부 윈도우 온 ARM으로 출하됩니다.

NVIDIA의 오픈 커널 드라이버 덕분에 리눅스에서도 GPU 가속이 됩니다. 4K 120Hz 출력, 오디오, 키보드, 터치패드까지 설정만 맞추면 동작합니다. 설치 자체는 순탄하지 않았습니다. 처음 시도한 Omarchy는 부팅 중 화면이 깜빡였고, Debian은 와이파이를 못 잡아 USB 유선 랜으로 설치해야 했습니다. 설치 중에는 내장 화면에만 출력돼 외부 카메라로 화면을 찍어 원격 설치를 진행해야 했습니다.

같은 모델이 65토큰에서 14토큰으로

1200억 파라미터 모델(GPT-OSS-120B)을 GPU에 올린 결과입니다. 윈도우 65.4토큰, WSL 65.1토큰, DGX Spark 61토큰, 네이티브 리눅스 13.9토큰입니다. 같은 노트북에서 운영체제만 바꿨을 때 4.7배 벌어집니다.

토큰 속도는 체감으로 바로 이어집니다. 65토큰이면 긴 답변이 몇 초 만에 흐르고, 14토큰이면 같은 답변에 네다섯 배 시간이 걸립니다. 코드 생성이나 요약처럼 출력이 긴 작업에서 차이가 크게 드러납니다.

동시 요청에서는 격차가 더 큽니다. vLLM에 8개 클라이언트를 붙이면 WSL이 127토큰, 네이티브 리눅스가 39.5토큰입니다. 긴 벤치마크에서는 윈도우가 약 8분에 끝났고 리눅스는 37분이 걸렸습니다. 그동안 GPU 온도는 40~47도로 낮았습니다. 발열 때문에 느려진 것이 아닙니다.

이상한 부분은 전원 방향입니다. 배터리로 쓰면 리눅스도 LM Studio에서 61~67토큰이 나옵니다. 클럭도 1,800MHz까지 올라갑니다. 전원을 꽂을 때만 15토큰으로 떨어집니다. 보통 노트북과 반대입니다.

범인은 윈도우 전용 전력 컨트롤러

원인은 장치 관리자에 보이는 NVIDIA Platform Controllers and Framework입니다. 노트북은 데스크톱과 달리 CPU와 GPU가 전력 예산을 나눠 써야 해서, 이 구성요소가 그 배분을 맡습니다.

노트북은 CPU와 GPU가 하나의 전력 예산을 나눠 씁니다. 어느 쪽에 몇 와트를 줄지 결정하는 표가 펌웨어 안에 있고, 그 표를 읽어야 GPU를 높은 클럭으로 밀어붙일 수 있습니다. 리눅스 드라이버는 이 표에 접근하지 못하니 안전한 기본값에 머뭅니다.

결정적인 실험은 윈도우에서 이 컨트롤러를 끈 것입니다. 초당 83토큰이 31토큰으로, 클럭이 2GHz에서 786MHz로 떨어져 리눅스와 같은 상태가 됐습니다. 다시 켜면 즉시 정상으로 돌아왔습니다. 커널이나 배포판, GPU 드라이버 문제가 아니라는 뜻입니다.

같은 GPU 설계를 쓰는 데스크톱 DGX Spark가 61토큰을 낸 점이 기준선입니다. 데스크톱은 NVIDIA가 만든 리눅스 빌드를 쓰기 때문에 전력 배분 문제가 처음부터 없습니다. 노트북만 윈도우 온 ARM으로 출하되면서 이 문제가 생겼습니다.

더 깊은 문제는 펌웨어가 이 컨트롤러에 넘기는 전력 설정 표가 암호화되어 있다는 점입니다. 윈도우 드라이버는 복호화 키를 갖고 있고 리눅스는 갖고 있지 않습니다. 테스트 중 시도한 우회는 커널 패닉으로 끝났습니다. 윈도우 드라이버에서 키를 뽑아 쓰는 방법도 거론되지만 한 대에서만 통하는 임시방편입니다. 근본 해결은 NVIDIA가 리눅스 드라이버에 같은 전력 관리 로직을 넣는 것입니다.

메모리 배분도 별도 문제입니다. 이 노트북은 통합 메모리 128GB 중 96GB를 GPU용으로 예약합니다. 그 비율을 바꾸는 설정은 윈도우에만 있습니다. 리눅스에서는 128GB 중 28GB만 보였습니다.

윈도우에서 예약을 4GB로 낮추자 리눅스가 120GB를 인식했습니다. 리눅스만 쓰겠다고 결심해도 윈도우 파티션이 남아 있어야 메모리 설정을 바꿀 수 있는 구조입니다. 이 노트북을 사서 윈도우를 지우는 계획이라면 먼저 확인해야 할 부분입니다.

추론 서버로 쓰는 사람에게는 운영체제 선택이 곧 성능 선택이 됩니다. 모델 크기나 양자화만 보고 기기를 고르면 같은 돈으로 5분의 1 성능을 받는 일이 생깁니다. 구매 전에 확인할 것은 전력 관리 드라이버가 리눅스에서 지원되는지입니다.

지금 실용적인 선택은 WSL

현재 답은 WSL입니다. 윈도우 드라이버 위에서 돌기 때문에 전원을 꽂아도 GPU 부스트가 유지되고, vLLM이나 SGLang 같은 리눅스 우선 도구를 그대로 씁니다. 기본 메모리 예약이 14GB라 대형 모델에는 부족하니 직접 늘려야 합니다. 그렇게 맞추면 벤치마크가 윈도우와 거의 같아집니다.

이 노트북을 로컬 추론용으로 검토한다면 지금은 네이티브 리눅스 설치가 성능을 깎는 선택입니다. 리눅스 도구가 꼭 필요하면 WSL로 시작하고, NVIDIA가 전력 관리 로직을 리눅스 드라이버에 넣는 업데이트가 나오는지 지켜보는 편이 낫습니다.

원문 반응

GeekNews에 붙은 해커뉴스 댓글은 방향을 클라우드 의존으로 몰아가는 흐름을 문제 삼았습니다. 주권 AI가 지금보다 절실했던 적이 없다는 지적입니다. AI를 통제하는 힘은 검색이나 소셜미디어 알고리즘보다 훨씬 크고, 중앙집중형 고성능 AI를 특정 결과로 유도하면 사회 통제 수단이 된다는 우려입니다.

같은 댓글은 NVIDIA의 시장 세분화도 짚습니다. 클라우드 사업자는 큰돈을 내고, 로컬 AI 사용자 예산은 그보다 적고, 게이머 예산은 더 적습니다. 그래도 돈이 되는 시장이니 자사 제품끼리 경쟁하지 않도록 소비자용 하드웨어에서 기업용 작업을 제한한다는 해석입니다.

원문은 11월 1일 게시된 실측 기록이고, 테스트에 쓴 모델과 클럭, 온도 수치가 함께 남아 있습니다. 설치 과정에서 막힌 지점도 그대로 적혀 있어 같은 기기를 산 사람에게 참고가 됩니다.

정리하면, 하드웨어 성능표만 보고 고르면 놓치는 부분이 있다는 사례입니다. 같은 칩이라도 어떤 운영체제에서 어떤 전력 정책으로 돌리는지가 체감 성능을 5배 바꿉니다.

원문 보기