AMD EPYC 9996 256코어, 2P로 1,024스레드에 L3만 1,024MB

AMD가 6세대 EPYC(코드명 베니스) 서버용 SP7 프로세서의 출하를 알렸습니다. 최상위 AMD EPYC 9996은 코어 256개에 L3 캐시 1,024MB를 얹은 칩입니다. 서버용이라 개인이 사는 부품은 아니지만, 이번 발표에서 눈여겨볼 대목은 AI 추론에서 코어 수보다 메모리 대역폭이 변수로 지목된다는 점입니다.

듀얼 소켓으로 두 장을 꽂으면 512코어·1,024스레드가 됩니다. 가격은 1,000개 단위 기준 한 장에 1만4,904달러입니다. 서버 한 대 값은 여기서 시작해 메모리와 스토리지로 이어집니다.

같은 발표에서 눈에 띄는 건 고클럭 모델입니다. 96코어짜리 EPYC 9686F는 발표 당시 5.0GHz였던 부스트 클럭이 양산품에서 5.3GHz로 올라갔습니다. 밀도형 256코어와 고클럭 96코어로 라인업이 갈린 셈입니다.

AMD EPYC 9996, 256코어에 L3 1,024MB

9996은 밀도형 Zen 6c 코어 256개를 한 소켓에 넣었습니다. 기본 2.55GHz, 부스트 4.1GHz로 클럭은 낮춘 대신 코어와 캐시를 밀어 넣은 구성입니다. L3 1,024MB는 표에 함께 놓은 이전 세대 고클럭 플래그십 9575F의 256MB와 비교해 네 배입니다.

표의 값은 프로세서 한 장 기준입니다. 9996과 9686F는 PCIe 6.0 96레인을 씁니다. 9996은 16개 메모리 채널에 DDR5 RDIMM이나 MRDIMM을 꽂습니다. 9686F도 같은 SP7 플랫폼으로 DDR5-8000 RDIMM과 MRDIMM-12800을 지원합니다. 9686F의 TDP는 기본 500W지만 400~600W 사이에서 조정할 수 있습니다.

AMD EPYC 9996 벤치마크, 같은 2P 조건에서 1.58배

테스트는 우분투 26.10, 리눅스 7.3, 듀얼 소켓 2P, MRDIMM 메모리 구성에서 진행됐습니다. 200여 개 테스트를 기하평균으로 묶은 값이고, 비교군도 같은 조건에서 다시 측정했습니다.

AMD EPYC 9996 2P는 192코어 EPYC 9965 2P의 1.58배였습니다. 코어와 스레드 수가 1.33배로 늘어난 것을 감안해도 남는 차이가 있습니다. Zen 6c 코어 자체와 MRDIMM 대역폭이 같이 만든 결과로 풀이됩니다.

9686F 2P는 9575F 2P의 1.48배, 128코어 9755 2P의 1.39배, 제온 6980P 2P의 1.56배였습니다. 항목별로는 코드 컴파일이 제온 6980P 대비 1.63배, HPC가 1.58배, 블렌더·럭스코어·브이레이 렌더링이 2.2배입니다. 96코어가 128코어 제온을 상대로 이기는 장면이 나온 셈입니다.

전력당 성능도 함께 나왔습니다. 프로세서당 600W를 쓰는 9996 2P가 누적 전력 대비 성능에서는 앞섰습니다. 클럭을 낮추고 코어를 늘린 쪽이 와트당 효율에서도 밀리지 않았다는 뜻입니다.

16채널 MRDIMM 12800, 로컬 AI에서 왜 중요한가

AMD가 내놓은 세대 비교 수치는 정수 2배, 부동소수점 2.4배, 메모리 대역폭 2.7배입니다. 행렬 연산은 1.3배, HPC는 1.4배입니다. 항목 중 가장 크게 움직인 곳이 메모리 대역폭입니다.

전력은 프로세서당 기본 600W이고 400W까지 낮출 수 있습니다. 참조 서버는 2U 공랭으로 이 전력을 감당합니다. 이전 세대 참조 서버가 수랭을 썼던 것과 달라진 부분입니다.

톰스하드웨어는 같은 발표에서 MEXT라는 메모리 확장 기능의 예비 지원을 함께 다뤘습니다. DRAM 용량을 절반으로 줄여도 성능 95%를 낸다는 것이 AMD가 내건 주장입니다. 메모리 값을 줄이려는 서버 운영자에게는 이쪽이 더 실질적인 숫자입니다.

개인 로컬 AI에 옮기면 이야기가 달라집니다. 모델을 그래픽카드에 올리면 그래픽 메모리가 먼저 막히고, CPU로 돌리면 시스템 메모리 대역폭이 발목을 잡습니다. 개인용 장비는 결국 그래픽 메모리와 시스템 메모리 대역폭 중 어디에 비용을 넣을지의 문제로 좁혀집니다.

해커뉴스 반응, 코어 수보다 값과 대역폭

해커뉴스 댓글에서는 스펙을 반기는 반응과, 살 수 있는 가격대를 묻는 반응이 갈렸습니다. 한 이용자는 512스레드에 온칩 1GB 캐시라는 점을 그대로 칭찬했습니다.

다른 이용자는 개인과 소규모 사업자가 살 수 있는 값의 EPYC에 더 관심이 간다며 최근 나온 EPYC 8005(소라노)를 언급했습니다. 더 작은 소켓에 384비트 메모리 인터페이스, PCIe 104레인을 쓰는 라인업이라는 설명입니다.

대역폭을 짚은 댓글도 있습니다. 추론도 대역폭이 지배하지만, 그 대역폭을 얻으려면 메모리 슬롯을 전부 채워야 하고 그 비용이 만만치 않다는 지적입니다. 64코어 고클럭 모델이 맥 스튜디오의 메모리 대역폭을 능가할 수 있다는 점을 장점으로 꼽은 반응도 있었습니다.

로드맵은 이렇게 나뉩니다. SP7은 지금 출하되고, SP8은 2027년 상반기, 9006X와 9006LP(베라노)는 2027년 하반기입니다.

AMD EPYC 9996의 문제는 성능이 아니라 예산입니다. 한 장에 1만4,904달러인 칩을 두 장 꽂는 구성은 개인 작업실이 아니라 서버 예산의 영역입니다. 개인이라면 같은 발표에서 확인된 메모리 대역폭 이야기를 자기 장비 선택에 옮겨 보는 쪽이 실용적입니다.

원문 보기 — AMD EPYC 9996 Benchmarks Show Unparalleled Performance (Phoronix)

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.