리플-65B, 650억 밀집 모델로 코딩 벤치 선두... 개발비는 3,200만 달러

구글에서 AI 반도체 설계 기술인 알파칩을 개발한 연구진이 세운 리커시브 인텔리전스가 650억 매개변수 오픈웨이트 모델 리플-65B 프리뷰를 공개했습니다. 터미널에서 코딩 능력을 재는 터미널벤치 2.1에서 80.52점으로, 회사가 비교 대상으로 내세운 미국 오픈웨이트 모델 가운데 가장 높은 점수입니다. 개발비는 3,200만 달러(약 430억원)로 이전 선두 모델의 10분의 1 수준이라고 밝혔습니다.

숫자만 보면 650억짜리가 5,010억, 8,160억, 9,750억짜리 모델을 앞선 셈입니다. 다만 이 비교표는 회사가 경쟁사 공개 점수와 자체 측정치를 한자리에 놓고 만든 것입니다. 같은 모델이 딥SWE 1.1에서는 44.3점으로 뮤즈 스파크 오픈의 60.0점에 뒤집니다. 앞선 범위는 에이전트 코딩 계열 일부 평가입니다.

12조 토큰으로 처음부터, 밀집 65B

리플-65B는 12조 토큰으로 사전학습했고 최대 100만 토큰 컨텍스트를 지원하도록 설계됐습니다. 구조는 전문가 혼합(MoE)이 아니라 모든 매개변수를 쓰는 밀집형 트랜스포머입니다. 회사는 학습과 추론 효율을 높이기 위해 엔비디아 하드웨어에 맞춰 모델 구조를 최적화했다고 설명했습니다.

회사를 세운 사람은 구글에서 알파칩을 만든 애나 골디 최고경영자와 아잘리아 미르호세이니 최고기술책임자입니다. 자체 반도체 설계 플랫폼을 돌리려고 만든 언어 모델을 범용으로 풀어놓은 것이 이번 공개입니다. 코딩 모델 플린트를 낸 리커시브와는 이름만 비슷한 다른 회사입니다.

라이선스는 아파치 2.0입니다. 상업적 이용과 수정, 재배포가 모두 허용됩니다. 가중치는 허깅페이스에서 받을 수 있고 투게더AI, GMI 클라우드, 오픈라우터 같은 외부 서비스에서도 돌릴 수 있습니다.

아파치 2.0은 상업 서비스에 넣어도 소스 공개 의무가 없는 라이선스입니다. 사내 서비스에 얹거나 제품에 내장하려는 쪽에 문턱이 낮습니다.

비교표에서는 터미널벤치 선두, 딥SWE에서는 뒤져

두 평가에서는 1위지만 결론이 갈립니다. 실제 소프트웨어 개발 문제를 푸는 딥SWE 1.1에서는 리플-65B가 44.3점, 뮤즈 스파크 오픈이 60.0점입니다. 터미널에서 도구를 다루는 능력과 저장소를 직접 고치는 능력은 다른 축이라는 뜻입니다.

터미널벤치 2.1에서 2위인 빔 501B와의 차이는 0.42점입니다. 압도적 우위라기보다 한 번 앞선 수준으로 읽는 편이 정확합니다.

평가마다 재는 것이 다릅니다. 터미널벤치는 터미널에서 명령을 조합해 작업을 끝내는 능력, SWE-벤치 프로는 실제 이슈를 패치로 바꾸는 능력, 딥SWE는 긴 저장소를 스스로 탐색하는 능력을 봅니다. 같은 모델이라도 어느 축을 보느냐에 따라 순위가 바뀝니다.

비교의 한계도 있습니다. 빔 501B 같은 경쟁 모델은 MoE 구조라 추론할 때 일부 매개변수만 활성화합니다. 전체 매개변수 수가 적다고 추론 비용이 같은 비율로 줄어드는 것은 아닙니다. 벤처비트는 평가 도구와 실행 조건에 따라 성적이 달라질 수 있어 미국 오픈웨이트 모델 전체에서 성능 우위를 확정하기는 어렵다고 짚었습니다.

비교에 쓴 경쟁 모델 점수도 회사가 경쟁사 발표 자료에서 가져온 값입니다. 일부 모델은 발표 자료마다 점수가 달랐다고 전했습니다. 같은 표에 놓인 숫자의 출처가 하나로 통일되지는 않았다는 뜻입니다.

140만 번의 롤아웃, 개발비 3,200만 달러

강화학습은 140만 회 롤아웃으로 터미널벤치 2.1에서 80.5점을 냈습니다. 이전 선두 모델인 빔보다 약 70배 적은 횟수입니다. 롤아웃은 AI가 작업을 수행하는 과정을 만들고 결과를 평가해 학습에 반영하는 단위입니다.

개발비 3,200만 달러에는 데이터 구성과 합성 데이터 생성, 평가, 사후 학습까지 초기 연구개발 전 과정이 들어갑니다. 롤아웃 횟수가 적다고 연산 비용이 같은 비율로 줄었다는 뜻은 아닙니다. 회사도 이 두 가지를 구분해서 설명합니다.

개발비 3,200만 달러는 이전 미국 오픈웨이트 코딩 선두 모델 개발비의 약 10분의 1이라는 회사 자체 추정치입니다. 데이터와 평가, 사후 학습을 모두 묶은 값이라 모델 학습 한 번에 든 비용과는 범위가 다릅니다.

DGX 스파크에서도 돌아간다

회사는 리플-65B를 엔비디아의 소형 AI 컴퓨팅 시스템인 DGX 스파크에서 실행할 수 있도록 설계했습니다. 이를 위해 메모리 사용량을 줄인 NVFP4 버전도 함께 공개했습니다. 데이터센터용 B200 GPU 두 장으로 진행한 자체 시험에서는 여러 요청을 묶어 처리하는 조건에서 초당 약 250토큰의 생성 속도를 기록했습니다.

리커시브는 모델과 그 모델을 돌릴 반도체를 함께 개선하는 풀스택 AI를 내겁니다. 이번 모델도 자체 반도체 설계에 쓰던 기술을 범용으로 꺼낸 결과물입니다. 1M 컨텍스트와 밀집 65B를 소형 장비에서 돌리는 조합이 어디까지 실용화되는지가 다음 관전점입니다.

밀집 65B에 100만 토큰 컨텍스트를 붙이면 메모리 요구량이 만만치 않습니다. 회사가 NVFP4 버전을 따로 낸 이유도 여기에 있습니다. 실제 서비스에서 쓸 수 있는 컨텍스트 길이와 처리 속도, 비용은 제공 업체마다 다릅니다.

지금 이 모델을 볼 때 확인할 것

첫째, 점수는 회사가 만든 비교표라는 점입니다. 둘째, 앞선 성능이 에이전트 코딩 일부 평가에 한정된다는 점입니다. 셋째, 밀집 65B는 작은 모델이 아니라는 점입니다. 세 가지를 알고 나면 터미널 기반 코딩 에이전트를 직접 돌리려는 쪽에 실익이 큰 발표로 정리됩니다.

터미널 기반 코딩 에이전트를 이미 굴리고 있다면 이 모델은 교체 후보입니다. 반대로 채팅창에 코드를 붙여 넣는 용도만 쓴다면 1M 컨텍스트와 밀집 구조가 주는 이점은 크지 않습니다.

650억으로 15배 큰 모델을 넘봤다는 점은 분명 의미가 있습니다. 다만 그 15배는 매개변수 기준이고, 실제 연산량과 비용은 모델 구조에 따라 달라집니다. 점수가 아니라 같은 조건에서 다시 잰 값으로 판단할 일입니다.

지켜볼 지점은 두 가지입니다. 같은 평가를 다른 기관이 독립적으로 돌린 결과, 그리고 NVFP4 버전이 실제로 어느 장비에서 어느 속도를 내는지입니다.

원문 보기: 구글 출신 연구진, 65B 모델로 8배 큰 AI 코딩 성능 추월

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.