이번 주 오픈웨이트 모델 5종, 8GB로 돌릴 수 있는 건 하나입니다

이번 주에 내려받아 직접 돌려볼 만한 모델은 FLUX 3 Image Klein 하나입니다. 5.6B짜리 이미지 모델이라 INT8 양자화 기준 VRAM 8GB에서 동작합니다. 국산 LLM 세 종은 가중치가 공개돼도 개인 그래픽카드로는 감당이 안 됩니다.

이번 주에 비교할 다섯 모델

세 LLM은 모두 독자 AI 파운데이션 모델 3차(이하 독파모 3차) 경쟁에 올라온 국산 모델입니다. 총 파라미터는 7,500억 개(K-엑사원 2.0), 6,880억 개(A.X K2), 2,500억 개(Solar Open 2)로 체급이 세 배 넘게 벌어집니다.

실제 추론에 쓰이는 활성 파라미터는 370억, 330억, 150억 개입니다. MoE 구조라 총량보다 이 숫자가 속도와 메모리를 좌우합니다. 7,500억 개 모델이 매 토큰마다 370억 개만 계산하는 식입니다.

문맥 길이도 갈립니다. K-엑사원 2.0은 26만2144토큰, A.X K2는 25만6000토큰, Solar Open 2는 최대 100만 토큰입니다. 계약서 묶음이나 코드베이스를 통째로 넣는 작업이라면 이 차이가 실제 사용감을 바꿉니다.

개인 그래픽카드로 도는 건 이미지 모델뿐입니다

FLUX 3 Image Klein은 5.6B 모델입니다. BF16이면 11.2GB, FP8이면 5.6GB, INT8이면 VRAM 8GB에서 돌아갑니다. 1메가픽셀 이미지 한 장이 RTX 5090에서 약 4초, RTX 4070에서 9초 이내라고 밝혔습니다.

네이티브 4K, 참조 이미지 10장, 지정 영역만 고치는 편집까지 한 모델에서 처리합니다. 바운딩 박스로 위치를 지정하면 지정한 영역 밖의 픽셀은 건드리지 않습니다. 부분 수정이 잦은 작업에서 재생성 횟수를 줄이는 구조입니다.

상업 이용은 연매출 5백만 달러 미만이면 무료입니다. 그 이상은 자체 호스팅 라이선스나 API로 가야 합니다. 무료 가중치라는 말이 회사 규모와 무관한 허가를 뜻하지는 않습니다.

Qwen-Image-2.1은 구조가 다릅니다. 7B 생성 모델에 8B 비전 인코더를 붙여 네이티브 2K와 알파 채널 출력을 지원합니다. 배경을 따로 지우지 않고 투명 PNG를 바로 뽑는 작업에 쓰이는 기능입니다.

다만 가중치 라이선스가 연구·평가 전용입니다. 회사 업무에 쓰려면 상업 계약이 붙은 API로 가야 하고, Turbo 기준 장당 0.016달러를 내야 합니다. 무료 가중치만 보고 파이프라인을 짜면 나중에 비용이 다시 붙습니다.

국산 LLM은 1,000장 단위 GPU가 전제입니다

독파모 3차 지원 규모는 팀당 B200 1,000장 수준입니다. 상반기 768장에서 늘어난 값이고, 이게 이 체급 모델을 학습시키는 최소 단위에 가깝습니다.

추론만 해도 사정은 비슷합니다. 7,500억 개 모델을 4비트로 줄여도 수백 GB의 메모리가 필요합니다. 데스크탑 한 대에 꽂는 DDR5 64GB 두 쌍으로는 문턱에도 닿지 않습니다.

성능 지표도 함께 봐야 합니다. K-엑사원 2.0은 자체 평가 24개 벤치마크 평균 70.1점(1차 63.3점)을 기록했습니다. A.X K2는 256K 문맥에서 AIME 2026 97.1%를 냈습니다. 긴 문서를 통째로 넣는 작업이라면 모델을 직접 돌리는 대신 API 단가를 비교하는 쪽이 합리적입니다.

직접 돌릴지, 장당으로 살지 가르는 계산

Qwen-Image-2.1 Turbo는 장당 0.016달러, Pro는 0.04달러입니다. 1만 장을 뽑으면 160달러와 400달러입니다. 전기요금과 GPU 감가상각을 넣기 전 숫자입니다.

FLUX 3 Klein API는 1K 이미지당 0.009달러부터입니다. 같은 1만 장이 90달러 수준이라, 로컬 장비를 이미 갖고 있지 않다면 API가 먼저입니다.

로컬이 유리해지는 지점은 두 가지입니다. 하루 수백 장을 반복해서 뽑거나, 외부로 보낼 수 없는 이미지를 다뤄야 할 때입니다. 이 경우 8GB 카드 한 장이 API 요금보다 먼저 회수됩니다.

LLM은 계산이 다릅니다. INT8로 줄인 7,500억 개 모델은 소비자용 카드 한 장에 들어가지 않습니다. 국산 LLM을 쓰려면 API 단가를 보거나, 모델을 서빙하는 클라우드 GPU 요금을 견적에 넣어야 합니다.

작은 모델 쪽 선택지도 넓어졌습니다

업스테이지는 Solar Open 2와 별도로 Solar Mini 4를 10월 1일 공개했습니다. 35B에 활성 3B인 MoE 모델로, Solar Open 2(250B/15B)보다 훨씬 작습니다. API는 10월 10일까지 70% 할인 프로모션이 붙었습니다.

Qwen-Image-2.1은 알파 채널을 생성하는 RGBA VAE를 씁니다. 배경 제거를 후처리로 하던 작업을 생성 단계에서 끝낼 수 있고, 참조 이미지 10장과 국소 편집도 함께 지원합니다. Turbo 체크포인트는 40스텝을 8스텝으로 줄인 버전입니다.

FLUX 3 Klein은 LoRA를 붙여 서빙할 때 비용이 5% 더 붙습니다. 자체 스타일을 학습시켜 쓰는 팀이라면 이 5%를 감당할지, 프롬프트로 해결할지 판단해야 합니다.

결국 장비 선택은 두 갈래로 갈립니다. 이미지 모델만 돌린다면 8GB 카드로 충분하고, 국산 LLM까지 사내에서 서빙하려면 24GB 이상 여러 장이 필요합니다. 두 목적을 한 대로 처리하려는 견적은 대개 어느 쪽도 만족시키지 못합니다.

한 줄 정리

이미지라면 FLUX 3 Image Klein을 로컬로, 국산 LLM은 API로 쓰는 쪽이 현실적입니다. 로컬 실행을 목표로 장비를 맞춘다면 VRAM 8GB가 최소선이고, LLM까지 노린다면 24GB 이상이 출발점입니다.

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.