제미나이 판단 API, 질문 1,000개를 한 번에…100만 토큰 0.1달러

구글이 제미나이 판단 API(Gemini Decisions API)를 공개했습니다. 새 모델 gemini-decision-1이 문맥 하나에 붙은 질문 최대 1,000개를 한 번에 채점합니다. 답변 문장을 만들지 않고 선택지의 확률과 신뢰도만 돌려주는 분류·라우팅 전용 엔드포인트입니다.

값이 이 API의 핵심입니다. 입력 100만 토큰에 0.1달러, 출력 토큰은 과금하지 않습니다. 같은 벤치마크 묶음에서 Gemini 3.5 Flash-Lite를 Interactions API로 부를 때보다 약 5분의 1입니다.

판단이 필요한 자리에 분류기를 따로 학습하던 팀에는 대체재가 생긴 셈입니다. 반대로 문장을 써야 하는 일에는 쓸 수 없습니다. 선택지 밖으로 나가지 않는 모델이기 때문입니다.

제미나이 판단 API, 질문 1,000개를 한 번의 순전파로

입력은 텍스트·이미지·오디오·영상·PDF를 한 덩어리로 묶어 최대 256K 토큰까지 넣습니다. 통화 녹음과 계정 메타데이터, 스캔한 청구서 PDF와 피해 사진을 같이 넣는 식입니다.

구글 벤치마크에서 Gemini Decision 1은 에이전트 라우팅·추론·순위 평가·멀티모달 이해 전반에서 가장 높은 성능과 가장 낮은 보정 오차를 기록했습니다. 확률을 내는 모델은 정답률만큼 확률이 실제 빈도와 맞는지가 중요합니다.

지연시간은 16K 토큰 문맥에서 모델 연산 중앙값 50~100ms, 종단 간 150~250ms입니다. 요청당 질문이 1개에서 100개로 늘어도 거의 그대로 유지됩니다. 토큰을 하나씩 생성하지 않고 후보를 한 번의 순전파로 채점하기 때문입니다.

이미지와 영상은 해상도를 조절해 시각적 세부 수준과 토큰 비용을 바꿀 수 있습니다. 같은 입력을 여러 질문이 공유하는 구조라 입력 비용이 질문 수만큼 늘지 않습니다.

출력 토큰은 무료, 100만 토큰 0.1달러

과금은 요청당 공유 입력을 한 번만 셉니다. 질문마다 추가되는 것은 그 질문의 지시문과 평가 기준 토큰뿐입니다. 오디오 전사와 OCR 별도 요금도, 사고 토큰 요금도 없습니다.

질문 1,000개를 붙여도 공유 입력에 대한 과금은 요청당 한 번입니다. 판단 항목이 많아질수록 질문당 단가가 떨어지는 구조라, 규칙 검사처럼 항목이 잦은 작업에 유리합니다.

구글 AI 스튜디오에서 무료 등급으로 먼저 재볼 수 있습니다. 파이썬·자바스크립트·REST 가이드가 나왔고, google-genai SDK와 OpenRouter·LangChain·Vercel·LiteLLM·Pydantic AI·Pipecat·LiveKit·OpenCode 통합을 제공합니다. Google Cloud 지원은 추후 예정입니다.

예/아니오·객관식·점수를 한 요청에 섞는다

질문 유형은 세 가지이고, 한 요청 안에서 섞어 쓸 수 있습니다. 모든 답에는 0~1 신뢰도가 붙어서, 애매한 건만 폴백 경로나 사람 검토로 넘기는 코드를 짤 수 있습니다.

입력 형식은 Interactions API와 같은 Content 블록입니다. 기존 호출부를 크게 고치지 않고 붙일 수 있다는 뜻입니다. 공식 예제는 휴게실 카운터 사진과 메모를 함께 넣고, 액체가 쏟아졌는지·다음 행동은 무엇인지·심각도는 몇 점인지를 한 요청에서 묻습니다.

선택지가 2개에서 255개까지라는 범위도 실무에 걸립니다. 사내 규정 위반 유형 40개, 라벨 200개 같은 분류를 별도 모델 없이 후보 목록만 넣어 처리할 수 있습니다. 후보가 늘면 질문 지시문 토큰도 함께 늘어납니다.

구글 내부에서는 라우터와 안전 계층으로 쓴다

Gemini Notebook은 이 API를 실시간 라우터로 씁니다. 밀리초 단위로 의도를 분류해 일상 질의 지연시간을 최대 40% 줄이고, 복잡한 작업만 깊은 추론 모델로 보냅니다.

Stitch의 rapid canvas 실험은 제품 흐름을 수초 안에 조작 가능한 와이어프레임으로 만들고, 음성이나 탭으로 요청한 수정을 거의 즉시 반영합니다. Google Labs의 CC는 200개가 넘는 후보 중 이모지를 1초 미만에 고릅니다.

구글 검색은 MCP 도구의 안전 계층에 이 API를 씁니다. 적대적 평가에서 허용된 지연시간 안에 적대적 동작과 콘텐츠를 걸러내는 용도입니다. 생성형 호출을 기다리지 않고 판단만 붙이는 구조입니다.

지금 붙일 사람과 기다릴 사람

에이전트 라우팅, 정책 검사, 콘텐츠 등급처럼 정답 후보가 이미 정해진 판단이 병목인 팀은 지금 시험할 만합니다. 무료 등급이 열려 있고 문서도 파이썬·자바스크립트·REST로 나왔습니다.

해커뉴스 댓글에서는 벤치마크에서 모델 간 성능 차이가 크지 않다는 지적도 나옵니다. 판단 기준을 프롬프트로 정의하는 방식이라, 기준 자체가 틀리면 확률만 정교하게 틀립니다. 기준을 만드는 일은 여전히 사람 몫입니다.

문장 생성·요약·대화가 목적이면 기존 모델을 그대로 쓰는 게 맞습니다. 이 엔드포인트는 선택지 안에서만 답합니다. 토큰을 세어 문장을 만드는 모델과 역할이 겹치지 않아, 같은 서비스 안에서 두 API를 나눠 쓰는 구성이 자연스럽습니다.

고르는 기준은 하나입니다. 분류기를 학습하던 자리면 제미나이 판단 API, 답변을 써야 하는 자리면 기존 모델입니다.

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.