카카오, 3B 의사결정 모델 카나나-2-v-디사이드 공개... 판단 응답 0.04초

카카오가 AI 에이전트의 판단을 맡는 멀티모달 모델 카나나-2-v-디사이드를 허깅페이스에 오픈소스로 공개했습니다. H200 GPU 한 장 기준 평균 응답 속도가 0.04초 이내로, 회사가 비교한 GPT-6 루나보다 43배 빠르다는 설명입니다. 자체 평가와 공개 데이터셋에서 마이크로소프트 디시전-1, 타입세이프 AI 제브, 업스테이지 솔라 디사이드보다 높은 점수를 냈다고 밝혔습니다.

의사결정 모델은 문장을 만들지 않습니다. 확률과 선택, 점수처럼 규격화된 형태로 판단 결과만 내놓습니다. 에이전트가 다음에 무엇을 할지 정하는 단계만 떼어 전용 모델로 돌리는 방식입니다. 타입세이프 AI의 제브, 업스테이지의 솔라 디사이드에 이어 카카오도 이 범주에 들어왔습니다.

3B 멀티모달 위에 판단을 얹었다

카나나-2-v-디사이드는 카카오의 멀티모달 언어모델 카나나-2-v-3b를 기반으로 개발됐습니다. 텍스트와 이미지를 함께 이해하므로 고객 문의 분류, 에이전트 도구 선택, 상품 이미지 판단에 적용할 수 있습니다.

문의 분류, 도구 선택, 상품 이미지 판단은 모두 정해진 선택지 중 하나를 고르는 일입니다. 생성 모델에 맡기면 같은 입력에도 표현이 달라질 수 있지만 의사결정 모델은 같은 입력에 같은 형식의 값을 돌려줍니다. 결과를 코드로 바로 받아 다음 단계에 넘길 수 있다는 점이 다릅니다.

사진과 문장이 함께 들어오는 문의를 한 번에 처리하는 것이 이 모델이 내세우는 쓰임입니다.

적용 대상으로 제시된 것은 고객 문의 분류, 에이전트 도구 선택, 상품 이미지 판단입니다. 세 가지 모두 정답이 하나로 떨어지는 작업입니다. 가중치는 허깅페이스에서 받을 수 있습니다.

판단을 문장으로 받으면 그 문장을 다시 해석해야 합니다. 반면 확률과 선택지로 받으면 다음 단계로 넘기는 처리가 단순해집니다. 에이전트 구조에서 판단 계층을 따로 떼어내는 이유가 여기에 있습니다.

호출이 잦은 자리일수록 차이가 커집니다. 문의 한 건을 처리할 때 분류와 도구 선택이 여러 번 붙으면 판단 한 번의 지연이 전체 응답 시간에 그대로 쌓입니다.

H200 한 장에 0.04초, 43배의 조건

회사가 밝힌 값은 H200 GPU 한 장에서 평균 응답 0.04초 이내입니다. 회사가 밝힌 비교로는 GPT-6 루나 대비 43배 빠릅니다. 기반 모델이 3B라는 점을 함께 봐야 합니다.

기반 모델이 3B라는 것은 판단에 필요한 연산이 작다는 뜻입니다. 대화형 모델을 그대로 불러 판단을 시키는 방식과 비교하면 연산 부담이 작아 상대적으로 유리할 수 있습니다.

판단 모델은 에이전트 흐름에서 여러 번 호출될 수 있습니다. 한 번의 지연이 작아야 전체 응답 시간이 누적되지 않습니다.

H200 한 장 기준이라는 조건도 함께 봐야 합니다.

비교 대상인 GPT-6 루나가 어떤 조건에서 측정됐는지도 기사에는 담기지 않았습니다. 43배는 회사가 밝힌 값입니다.

0.04초는 평균값입니다. 문의 길이와 이미지 유무에 따라 응답 시간은 달라질 수 있습니다.

한국어 1만 5,909문항으로 만든 자체 평가

카카오는 한국어 1만 5,909문항으로 구성된 자체 평가 데이터셋 카나나 디시전 벤치와 공개 데이터셋 디시전 인덱스를 썼습니다. 두 평가에서 마이크로소프트 디시전-1, 타입세이프 AI 제브, 업스테이지 솔라 디사이드 등 비교 모델 가운데 가장 높은 성능을 기록했다고 밝혔습니다.

디시전 인덱스는 공개 데이터셋이라 같은 조건으로 다시 재 볼 수 있습니다. 자체 벤치와 공개 벤치를 함께 내세운 이유도 여기에서 짐작할 수 있습니다.

한국어 문항으로 이뤄진 평가라는 점이 이 모델의 특징입니다. 기반 모델인 카나나-2-v-3b도 카카오가 만든 멀티모달 언어모델입니다.

평가 항목 수와 구성은 카카오가 공개한 자료를 기준으로 했습니다. 자체 벤치 데이터셋은 카카오가 직접 구축했습니다. 도입 전에는 같은 문의 데이터로 직접 값을 확인하는 편이 좋습니다.

자체 데이터셋과 공개 데이터셋을 함께 썼다는 점은 감안할 몫입니다. 한국어 문항으로 만든 평가에서 1위라는 결과는 국내 서비스 조건에서 유리하게 작용할 수 있지만, 다른 언어나 다른 도메인에서 같은 격차가 나오는지는 별도로 확인해야 합니다.

비교 대상으로는 마이크로소프트 디시전-1, 타입세이프 AI 제브, 업스테이지 솔라 디사이드 등이 제시됐습니다. 비교 대상은 회사가 예시로 든 모델들입니다.

상업 이용 가능한 카나나 오픈 라이선스

라이선스는 상업적 활용이 가능한 카나나 오픈 라이선스입니다. 카카오는 이 모델을 웹 검색과 상품 카테고리 분류 같은 내부 프로젝트에 먼저 적용한 뒤, 검색과 판단을 통합하는 방향으로 고도화할 계획이라고 밝혔습니다.

웹 검색과 상품 카테고리 분류는 카카오 서비스 안에서 판단이 반복되는 자리입니다. 내부 적용 결과가 공개되면 실제 정확도와 지연을 가늠할 수 있습니다.

가중치를 받아 추론 서버에 올린 뒤 기존 분류기와 결과를 비교해 교체를 검토할 수 있습니다.

가중치가 공개됐으므로 사내 서버에 직접 올려 쓸 수 있습니다. 고객 정보가 오가는 문의라면 외부 API 대신 직접 돌리는 선택지도 있습니다.

상업 서비스에 넣을 때는 조건을 원문에서 확인해야 합니다. 카카오가 만든 별도 라이선스라 아파치나 MIT와 조건이 같다고 가정하면 안 됩니다.

최동진 카카오 어플라이드 AI 모델 성과리더는 "앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공하겠다"고 말했습니다.

에이전트를 만드는 쪽에서 볼 것

첫째, 판단 결과를 확률로 받으면 임계값을 정하는 일이 남습니다. 둘째, 비교 대상이 회사가 고른 모델들이라는 범위를 기억해야 합니다. 셋째, 문의 분류와 도구 선택처럼 판단이 짧고 자주 일어나는 작업에서 먼저 효과를 재야 합니다.

임계값은 실제 데이터로 정해야 합니다. 확률이 애매한 구간을 사람에게 넘기는 규칙을 함께 설계하지 않으면, 판단이 틀렸을 때 멈출 지점이 없습니다.

판단 모델을 쓰면 에이전트가 다음 행동을 고르는 단계의 응답을 짧게 가져갈 수 있습니다. 한국어 문의 분류와 도구 선택을 붙이는 작업이라면 먼저 테스트해 볼 만한 후보입니다. 다만 43배라는 숫자는 H200 한 장, 특정 비교 모델, 회사 측정 조건에서 나온 값입니다.

카카오는 자체 벤치와 공개 벤치에서 비교 모델과의 결과를 함께 제시했습니다.

반대로 정확도가 최우선이고 지연이 문제되지 않는 작업이라면 전용 판단 모델을 붙일 이유가 적습니다.

원문 보기: 카카오, 의사결정 모델 카나나-2-v-디사이드 공개