텍스트·이미지 함께 분석하는 'Kanana-2-v-decide'...상업적 활용 허용
자체 측정서 평균 응답 0.04초 이내...웹 검색·상품 분류에 우선 적용
카카오가 텍스트와 이미지를 분석해 확률·선택지·점수로 답하는 AI 모델 'Kanana-2-v-decide'를 공개했다. 문장을 생성하는 대신 다음 작업에 필요한 판단 결과를 숫자 등 정해진 형식으로 제공한다. 고객 문의를 분류하거나 AI 에이전트가 사용할 도구를 고르는 데 활용할 수 있다.
6일 카카오는 AI 모델 공유 플랫폼 허깅페이스에 이 모델을 오픈소스로 공개했다고 밝혔다. 자체 멀티모달 언어모델 'Kanana-2-v-3b'를 바탕으로 개발했으며, 연구와 상업적 활용이 가능한 '카나나 오픈 라이선스'를 적용했다.
AI 에이전트가 이용자의 요청을 처리하려면 어떤 정보를 참고하고 어떤 도구를 쓸지 여러 차례 결정해야 한다. 문장으로 답을 받으면 서비스가 그 안에서 필요한 결론을 다시 추출해야 하지만, 의사결정 모델은 판단 결과를 정해진 형식으로 반환해 후속 작업에 바로 연결할 수 있도록 한다.
이 모델의 출력 방식은 세 가지다. 특정 조건이 참일 확률을 제시하거나, 여러 선택지의 확률을 계산해 가장 적합한 항목을 고른다. 평가 단계별 확률을 반영한 점수를 제공하는 방식도 지원한다.
가령 고객이 파손된 상품 사진을 보내며 교환을 요청하면 사진과 문의 내용을 함께 분석한다. 파손 여부, 문의 유형, 고객의 감정 상태 등을 확률이나 점수로 제시하고, 서비스는 이를 사전에 정한 처리 기준과 결합해 상담 채널로 연결하거나 교환 절차를 안내할 수 있다.
반복 요청에 드는 연산을 줄이는 구조도 적용했다. 질문과 선택지를 숫자의 묶음인 '벡터'로 바꿔 유사도를 비교한다. 같은 선택지의 벡터는 저장해 다시 사용할 수 있어 매번 계산하는 부담을 줄일 수 있다는 설명이다.
카카오에 따르면 H200 GPU 1장을 사용한 측정에서 평균 응답 시간은 0.04초 이내였다. 회사는 GPT-6 Luna와 비교해 약 43배 빠른 속도를 기록했다고 밝혔다. 다만 배포 자료에는 비교 모델의 실행 환경과 입력 길이 등 세부 측정 조건이 제시되지 않았다.
판단 성능은 한국어 1만5909문항으로 구성한 자체 평가셋 'Kanana Decision Bench'와 공개 평가셋 'Decision Index'로 측정했다. 카카오는 두 평가에서 비교 대상 모델 가운데 가장 높은 성능을 기록했다고 설명했다. 비교 대상에는 마이크로소프트의 'Decision-1', 타입세이프 AI의 '제브', 퍼플렉시티의 'pplx-decider-v1.1-27B', 업스테이지의 'Solar Decide' 등이 포함됐다.
최동진 카카오 어플라이드 AI 모델 성과리더는 "앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공해 나가겠다"고 말했다.
카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 모델을 우선 적용할 계획이다. 실제 서비스에서 성능을 개선한 뒤 검색과 판단을 하나의 모델로 통합하는 방향으로 개발을 이어갈 예정이다.