구글이 '제미나이 결정 API(Gemini Decisions API)'와 이를 구동하는 신규 모델 제미나이 디시전 1(gemini-decision-1)을 공개했다. 이 API는 자유로운 문장을 토큰 단위로 생성하는 기존 대화형 모델과 결이 다르다. 예/아니오 판정, 선택지 중 고르기, 루브릭(채점 기준) 기반 점수 매기기처럼 답의 범위가 정해진 '닫힌 집합(closed-set)' 결정에 특화돼 있다. 하나의 멀티모달 입력에 대해 최대 1,000개의 독립적인 질문을 한 번의 연산으로 평가하고, 각 답에 0에서 1 사이의 확신도(confidence score)를 돌려준다. 구글 AI 스튜디오에서 API 키를 발급받아 파이썬, 자바스크립트, REST 가이드를 참고해 바로 사용할 수 있다.
생성이 아니라 채점이라는 발상
핵심은 작동 방식에 있다. 일반적인 대형 언어 모델은 답을 한 글자씩 순차적으로 '생성'하지만, 제미나이 디시전 1은 후보 선택지들에 대한 확률을 단일 순방향 연산(single forward pass)으로 '채점'한다. 토큰을 하나씩 디코딩하지 않기 때문에 모델 연산 자체는 중앙값 기준 50~100밀리초, 종단 간 지연은 150~250밀리초 수준에 그친다. 구글은 질문 수가 1개에서 100개로 늘어도 지연이 거의 평평하게 유지된다고 설명한다. 질문마다 긴 문장을 뽑아내지 않고 점수만 반환하는 구조이므로, 많은 판단을 한꺼번에 처리해야 하는 작업에서 특히 유리하다.
이런 특성은 곧바로 비용 구조로 이어진다. 가격은 입력 100만 토큰당 0.10달러이며 출력 토큰 요금은 0달러다. 공유 입력(shared input)은 질문이 몇 개든 요청당 한 번만 과금되고, 질문이 늘 때 추가되는 것은 해당 질문의 지시문과 기준 토큰뿐이다. 출력 토큰 과금, 가변적인 사고(thinking) 토큰 비용, 별도의 오디오 전사·OCR 비용이 없다는 점을 구글은 강조한다. 자사 벤치마크 모음 기준으로 인터랙션 API를 쓰는 제미나이 3.5 플래시-라이트 대비 약 5배 저렴하다는 수치도 함께 제시됐다.
멀티모달 입력을 하나로 묶어 판단
제미나이의 네이티브 멀티모달 구조를 기반으로 하는 만큼, 텍스트·이미지·오디오·비디오·PDF를 단일 입력으로 직접 처리한다. 최대 256K 토큰까지 하나의 입력에 담을 수 있고, 통화 녹음과 계정 메타데이터, 혹은 스캔한 PDF 청구서와 손상 사진을 한 입력에 함께 넣는 식으로 여러 모달리티를 섞을 수 있다. 이미지와 비디오는 해상도를 조절해 시각적 세부 수준과 토큰 비용을 통제할 수 있다. 하나의 공유 입력에 대해 예/아니오, 객관식, 루브릭 점수를 섞어 평가하는 것이 가능하다는 점이 설계의 중심이다.
확신도 값은 실무에서 가장 직접적으로 쓸 수 있는 부분이다. 각 답이 0~1 점수를 함께 반환하므로, 애매한 사례를 폴백 경로나 사람 검토자에게 넘기는 분기를 코드로 짜기 쉽다. 구글은 벤치마크에서 제미나이 디시전 1이 에이전트 라우팅, 추론, 랭킹, 멀티모달 이해 전반을 선도하며 교정 오차(calibration error)가 가장 낮았다고 밝혔다. 교정 오차가 낮다는 것은 모델이 내놓는 확신도 숫자가 실제 정답률과 잘 맞아떨어진다는 의미로, 임계값 기반 자동 분기를 설계할 때 신뢰도가 중요한 지표다.
분류기 없는 제어 평면
용도 측면에서 이 API는 도구 선택, 정책 점검, 모델 라우팅, 컨텍스트 채점 같은 '경계가 분명한 선택'을 위한 기본 구성요소로 제시된다. 구글 내부 여러 팀이 이미 저지연 제어 평면(control plane)으로 활용 중이며, 맞춤형 분류기를 따로 학습시키거나 생성형 호출을 기다리지 않고 선택지만 정의해 기능을 출시하고 있다고 한다. 디자인 흐름을 수초 만에 구성하는 스티치 래피드(Stitch Rapid) 사례도 소개됐다. 입력 필드는 인터랙션 API와 동일한 콘텐츠 블록 형식을 쓰므로 기존 파이프라인에 얹기도 수월하다. 생태계 측면에서는 오픈라우터, 랭체인, 버셀, LiteLLM, 파이댄틱 AI, 파이프캣, 라이브킷, 오픈코드 등과의 연동이 순차 적용되고, 구글 클라우드의 제미나이 지원도 예고됐다.
다만 실무에서 받아들일 때는 범위를 분명히 해야 한다. 이 모델은 설명을 생성하지 않고 정해진 선택지에 점수를 매기는 데 특화돼 있어, 근거 서술이나 자유 형식 응답이 필요한 작업에는 맞지 않는다. 즉 분류·라우팅·판정 레이어를 대체하거나 보강하는 도구이지 대화형 모델의 대체재가 아니다. 또한 제시된 지연·비용·정확도 수치는 모두 구글 자체 벤치마크에 근거한 것이므로, 실제 트래픽과 데이터 분포에서의 교정 품질과 임계값 전략은 각 팀이 직접 검증해야 한다. 분류기 학습과 운영 부담을 선택지 정의로 치환할 수 있다는 점은 분명한 매력이지만, 결정 로직을 외부 API에 의존하는 데 따른 비용·종속성도 함께 저울질할 필요가 있다.