"이 문의는 환불팀으로 보낼까, 배송팀으로 보낼까?" 같은 판단에 큰 모델을 부르면 느리고 비쌉니다. 그래서 요즘 에이전트 설계에서는 이런 결정을 판단 전용 API로 떼어 냅니다. 10월에 OpenAI가 Decisions API를 정식 출시했고, 구글이 11월 11일(현지) 같은 성격의 Gemini Decisions API를 내놨습니다.
Gemini Decisions API 가격·사용법|질문 1,000개 한 번에 판단, OpenAI 판과 무엇을 고를까
목차 (8)
입력 단가는 둘이 같습니다. 차이는 다른 곳에 있어요. 11월 12일 구글 공식 블로그를 기준으로, 이미 OpenAI 판을 써 본 개발자가 무엇을 비교하면 되는지 정리했습니다.
✅ 이 글에서 얻을 수 있는 것
1. Gemini Decision 1의 질문 유형 3가지와 가격 구조
2. OpenAI Decisions API와 차이 비교표
3. 고객 문의 분류에 붙이는 파이썬 예제 형태
생성하지 않고 '점수만 매기는' 모델
Gemini Decision 1(gemini-decision-1)은 답을 한 글자씩 만들지 않습니다. 선택지를 한 번의 연산으로 평가해 확률과 신뢰도 점수를 돌려줘요.
| 항목 | 내용 |
|---|---|
| 모델 | gemini-decision-1 (구글 AI 스튜디오, 제미나이 API) |
| 입력 | 텍스트, 이미지, 음성, 영상, PDF를 한 요청에 섞어서. 최대 256K 토큰 |
| 질문 수 | 요청당 최대 1,000개 (서로 독립) |
| 속도 | 모델 연산 중앙값 50~100ms, 요청부터 응답까지 150~250ms (16K 토큰·질문 100개 기준) |
| 가격 | 입력 100만 토큰당 0.10달러, 출력 0달러 |
| 무료 | 구글 AI 스튜디오 프로토타입용 무료 등급 |
질문이 1개든 100개든 지연 시간이 거의 일정하다는 게 구글 설명입니다. 같은 입력에 여러 질문을 묶을수록 이득이 커지는 구조죠.
질문 유형 3가지
| 유형 | 이럴 때 | 돌려주는 값 |
|---|---|---|
noul (예/아니오) |
사진에 파손이 있나, 정책 위반인가 | 조건이 참일 확률 |
choice (객관식) |
문의를 어느 팀으로, 어떤 도구를 쓸까 | 선택된 보기 + 보기별 확률 (보기 2~255개) |
score (순서형 기준) |
심각도는 몇 단계인가 | 확률 가중 점수 + 단계별 확률 (0단계부터) |
이름이 OpenAI와 조금 다릅니다. OpenAI의 predicate에 해당하는 게 구글은 noul이에요. 기존 코드를 옮길 때 이 부분부터 바꿔야 합니다.
모든 답에 0~1 신뢰도가 붙습니다. 신뢰도가 낮은 건은 큰 모델이나 사람 검토로 넘기는 분기를 코드에 넣어 두면 됩니다.
OpenAI Decisions API와 무엇이 다른가
같은 블로그에 정리해 둔 OpenAI Decisions API 글 기준으로 나란히 놓았습니다.
| 비교 | Gemini Decisions API | OpenAI Decisions API |
|---|---|---|
| 모델 | gemini-decision-1 | gpt-6-luna |
| 입력 단가 | 100만 토큰당 0.10달러 | 100만 토큰당 0.10달러 |
| 캐시 입력 | 발표에 별도 단가 없음 | 100만 토큰당 0.01달러 |
| 출력 | 0달러 | 0달러 |
| 요청당 질문 | 최대 1,000개 | 최대 400개 |
| 입력 종류 | 텍스트·이미지·음성·영상·PDF | 텍스트·이미지·JSON·대화 기록 |
| 객관식 보기 | 2~255개 | 공식 문서 확인 |
| 보정 오차(ECE) | 0.0250 (구글 발표) | 0.0721 (구글 발표 비교치) |

고르는 기준을 단순하게 잡으면 이렇습니다.
- 통화 녹음, 스캔 PDF, 영상을 그대로 판단해야 한다 → 구글. 음성 전사나 OCR 비용이 따로 붙지 않는다고 밝혔습니다.
- 긴 공통 지시문을 계속 재사용하고 JSON을 바로 넣고 싶다 → OpenAI의 캐시 단가가 유리할 수 있습니다.
- 이미 한쪽 생태계에 묶여 있다면 굳이 옮길 이유는 작습니다. 입력 단가가 같으니까요.
캐시 입력 단가는 구글 발표문을 직접 확인해 보니 따로 나와 있지 않습니다. 보정 오차도 구글이 자체 비교로 낸 수치입니다. 확률을 그대로 임계값으로 쓸 계획이라면 내 데이터 200~300건으로 직접 맞춰 보는 게 안전합니다.
파이썬 예제: 고객 문의 분류
구글 공식 예제(휴게실 사진 점검)의 형식을 그대로 따라, 텍스트 문의 하나에 질문 두 개를 붙인 형태입니다.
from google import genai
client = genai.Client(http_options={"api_version": "v1beta"})
result = client.decisions.create(
model="gemini-decision-1",
input=[
{"type": "text", "text": "어제 받은 상품 상자가 찢어져 있고 안에 든 컵 하나가 깨졌어요. 교환되나요?"},
],
questions={
"team": {
"type": "choice",
"instructions": "이 문의를 처리할 팀을 고르세요.",
"criteria": {
"refund": "환불·교환 요청",
"delivery": "배송 지연·위치 문의",
"account": "로그인·회원 정보 문제",
},
},
"needs_photo": {
"type": "noul",
"instructions": "파손 확인을 위해 고객에게 사진을 요청해야 하나요?",
},
},
)
print(result)
응답에서 확률과 신뢰도를 꺼내는 필드 이름은 공식 문서(Decisions API 파이썬 가이드)를 확인하고 맞추세요. 입력에 고객이 보낸 파손 사진을 함께 넣으면 noul 질문 하나로 "실제 파손이 보이는가"까지 같이 판단할 수 있습니다.
비용 감각 잡기
문의 1건 평균 500토큰, 하루 1만 건이면 입력은 500만 토큰입니다.
- 500만 × 0.10달러 / 100만 = 하루 약 0.5달러, 30일이면 약 15달러.
- 질문을 2개에서 10개로 늘려도 문의 본문은 한 번만 과금됩니다. 늘어나는 건 질문 지시문과 보기 토큰뿐이에요.
구글은 같은 벤치마크 묶음 기준으로 제미나이 3.5 플래시 라이트를 Interactions API로 쓰는 것보다 약 5배 저렴하다고 밝혔습니다.
구글은 어디에 쓰고 있나
발표에 나온 내부 사례 중 실무에 바로 옮길 만한 건 두 가지입니다.
- 제미나이 노트북 모델 라우팅: 들어오는 질문을 밀리초 단위로 분류해 쉬운 질문은 가벼운 모델로, 어려운 질문만 깊은 추론 모델로 보냅니다. 일상 질문 응답 지연이 최대 40% 줄었다고 해요.
- 구글 검색의 MCP 도구 안전장치: MCP 도구를 노린 악의적 요청과 콘텐츠를 지연 시간 안에서 걸러냅니다.
1번은 작업당 비용으로 에이전트 비용 줄이기에서 다룬 '값싼 분류기 라우팅'과 같은 발상입니다. 그 글의 실험에서 정규식·길이 기반 라우터가 실패했던 지점을 이런 판단 API로 메울 수 있습니다.

맺음말
- Gemini Decisions API는 출력 없이 점수만 내는 판단 전용 API로, 입력 100만 토큰당 0.10달러입니다.
- OpenAI 판과 단가는 같고, 음성·영상·PDF 입력과 질문 1,000개가 구글 쪽 강점입니다.
- 확률을 그대로 믿기 전에 내 데이터로 임계값을 맞추는 단계를 꼭 넣으세요.
공식 자료
- Gemini Decisions API: Fast, calibrated multimodal decisions (구글 공식 블로그, 2026-11-11)
- 구글, 판단 전용 AI '제미나이 디시전 1' 출시 (AI타임스, 2026-11-12)
👉 다음에 읽을 글
- OpenAI Decisions API 사용법 — predicate·choice·score 예제와 캐시 비용 계산
- AI 에이전트 비용 줄이기 — 분류기 라우팅을 어디에 붙일지
자주 묻는 질문
- Gemini Decisions API는 일반 제미나이 API와 무엇이 다른가요?
- 답변 문장을 토큰 단위로 생성하지 않고, 미리 정해 둔 선택지에 점수를 매겨 확률과 신뢰도(0~1)를 돌려줍니다. 그래서 출력 토큰 요금이 없고 응답이 150~250ms로 빠릅니다. 도구 선택, 모델 라우팅, 정책 검사처럼 답이 정해진 판단에 씁니다.
- 가격은 얼마인가요?
- 입력 100만 토큰당 0.10달러, 출력 0달러입니다. 하나의 입력에 질문을 여러 개 붙여도 입력은 한 번만 과금되고, 질문마다 지시문과 기준 토큰만 더해집니다. 구글 AI 스튜디오에서 프로토타입용 무료 등급도 쓸 수 있습니다.
- OpenAI Decisions API와 무엇이 다른가요?
- 입력 단가는 100만 토큰당 0.10달러로 같습니다. 구글 쪽은 요청당 질문 1,000개(OpenAI 400개), 음성·영상·PDF 입력, 객관식 보기 최대 255개가 특징이고, OpenAI 쪽은 JSON 입력, 캐시 입력 할인(100만 토큰당 0.01달러), 미국·EU 데이터 처리 옵션이 있습니다.
- 어떤 언어로 쓸 수 있나요?
- 파이썬, 자바스크립트, REST 가이드가 공식 문서에 있고 google-genai SDK에서 client.decisions.create 로 호출합니다. OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI 등 연동도 순차 제공됩니다.