Gemini Decisions API evalua decisiones multimodales en una pasada
Por JP Software ·
JP Software Google presentó la Gemini Decisions API, un nuevo endpoint impulsado por el modelo gemini-decision-1 disponible en Google AI Studio. La herramienta permite responder preguntas de opciones cerradas sobre entradas multimodales de hasta 256K tokens en una sola pasada, sin recurrir a la generación de texto tradicional.
Datos clave
- Admite hasta 1,000 preguntas independientes por solicitud sobre texto, audio, video, imágenes y archivos PDF, según Google DeepMind.
- Registra una latencia de cómputo del modelo de 50 a 100 ms y de 150 a 250 ms de extremo a extremo.
- Cuesta $0.10 por cada millón de tokens de entrada y $0 por tokens de salida.
- Soporta contextos de entrada de hasta 256K tokens y preguntas de opción múltiple de 2 a 255 alternativas.
Tres tipos de evaluación sin decodificación de texto
En lugar de redactar respuestas token por token, el modelo califica las opciones candidatas en un solo cálculo hacia adelante (forward pass). Esto permite evaluar hasta 100 preguntas por solicitud manteniendo la latencia casi plana en contextos de hasta 16K tokens.
La API estructura las decisiones en tres primitivas:
- noul (Sí/No): Estima la probabilidad de que una condición se cumpla, con criterios descriptivos opcionales para verdadero y falso.
- choice (Opción múltiple): Evalúa de 2 a 255 alternativas y devuelve la ganadora junto con las probabilidades normalizadas para cada opción.
- score (Rúbrica ordenada): Califica entradas en una escala que inicia en 0, entregando una puntuación continua ponderada y probabilidades por nivel.
Cada respuesta devuelve un valor de confianza entre 0 y 1 para facilitar el desvío de casos dudosos a revisión humana o rutas de contingencia.
Casos de uso y control de flujo
Dentro de la infraestructura de Google, distintas áreas integraron la API como capa de control. En Gemini Notebook funciona como enrutador en tiempo real para dirigir consultas al nivel de modelo óptimo, lo que reduce la latencia de solicitudes cotidianas hasta en un 40%.
Por su parte, el equipo de Google Search implementó el endpoint como capa de seguridad para herramientas MCP, detectando comportamientos y contenidos adversarios dentro de límites estrictos de tiempo.
Por qué te importa
Al construir flujos de agentes o clasificación de contenidos, utilizar modelos generativos completos para obtener un simple «sí» o seleccionar una herramienta suele ser lento y costoso. Este enfoque permite ejecutar filtros de seguridad, enrutamiento semántico y evaluación de contexto pagando únicamente por los tokens de entrada, eliminando costos por tokens de salida, transcripciones de audio u OCR independientes.