Google Cloud lanza observabilidad para agentes de IA en BigQuery
Por JP Software ·
JP Software Google Cloud anunció nuevas capacidades de observabilidad, gobierno y evaluación para agentes de inteligencia artificial en Google Data Cloud. La actualización permite centralizar la telemetría tanto de agentes nativos en BigQuery y Looker como de agentes personalizados construidos con herramientas externas como LangGraph o Agent Development Kit (ADK), almacenando los datos directamente en tablas administradas por el usuario.
Datos clave
- Disponibilidad general (GA) para el registro de conversaciones y la API de Conversational Analytics en BigQuery, según Google Cloud.
- Integración mediante una sola línea de código en SDK para agentes de terceros desarrollados con LangGraph o ADK.
- Separación estricta entre métricas operativas (Cloud Monitoring y Cloud Trace) y el contenido de conversaciones para resguardar datos sensibles.
- Controles de costo activo mediante límites por consulta con
big_query_max_billed_bytesy cuotas diarias de tokens de entrada y salida (en preview). - Herramienta de código abierto Prism para evaluar y comparar la precisión de consultas SQL y respuestas antes del despliegue.
Telemetría centralizada y privacidad de datos
El nuevo marco de trabajo busca resolver la fricción de auditar agentes autónomos sin exponer datos privados de la empresa. Google separa las métricas operativas de volumen, latencia y consumo de tokens del contenido real de las conversaciones.
Cuando los equipos activan el registro detallado de conversaciones, un agente de servicio administrado envía las solicitudes, respuestas y metadatos a la tabla agent_events dentro del proyecto de BigQuery del cliente. Este flujo respeta permisos de IAM, llaves administradas por el cliente (CMEK) y VPC Service Controls. Además, incorpora salvaguardas de privacidad que omiten el registro automáticamente si la fuente de datos emplea seguridad a nivel de fila, etiquetas de políticas de columnas o enmascaramiento dinámico.
Para desarrolladores que trabajan con LangGraph o ADK, el plugin de código abierto BigQueryAgentAnalyticsPlugin permite capturar el árbol completo de ejecución de herramientas y enviar trazas directamente al almacén de datos sin construir tuberías de datos secundarias.
Control de costos y evaluación previa al despliegue
La gestión de costos de cómputo y consumo de modelos incluye paneles preconstruidos en BigQuery Studio y Looker System Activity. Los equipos pueden analizar el gasto de tokens por turno (entrada, salida, pensamiento y tokens en caché) y aplicar límites duros a las consultas mediante estimaciones en seco.
En la fase de pruebas, la herramienta de evaluación abierta Prism permite ejecutar baterías de pruebas automatizadas con aserciones sobre agentes conectados a tablas de BigQuery o modelos de Looker Explores. Los resultados de estas evaluaciones pueden guardarse directamente en tablas particionadas por día dentro de BigQuery para contrastar el rendimiento del modelo antes y después de modificar un esquema o una instrucción.
Por qué te importa
Mover agentes de IA a producción exige saber con exactitud cuánto cuesta cada llamada y por qué el modelo tomó cierta decisión. Integrar los registros de ejecución directo en BigQuery permite a los equipos de ingeniería y datos reutilizar sus consultas SQL habituales para detectar alucinaciones, rastrear fallas en herramientas y frenar costos desmedidos de tokens sin depender de plataformas externas de observabilidad.