Deep Insight implementa cuatro capas de context engineering para agentes de IA
Por JP Software ·
JP Software Deep Insight, una solución de código abierto para análisis de datos construida sobre Strands Agents SDK y Amazon Bedrock AgentCore, presentó una arquitectura de cuatro capas de context engineering para agentes de inteligencia artificial en producción. El marco busca resolver el agotamiento de ventanas de contexto durante tareas prolongadas que combinan análisis de datos y generación de reportes.
Datos clave
- Una herramienta combinada de escritura y ejecución recorta cerca del 95% de los tokens añadidos al contexto por script, según Deep Insight.
- La carga dinámica de habilidades reduce el tamaño del prompt del sistema cerca de un 97%, bajando de más de 20,000 tokens a un catálogo inicial de aproximadamente 500 tokens, según Deep Insight.
- Tareas típicas de análisis de datos que integran exploración, gráficos y reportes consumen más de 150K tokens en apenas 15 minutos en modelos con ventanas de 200K, según Deep Insight.
- Cada agente especializado opera en contextos acotados: el agente programador se mantiene por debajo de los 25K tokens en total, según Deep Insight.
Las cuatro capas de context engineering
El crecimiento desmedido del contexto genera degradación de atención y eleva los costos en modelos de lenguaje comerciales. Deep Insight estructura la mitigación en cuatro capas técnicas:
- Aislamiento en la arquitectura: En lugar de un solo agente acumulando historial, el sistema divide responsabilidades entre un supervisor y agentes especializados (Coder, Validator, Reporter, Tracker y Auditor). Cada uno opera en su propia ventana y comparte únicamente resúmenes comprimidos mediante un estado común reducido (
shared_state). - Control mediante prompts: Se asignan presupuestos estrictos de tokens de salida a cada agente (por ejemplo, entre 1,000 y 1,500 para el Coder, y 800 para el Validator). Además, se impone código autocontenido: ningún script depende de variables en memoria de pasos anteriores, lo que permite descartar código previo del contexto.
- Externalización al sistema de archivos: Los datos pesados y scripts no viajan en los mensajes del chat. La herramienta
write_and_execute_toolguarda el script en disco, lo ejecuta y devuelve únicamente un resumen al contexto. Archivos estructurados comoall_results.txtycalculation_metadata.jsonactúan como bus de comunicación fuera de la ventana del modelo. - Verificación independiente y salvaguardas: Agentes especializados validan la calidad sin inflar el contexto principal. El agente Validator reejecuta los cálculos numéricos de forma independiente contra los datos fuente, mientras que el Auditor revisa el reporte final contra los metadatos verificados.
Por qué te importa
Construir agentes que realmente funcionen en producción exige tratar la ventana de contexto como un recurso escaso y costoso. Confiar en que una ventana de 200K tokens absorberá ejecuciones largas suele terminar en alucinaciones o fallos de ejecución. Adoptar el patrón de dejar los datos en el sistema de archivos y pasar solo punteros y resúmenes permite crear flujos multiagente estables, predecibles y con costos controlados.