Netflix Titus suma modo single-tenant: una tarea por instancia EC2
Por JP Software ·
JP Software Netflix añadió single-tenant Titus, un modo de su plataforma de contenedores que corre una sola tarea en su propia instancia EC2 del tamaño justo. El equipo Compute/Platform sigue siendo dueño del host y lo parchea, así que los equipos de aplicación conservan la misma API y la misma ruta de despliegue. Aplica a cargas con estado y alto flujo.
Datos clave
- Titus lanza millones de contenedores por semana en decenas de miles de instancias EC2, según Netflix.
- Una instancia nueva necesita decenas de segundos para arrancar antes de empezar a bajar la imagen.
- El overhead fijo de sidecars y servicios del sistema puede costar a una instancia pequeña decenas de por ciento de sus recursos, y a las más grandes solo un par de por ciento, según Netflix.
Por qué Netflix separó las tareas
Titus es multi-tenant por defecto. Netflix explica que cgroups, seccomp, el controlador iocost y el traffic shaping no pueden dividir recursos de hardware compartido como la caché de último nivel y el ancho de banda de memoria. Además, su traffic shaper HTB toma un candado global: un contenedor que inunde el host con paquetes pequeños puede consumir CPU del kernel y dejar sin recursos a sus vecinos.
El pinning predictivo de CPU y la detección con eBPF ayudaron, pero Netflix concluyó que afinar un kernel compartido reduce la brecha sin cerrarla. Para cargas de streaming con estado, la interferencia de un vecino puede significar minutos de recuperación de checkpoints.
Alternativas que Netflix descartó
- MicroVMs como Firecracker y Kata requieren bare metal o virtualización anidada, que no estaba lista en sus tipos de instancia, además de capa de hipervisor, sobrecosto y falta de soporte de GPU.
- gVisor añadía sobrecosto en rutas con mucho I/O, y un solo proveedor hace casi todo su mantenimiento.
- Correr contenedores directo en EC2 devolvería el parcheo y el dimensionamiento de la flota a los equipos de aplicación.
Netflix sostiene que estas cargas necesitan aislamiento de rendimiento, no defensa contra inquilinos hostiles.
Cómo funciona en Titus
Una allowlist mantenida por Compute/Platform controla la elegibilidad y qué familias de instancia puede usar una tarea. El autoscaler lanza la instancia más pequeña que cubra la CPU, memoria y GPU pedidas. Pod anti-affinity, una clase de prioridad no expulsable y un taint de nodo aseguran una tarea por nodo. Netflix desactiva la desfragmentación para que nada mueva la tarea.
Los primeros usuarios son Apache Flink administrado, conectores de datos en streaming y pipelines de telemetría y logs, además de algunos servicios GraphQL y de borde sensibles a latencia.
El costo: latencia de arranque
Los warm pools rinden menos que en la flota compartida, porque el right-sizing produce muchas formas de instancia. Netflix mantiene un warm pool pequeño y limita los tamaños disponibles. Descartó instancias metal para estos pools. Los arreglos de largo plazo son lazy image pulling (stargz, SOCI) y restauración con CRIU.
Por qué te importa
Si administras una plataforma Kubernetes compartida, puedes copiar el patrón: node pools dedicados con taints, anti-affinity y reempaquetado apagado. Netflix lo recomienda para cargas grandes, de larga duración, sensibles a interrupciones y con tamaño cercano a un nodo, no para servicios pequeños o con ráfagas.
Mi lectura: úsalo como excepción, con una lista de elegibilidad, y mide primero cuánto te cuesta hoy el vecino ruidoso.