Opera presenta WebAI para ejecutar modelos de IA localmente en el navegador
Por JP Software ·
JP Software Opera presentó un nuevo estándar web llamado WebAI, diseñado para ejecutar modelos de inteligencia artificial directamente en el navegador del usuario sin depender de servicios en la nube. La función ya se encuentra disponible como vista previa experimental en su navegador insignia Opera One y requiere activación voluntaria por parte del usuario.
Datos clave
- WebAI funciona con modelos de pesos abiertos como Gemma de Google, según Opera.
- En equipos Mac, la herramienta tiene soporte para el modelo de base en dispositivo desarrollado por Apple, según Opera.
- La función llegará próximamente a los navegadores Opera GX y Opera Neon, según la compañía.
- Permite generar texto, clasificar contenido y relacionar información dentro del navegador sin pagar por cada petición, según Opera.
Inferencia local en el navegador
WebAI busca desacoplar las funciones inteligentes de las APIs de nube convencionales. Al apoyarse en modelos de pesos abiertos, los desarrolladores pueden integrar capacidades de procesamiento de lenguaje natural en páginas web sin necesidad de levantar servidores dedicados ni pagar suscripciones por uso de tokens.
El estándar permite procesar la información en la máquina del usuario, lo que evita que los datos personales salgan hacia centros de datos externos. De acuerdo con Opera, esto entrega mayor control sobre la privacidad de la información procesada.
No obstante, la ejecución local traslada la exigencia de cómputo al hardware del cliente. El rendimiento de las tareas dependerá de la potencia del procesador, la tarjeta gráfica y la memoria disponible en cada computadora.
Por qué te importa
Si construyes software web, la inferencia local abre la puerta a funciones inteligentes sin costo operativo por consulta. Eliminar la factura recurrente de APIs en la nube facilita experimentar con funciones de IA en proyectos pequeños o productos donde el margen por usuario no justifica el costo de un servidor centralizado.
Al mismo tiempo, exige adaptar la experiencia técnica: una aplicación basada en WebAI no responderá con la misma velocidad en todas las máquinas. Diseñar para inferencia en cliente demandará contemplar caídas de rendimiento en equipos con hardware básico y gestionar la descarga de modelos sin degradar la navegación.