Todas las noticias
Técnica

Nous Research lanza Arete-27B tras ajustar Qwen3.8-27B con 53 millones de tokens

Por JP Software ·

JP Software
Ilustración de la nota: Nous Research lanza Arete-27B tras ajustar Qwen3.8-27B con 53 millones de tokens
JP Software

Nous Research presentó Arete-27B, un modelo de pesos abiertos derivado de Qwen3.8-27B de Alibaba. El equipo aplicó un ajuste fino con el objetivo de retirar los sesgos políticos y las respuestas evasivas impuestas durante el entrenamiento original, logrando reducir la tasa de respuestas alineadas del 22 por ciento a menos del uno por ciento sin degradar el rendimiento técnico general.

Datos clave

  • Nous Research entrenó el modelo con 53 millones de tokens de ajuste fino supervisado durante dos épocas, según el equipo de investigación.
  • La tasa de respuestas con propaganda cayó del 22 por ciento en Qwen3.8-27B al 0.9 por ciento en Arete-27B, según las evaluaciones de Nous Research.
  • La precisión factual subió de 2.32 a 2.98 sobre 5 en una prueba de 803 prompts evaluada con Grok 4.7 de xAI como juez, según Nous Research.
  • En la prueba interna Hermes Bench, Arete-27B obtuvo 65.60 por ciento frente al 65.77 por ciento del modelo base, según Nous Research.
  • Los pesos, el conjunto de prueba y los datos de entrenamiento se publicaron bajo la licencia Apache 2.0 en Hugging Face, según la empresa.

El método de ajuste sobre Qwen3.8-27B

Para evaluar los cambios, Nous Research diseñó una batería de 803 instrucciones distribuidas en siete categorías, entre ellas libertad de expresión, vigilancia y democracia. Cada caso contaba con hechos verificados tomados de fuentes fechadas, mientras que Grok 4.7 actuó como juez ciego para contrastar si las salidas omitían o contradecían esos datos.

El equipo eligió Inkling, de Thinking Machines Lab, como modelo maestro para generar datos sintéticos sin infringir términos de servicio. El ajuste se realizó mediante supervisión directa en dos épocas, sin etapas de aprendizaje por refuerzo. De acuerdo con los investigadores, la mayor diferencia apareció en la categoría de libre expresión, donde la tasa de respuestas alineadas bajó del 60 al uno por ciento.

Por qué te importa

Muchos equipos recurren a modelos abiertos como la familia Qwen por su alto rendimiento y bajo costo, pero se topan con negativas o sesgos al procesar ciertos temas sensibles. El experimento de Nous Research demuestra que estas restricciones no forman parte del núcleo de razonamiento del modelo, sino de una capa superficial que puede modificarse con un volumen relativamente pequeño de tokens bien curados y supervisados.

Comparte esta nota