Martin Fowler advierte contra el uso de LLM para redactar borradores
Por JP Software ·
JP Software Martin Fowler advirtió en su sitio web personal sobre los riesgos de utilizar modelos de lenguaje grande (LLM) para generar borradores y redactar textos. Fowler explicó que recurrir a estas herramientas para crear prosa genera un valle inquietante en quien lee, provocando rechazo hacia el contenido.
El riesgo de delegar el primer borrador
Según Martin Fowler, apoyarse en un modelo para escribir un texto inicial es una trampa. El autor señaló que, incluso cuando un humano edita el resultado después, resulta extremadamente difícil eliminar esa «voz de LLM». Aunque mencionó casos excepcionales donde un borrador generado por inteligencia artificial quedó limpio de este tono, advirtió que requirió el trabajo de un editor profesional de una publicación importante para lograrlo.
Fowler acepta que usar estas herramientas para idear una estructura o un esquema general puede funcionar, pero insistió en que las palabras deben ser redactadas directamente por los autores. En su propio sitio, mantiene la regla de que cualquiera que use inteligencia artificial para apoyarse en un texto debe declarar explícitamente cómo la utilizó en los agradecimientos.
Escribir como herramienta de pensamiento
Para Fowler, redactar no es un simple ejercicio mecánico, sino una forma esencial de pensar. Explicó que suele comenzar artículos sin entender completamente el tema y que la lucha por encontrar las palabras adecuadas lo obliga a resolver sus dudas. Delegar esa labor implica también delegar el razonamiento:
«A medida que más personas deleguen la escritura en los LLM, también delegarán el pensamiento y la comprensión en los LLM. Yo no quiero hacer eso, ¿dónde está la diversión de escribir entonces?»
Además, mencionó que existen casos donde el uso de modelos es comprensible. Entre ellos destacó el de su colega Jim Highsmith, quien recurre a modelos de lenguaje como una ayuda indispensable para escribir debido a la enfermedad de Parkinson. También contempla su uso en traducciones o en reportes administrativos rutinarios.
Michael Nygard comentó, sobre la redacción de reportes que nadie leerá:
«Ahí realmente no estás intentando comunicar pensamientos de una persona a otra. Te estás comunicando con un proceso más que con un humano. Un humano puede abrir el sobre, pero esa persona está actuando como un componente en un organismo cibernético.»
Por qué te importa
En la creación de productos de software y arquitectura técnica, los documentos de diseño, especificaciones y propuestas son la base con la que alineas a un equipo. Cuando automatizas la redacción técnica con un modelo de lenguaje, sacrificas la profundidad con la que analizas los problemas difíciles de tu sistema. Desarrollar y mantener una voz humana, clara y directa sigue siendo una habilidad crítica para comunicar decisiones de ingeniería.