Escribe tus propias palabras

Resumen

Hace dos años se lanzó ChatGPT y popularizó la IA como herramienta para crear cosas. Los grandes modelos de lenguaje generan texto a partir de instrucciones y producen palabras casi imposibles de distinguir de las de una persona. Las ventajas a corto plazo están claras, pero sospecho que mucha gente subestima los costes a largo plazo.

Texto completo

Desde que OpenAI lanzó ChatGPT, trabajo activamente con la nueva tecnología para entender de qué es capaz. He programado con IA, he aprendido con IA y he enseñado a la gente a trabajar con IA. Volví a la universidad para ponerme al día en las tecnologías que hay detrás de la IA. Escribí un artículo de blog con apariencia real con IA. Pero, sobre todo, llevo tiempo pensando en el impacto de la IA en nuestra sociedad.

Es una herramienta potente, capaz de cosas asombrosas, como detectar cáncer en imágenes de resonancia magnética o estructurar y documentar código para poder reutilizarlo. Todo el mundo puede usar la IA, y ahí está el posible problema, sobre todo en la creación de contenido.

Algo únicamente humano

Si todos usamos las mismas herramientas para generar contenido, al final todo acabará pareciéndose. Corremos el riesgo de perder diversidad, sobre todo ahora que los nuevos modelos se entrenan con contenido recién generado. Es un bucle recursivo que hace que el contenido nuevo se parezca cada vez más al que ya existe.

Este problema ya se nota en los resultados de búsqueda de Google. La gente ha visto que los resultados son cada vez peores, y a menudo se atribuye a la cantidad creciente de contenido optimizado para buscadores pero de baja calidad. Échale un vistazo a este estudio de Bevendorff Et Al, una investigación longitudinal sobre el spam SEO en los buscadores. El contenido de poca calidad pero de buena pinta está desplazando al contenido que de verdad vale la pena.

¿Qué podemos hacer? Seguro que quienes desarrollan estos modelos idearán filtros inteligentes para excluir del entrenamiento el material de baja calidad. Espero que el contenido no generado por IA acabe teniendo un valor añadido. Igual que el antiguo acero de bajo fondo se valora porque no está contaminado con los restos de lluvia radiactiva nuclear que lleva el acero moderno.

Detectar contenido de IA

¿Lo ha escrito una IA? ¿En qué se diferencia la escritura de ChatGPT de la de las personas? Investigadores de Preply buscaron señales para detectar textos escritos por IA para determinar el origen de redacciones de estudiantes. Analizaron 12.000 redacciones y elaboraron un análisis de las palabras, frases y errores más frecuentes, tanto en los textos humanos como en los generados por ordenador. Estas son sus conclusiones principales:

• Los textos escritos por personas tenían muchas más probabilidades de contener errores: el 78% tenía al menos uno, frente a solo el 13% de las redacciones de IA
• Los errores de puntuación más comunes en los textos humanos eran las comas que faltaban, los fallos con los guiones y los espacios que faltaban
• ChatGPT usa un 35% menos de vocabulario distinto que las personas: solo 7.308 palabras distintas en total, frente a las 11.248 de los textos humanos
• Las personas usan más a menudo sustantivos y verbos comunes como “uno” o “gente”, mientras que ChatGPT prefiere términos complejos y especializados como “cultural” o “económico”.

Arte en lugar de artificial

Si te importa el contenido, plantéate verlo como arte: puede tener una cualidad humana que determina su significado para otras personas. En una comparación detallada, Gold Penguin contrapone el arte creado por humanos con el generado por IA. Sus hallazgos clave para detectar contenido creado por IA son:

• Abuso de patrones: a las máquinas se les dan mal la entropía y los datos aleatorios, así que los generadores de IA tienden a repetir patrones muy presentes en otras imágenes
• Complejidad: a la IA le cuesta replicar los elementos únicos o inusuales con los que suelen experimentar los artistas humanos.
• Falta de emoción: aunque a veces sea visualmente mejor, el arte de la IA carece de la profundidad emocional y conceptual del arte humano.
• Errores: ¿Alguna vez has visto una obra de arte y has sabido que era falsa sin poder decir por qué? Es el valle inquietante. Suele aparecer en pequeños detalles, no en algo que salte a la vista. Seis dedos, pupilas que sangran, objetos mal agarrados... y la lista sigue.

Entiendo que no todos los textos son igual de importantes y que algunos no merecen elevarse a la categoría de arte. Hay muy buenos usos para los generadores de IA, como las traducciones o los resúmenes. No estoy en contra de los grandes modelos de lenguaje en general; solo defiendo que los veamos como una herramienta con sus ventajas y sus inconvenientes.

Conclusión

Cuanto más potente es una herramienta, más daño puede hacer: depende de quien la maneja usarla bien. Los grandes modelos de lenguaje son muy potentes generando textos de buena pinta, pero su valor lo determina, en última instancia, el significado que las personas le dan. Si los museos llenos de arte son una pista, creo que siempre se apreciará lo hecho a mano. Empecemos por preocuparnos un poco más por lo que creamos, por ejemplo escribiendo nuestras propias palabras.