re: La IA generativa es el mal (ctxt)
Me ha llamado mucho la atención un artículo de Sebastiaan Faber titulado "La IA generativa es el mal", publicado recientemente en ctxt.es. El autor, que es codirector de la revista especializada "The Volunteer", vuelca su indignación con la inteligencia artificial a través de una anécdota.
Cuenta Faber que el codirector de la mencionada revista pidió a una IA recortar a la mitad la longitud de un artículo. Indicando, de forma explícita: sin agregar ni inventar nada nuevo. Era un experimento. ¿El resultado? Catastrófico. La IA hizo caso omiso a las instrucciones, añadiendo clichés y moralinas... pero también borró de un plumazo cualquier marca estilística del autor original.
El escrito de Faber trae a primer plano el concepto "zombificación", que circula por los blogs y medios desde hace algún tiempo, y que define ese valle inquietante por el que transita el lector cuando consume un texto generado por IA. En una entrada anterior hablé sobre esto. A mí me gusta más usar el concepto "texto liminal", me cito a mí mismo:
El texto generado por IA te obliga a transitar por él, no quiere que te quedes... no es un lugar seguro, no te acoge. Es como las plantas de plástico: perturbador.
Faber recurre a Freud para describir esta sensación. Su aproximación es claramente más sofisticada, académica y culta:
Según Freud, las cosas que producen la sensación que él describe en alemán como unheimlich (literalmente, ajeno a lo hogareño: es decir, falsamente familiar; se suele traducir al español como ominoso, siniestro o inquietante) nos incomodan porque nos enfrentan a ideas e imágenes antiguas, reprimidas, que creíamos haber superado. La sensación que sentí yo fue decididamente unheimlich, pero, creo, no tanto por una experiencia pasada –a no ser que fuera una pesadilla vagamente recordada– como por haber entrevisto un futuro horrible.
Mi primer pensamiento ha sido... ¿Por qué le pides a una IA que recorte el texto a la mitad? De toda la vida, cuando un autor supera el límite de palabras que impone una revista, se le pide muy amablemente que adapte su texto. En eso consiste el trabajo editorial...
Pero bueno, no pasa nada. ¡Era un experimento muy interesante!
La entropía en la literatura de alta calidad
Recortar texto es una tarea complicada, incluso para un humano. La IA no entiende qué ideas son esenciales por su carga emocional o intelectual. No comprende ciertas decisiones estilísticas del autor. No respeta la idiosincrasia ni la singularidad. No ha sido entrenada para ese propósito. Solo calcula probabilidades estadísticas de palabras.
Voy a poner sobre la mesa el concepto "entropía". La entropía es el grado de desorden o aleatoriedad de un sistema. Transportado a la literatura, podemos decir que un texto de calidad se distingue por tener un alto grado de entropía, ya que introduce metáforas agudas, palabras inesperadas o estructuras gramaticales únicas y distintivas. Los buenos escritores juegan con el lenguaje, tienen un aparente desorden, son imprevisibles y más "únicos".
La IA hace todo lo contrario, busca lo más común y probable, tiene una baja entropía. Tiende a ordenar usando la estadística. Por lo tanto, usar esta herramienta siempre dará como resultado un empobrecimiento del texto sobresaliente, desplazando el escrito hacia una "normalidad". Para eso se han diseñado.
¿Por qué se usa la IA para escribir?
Creo que nadie en la industria de la inteligencia artificial generativa ha proclamado que su herramienta es perfecta para el trabajo editorial o la escritura, ya sea profesional o amateur.
Si en alguna ocasión se ha dicho tal cosa, ha sido por boca de los vendehumos que todos conocemos. Los mismos que promocionaron las criptomonedas, luego saltaron al metaverso, y agotaron toda su credibilidad con los NFT. Sí, son esos que pululan por LinkedIn con ínfulas de gurú, que publican libros sobre emprendimiento que nadie lee... Son más listos que nadie.
Ningún escritor, periodista o investigador con un mínimo de dignidad y respeto por su oficio delegará su trabajo a una IA. Basta un solo intento para comprender que la máquina no está a la altura.
Sin embargo, toda la vida han existido escritores, periodistas, articulistas y ensayistas que han buscado atajos. Algunos presionados por la precariedad de sus contratos, cierto. Otros por pura vagancia. Ahora tienen la IA, y no dudarán en usarla. ¿Qué más da? ¡Se les ve a una legua! Pan para hoy y hambre para mañana, porque el coste de usar estas herramientas no solo es económico, sino también reputacional.
¿Todo está infectado?
Faber dice en su texto:
La IA “generativa” –nunca peor llamada– es el mal. Pero ya está por todas partes, de la misma manera que todos llevamos microplásticos incrustados en nuestros órganos.
No estoy de acuerdo. En estas líneas y en este blog no hay texto generado por IA. Igual que en el 99% de los medios, blogs o libros que leo. Nada en ctxt.es está generado por IA. Faber mismo lo dice:
En CTXT lo hemos tenido claro desde el principio: apostamos por la resistencia, es decir, por lo humano.
Entonces... ¿Dónde está todo ese texto generado por IA? Seguro que existe, pero ¿proclamar su omnipresencia? Eso solo alimenta una narrativa alarmante y catastrofista. Crea un imaginario, un discurso, un lamento que, sin embargo, no encuentra sustento en la realidad.
Sembrar la duda es un error, porque aumenta los miedos del lector. Escribimos con temor a ser confundidos con una IA... porque se ha instaurado la idea de que "ya está por todas partes", y no paramos de repetirlo, aunque no sea verdad.
Cierre
El uso de la inteligencia artificial exige pedagogía y alfabetización. Es una nueva tecnología y desconocemos cuál será su impacto a largo plazo. Debemos hablar sobre sus límites, su ética y capacidades. Este es un debate que debemos tener ahora mismo. Bien usada, puede ser una herramienta positiva. ¿Mal usada? Una pesadilla.
Deberíamos dejar de hiperventilar cada vez que una IA hace algo, sea bueno o malo, y medir mejor la realidad... Debemos educar a nuestros lectores, alumnos, hijos o amigos en el uso y consumo responsable de la IA.
Estoy de acuerdo con Faber en el sentimiento de traición, cuando descubres que alguien ha estado usando la IA de forma irresponsable:
Más que comunicación, leer y escribir son actos de comunión, basados en la buena fe y en el presupuesto de una humanidad compartida. Descubrir la mentira se siente como una bofetada en plena cara.
Pero también digo: los lectores no son tontos. Los novelistas, ya sean de ciencia ficción o aventuras románticas, así como los periodistas o columnistas que busquen atajos, tienen los días contados. Caerán en el olvido y serán irrelevantes. Aquí llega la paradoja: la abundancia de lo artificial es lo que da valor a lo humano, que cotiza al alza.
Puede que nos engañen una vez, pero ¿ocurrirá dos veces? ¿Qué editorial arriesgará su prestigio con un catálogo plagado de autores sospechosos y literatura pobre?
Eso es lo que "produce" la IA ahora mismo: pobreza. ¿Seguirá siendo así en un futuro? Ya veremos...
En cualquier caso, este debate es necesario.
Gracias.