Lo llaman progreso II (La IA como instrumento de dominación)
De entre los libros que más me han marcado, "El hombre unidimensional" (1964) de Herbert Marcuse (1898-1979) está sin duda entre los tres primeros. Lo he releído muchas veces. Su virtud radica en ser una obra accesible: no necesitas ser un experto en filosofía ni pensamiento crítico para entender sus frases. La lectura es rápida y directa, el vocabulario es sencillo para el estándar de una obra filosófica. Marcuse no recurre a citas, referencias o diálogos con obras de la filosofía profunda. Nada te impide avanzar. En definitiva, esta obra es un "unicornio" en el contexto de la Escuela de Frankfurt, que se define por una densidad insoportable, cierta pesadez y un lenguaje críptico.
Posiblemente esta sea la razón por la que esta obra en particular, y su autor en general, fueron tan influyentes a finales de los años 60, marcando las líneas de pensamiento y acción en los movimientos estudiantiles.
El progreso según Marcuse
"El hombre unidimensional" es un libro sobre dominación. En él, Marcuse argumenta que el progreso técnico y científico, que debería liberar al ser humano de la servidumbre y el trabajo penoso, ha hecho exactamente lo contrario. El progreso se presenta como una fuerza externa, objetiva e inevitable, pero que oculta decisiones políticas. La tecnología no es neutra y el progreso está diseñado para perpetuar el statu quo.
Cuidado, porque Marcuse no odia la tecnología ni la ciencia, pero sí cuestiona el uso político y social que se le da al progreso bajo el capitalismo avanzado.
En el medio tecnológico, la cultura, la política y la economía se unen en un sistema omnipresente que devora o rechaza todas las alternativas. La productividad y el crecimiento potencial de este sistema estabilizan la sociedad y contienen el progreso técnico dentro del marco de la dominación. La razón tecnológica se ha hecho razón política.
Marcuse presenta esta situación como una irracionalidad o tensión: ¿cómo podemos progresar y, en el mismo progreso, mantener el sistema y la dominación? ¿Qué futuro le espera a una sociedad que ha progresado técnicamente hasta el punto de cubrir todas las necesidades?
«Progreso» no es un término neutral; se mueve hacia fines específicos, y estos fines son definidos por las posibilidades de mejorar la condición humana. La sociedad industrial avanzada se está acercando al estado en que el progreso continuo exigirá una subversión radical de la organización y dirección predominante del progreso. Esta fase será alcanzada cuando la producción material (incluyendo los servicios necesarios) se automatice hasta el punto en que todas las necesidades vitales puedan ser satisfechas mientras que el tiempo de trabajo necesario se reduzca a tiempo marginal. De este punto en adelante, el progreso técnico trascenderá el reino de la necesidad, en el que servía de instrumento de dominación y explotación, lo cual limitaba por tanto su racionalidad; la tecnología estará sujeta al libre juego de las facultades en la lucha por la pacificación de la naturaleza y de la sociedad.
Pero el autor no es ingenuo, y frente a la posibilidad de un progreso técnico y social tan amplio que elimine el propio sistema de dominación establecido, advierte que se harán esfuerzos para contener este progreso. Y aquí reside la irracionalidad del sistema: "la sociedad, la ciencia y la tecnología se organizan para el cada vez más efectivo dominio del hombre", y se esfuerza en destruir cualquier posibilidad de liberación.
El consumo como instrumento de dominación
A medida que el progreso material aumenta, la libertad política disminuye, pero esta pérdida no es percibida como tal por los individuos. La capacidad de elegir entre diferentes marcas de un mismo producto o diferentes canales de televisión da la ilusión de libertad, mientras que, en el fondo, la estructura de la sociedad sigue siendo la misma. La gente es "feliz" siendo esclava, porque su esclavitud les ofrece un alto grado de consumo y seguridad técnica.
El pensamiento unidimensional
Según Marcuse, el progreso ha eliminado el pensamiento crítico, al que llama "dimensión negativa" o dialéctica: la capacidad humana de imaginar un mundo diferente, un mundo que no esté gobernado por el rendimiento y la utilidad. Esta idea enlaza con la idea de "razón instrumental" de Adorno y Horkheimer, tan presente en la Escuela de Frankfurt.
Si me permiten el inciso, creo que aquí es donde se agarra Mark Fisher para desarrollar la idea del "realismo capitalista".
Siguiendo con Marcuse: mientras las máquinas progresan, el ser humano se estanca. El progreso tecnológico es unidimensional porque solo se enfoca en el "cómo" (cómo producir más, cómo vender más, cómo ser más eficientes) y ha olvidado el "¿para qué?". Al eliminar el "¿para qué?", el progreso se vuelve un fin en sí mismo, un ciclo cerrado que no permite la liberación.
En definitiva, Marcuse nos dice que el progreso tecnológico sin progreso de la conciencia y la liberación humana es, en realidad, un retroceso hacia una nueva forma de esclavitud. El verdadero progreso, según Marcuse, requeriría una ruptura total con esta lógica: implicaría una transformación donde la tecnología se pusiera al servicio de la libertad individual/colectiva, y del tiempo libre para el cultivo del espíritu, no al servicio de la acumulación y la productividad.
La inteligencia artificial como nueva forma de dominación
Creo que es evidente cómo la IA se imbrica en todo lo que Marcuse considera progreso y dominación. Hemos llegado a un punto en el que la sociedad está delegando en las máquinas su juicio, la razón y los procesos cognitivos. Es una terrorífica nueva forma de control social, pacificación y progreso.
Hemos pasado de una dominación basada en lo material para entrar en una nueva dimensión: la dominación será cognitiva e intelectual. Sin freno, nos dirigimos hacia una sociedad donde la experiencia cognitiva, el aprendizaje, el procesamiento de la realidad y la razón humana pueden ser dependientes de la IA.
Esto es extremadamente peligroso. Mis alumnos de hoy no son capaces de realizar sus tareas sin el apoyo de la Inteligencia Artificial: una tecnología que se ofrece como un servicio, y por la que mensualmente pagan una suscripción. Esta dependencia merma su capacidad intelectual, y ya no son capaces de resolver planteamientos y retos que sus predecesores superaron sin recurrir al apoyo externo. Al mismo tiempo, esta dependencia drena y moviliza capital: de los bolsillos de los estudiantes hacia las cuentas de las grandes corporaciones.
Es como una droga, y las grandes tecnológicas actúan como narcotraficantes. Distribuyen la IA como algo gratuito, buscan un consumo universal: la dependencia absoluta. Ahora, con la sociedad rota y una generación intelectualmente mermada, llega el momento de pasar por caja. El retorno puede ser económico, o quizás político. Nada impide a los modelos de IA generativa (los chatbots) ofrecer ciertas respuestas, reforzar determinados sesgos, o empujar la opinión pública hacia un determinado espectro político. Algo que ya hacen, por cierto, las redes sociales como X o Facebook.
Nada ni nadie protege a una generación sin capacidad crítica. La política ha fallado en la regulación de esta tecnología, posiblemente (como apunta Marcuse) en connivencia con las élites tecnológicas. A ojos de Marcuse, al hablar de IA deberíamos plantearnos "¿Para qué?". La respuesta llega por si sola. La IA es posiblemente, y por el momento, el mecanismo de dominación más sofisticada que jamás hemos creado.
Lo llaman progreso.