¿Realmente podemos hablar sobre la Inteligencia Artifical?
Esta mañana he participado en un seminario en el que hemos discutido un artículo que me ha dejado pensando: On the controversiality of AI: The controversy is not the situation, publicado en 2025 en la revista Big Data & Society por Noortje Marres, Christian Katzenbach, Anders Kristian Munk y Anna Jobin.
La idea de partida es sencilla: no todo aquello que se presenta como un gran debate sobre inteligencia artificial nos ayuda necesariamente a entender los problemas que la IA está generando en la sociedad.
En los estudios sobre ciencia y tecnología existe una tradición que entiende las controversias públicas como algo positivo para la democracia. Cuando aparece una tecnología nueva y controvertida, el debate permite sacar a la luz sus consecuencias, incorporar a personas que normalmente quedan fuera de las decisiones y cuestionar las posiciones de quienes tienen el conocimiento técnico o científico.
Pensemos, por ejemplo, en la energía nuclear o en los alimentos transgénicos. Las controversias alrededor de estas tecnologías hicieron visibles preguntas que hasta entonces podían parecer exclusivamente técnicas: ¿qué riesgos estamos dispuestos a asumir?, ¿quién decide?, ¿quién se beneficia?, ¿quién soporta las consecuencias? En ese proceso podían intervenir científicos, instituciones, empresas, activistas y ciudadanos. La controversia, al menos en teoría, ampliaba el número de personas capaces de participar en decisiones que afectan a toda la sociedad.
Algo parecido ocurrió con la clonación humana. Cuando los avances científicos hicieron técnicamente imaginable la posibilidad de clonar seres humanos, la cuestión dejó de pertenecer exclusivamente al ámbito de la investigación científica. De repente, hubo que discutir públicamente qué significaba aquella posibilidad y, sobre todo, si todo aquello que la ciencia hacía posible debía hacerse realidad. La controversia permitió poner sobre la mesa cuestiones científicas, éticas, jurídicas y sociales y, con ellas, los límites que una sociedad quería establecer ante una nueva capacidad tecnológica.
Pero ¿qué ocurre cuando hablamos de inteligencia artificial?
Los autores plantean que, en este caso, la controversia puede funcionar de una manera muy diferente. Una de las formas más visibles de debate público sobre IA gira alrededor de cuestiones enormes y difíciles de concretar: ¿podría la inteligencia artificial acabar con la humanidad?, ¿podrían las máquinas superar a las personas?, ¿qué ocurrirá dentro de veinte o cincuenta años?
Son preguntas legítimas. El problema aparece cuando ocupan prácticamente todo el espacio disponible para hablar de IA. Mientras discutimos sobre escenarios futuros y riesgos existenciales, pueden quedar en segundo plano problemas mucho más concretos que ya están ocurriendo: qué trabajos se están automatizando, qué condiciones laborales genera esta tecnología, cómo se utilizan determinados sistemas de reconocimiento facial, qué sesgos incorporan algunos algoritmos o qué impacto ecológico tienen las enormes infraestructuras necesarias para mantener estos sistemas. Los autores llaman precisamente la atención sobre esta distancia entre la controversia que ocupa el debate público y la situación social a la que supuestamente se refiere.
Y aquí está, creo, una de las ideas más interesantes del artículo: la controversia no aborda necesariamente el problema. Puede suceder que una determinada discusión nos distraiga de aquello que está ocurriendo y termine marcando de antemano qué cuestiones consideramos importantes y cuáles no.
Pero hay algo más. ¿Hasta qué punto podemos construir un debate realmente público sobre una tecnología que conocemos tan poco?
La mayoría de nosotros no sabemos cómo funcionan realmente los sistemas de inteligencia artificial más avanzados, cuáles son exactamente sus capacidades y limitaciones, qué se está investigando en los grandes laboratorios ni qué tecnologías pueden llegar a desarrollarse en los próximos años. Nuestro conocimiento depende, en buena medida, de aquello que nos cuentan quienes sí tienen acceso a esa información.
Esto coloca a periodistas, ciudadanos e incluso a buena parte de quienes participan en el debate público en una posición peculiar. Tenemos que discutir sobre una tecnología utilizando, en buena medida, las explicaciones, categorías y escenarios que nos proporciona el propio sector que está desarrollándola.
Y aquí aparece una asimetría que me parece especialmente problemática. Si una empresa tecnológica nos dice que su sistema es capaz de hacer determinadas cosas, ¿cómo podemos comprobarlo? Si nos dice que la inteligencia artificial está a punto de transformar radicalmente la sociedad, ¿con qué información podemos contrastarlo? Y si las mismas personas que desarrollan estas tecnologías son quienes nos advierten de sus posibles riesgos futuros, ¿hasta qué punto estamos construyendo un debate independiente sobre ellas?
El problema no es que debamos desconfiar automáticamente de todo lo que dice la industria. Es que resulta difícil mantener un debate verdaderamente autónomo cuando una de las partes dispone de mucha más información sobre aquello que estamos intentando discutir.
El artículo pone precisamente el foco en la capacidad de determinados actores de la industria para ocupar el espacio público de la controversia. Las declaraciones de grandes figuras tecnológicas sobre los peligros futuros de la IA reciben una enorme atención porque proceden de personas que han participado en el desarrollo de estas tecnologías. De este modo, quienes forman parte del propio sector pueden acabar ocupando incluso el espacio desde el que se critica a la IA.
Esto produce una situación paradójica: quienes tienen más capacidad para definir la tecnología pueden terminar teniendo también una enorme capacidad para definir sus riesgos y los términos de la discusión sobre esos riesgos.
Por eso me parece que el problema de debatir sobre inteligencia artificial no es únicamente que podamos recibir información falsa o exagerada. Es algo más sutil: podemos terminar hablando muchísimo sobre IA sin hablar necesariamente de aquello que más nos afecta de forma inmediata.
Esto cambia bastante la manera de entender el debate público sobre inteligencia artificial. Ya no basta con preguntar quién está a favor y quién está en contra, ni con observar qué dicen unos y otros sobre el futuro de la tecnología. También deberíamos preguntarnos qué queda fuera de esa discusión, quién consigue definir sus términos, qué información tenemos realmente para juzgar lo que se nos está contando y qué problemas concretos estamos dejando de mirar mientras discutimos.
Y quizá esta sea una de las cosas que más deberíamos tener presentes cuando hablamos de inteligencia artificial. Antes de entrar en el debate, conviene preguntarse de qué estamos debatiendo realmente, quién ha definido los términos de esa discusión y qué sabemos realmente sobre aquello de lo que estamos hablando.