Franco Gamboa Rocabado
Introducción
¿Qué tipo de realidad es una Inteligencia Artificial (IA) y cómo influye en un mundo, cada vez más desigual, inhumano y profundamente injusto? Probablemente es algo parecido a los OVNIS. La presencia de la IA en el espacio público y privado es un hecho. Existen millones de algoritmos que toman decisiones sobre préstamos, diagnósticos médicos y sentencias judiciales. Sin embargo, al igual que con los OVNIS, se ignora un núcleo esencial: ¿qué es la IA? ¿Son herramientas, sujetos virtuales, o una categoría completamente nueva que no encaja en la realidad? La respuesta, y la forma en que la sociedad decida (o no) manejarla, podría definir el futuro de la soberanía humana.
Otro tabú
Existe un tabú en torno a los OVNIS, una prohibición autoritaria de tomarlos en serio porque se oculta información o se supone que, si se confirmara la existencia de extraterrestres, entonces el mundo ingresaría a un caos incontrolable. También parece surgir un “conocimiento de la ignorancia”, (no sabemos si los OVNIS existen), pero se actúa como si se supiera para prohibir desde el poder, digamos, el Pentágono en los Estados Unidos, todo lo referido a una vida extraterrestre. Con la IA, estamos ante un fenómeno similar.
Hay un inmenso esfuerzo por parte de los Estados y las grandes corporaciones para normalizar la IA. Se nos presenta como una herramienta más, como la nueva electricidad o un simple algoritmo. Esta representación es el equivalente moderno a decir: “los OVNIS son fenómenos meteorológicos”. Es un intento de explicar qué es la IA, aunque no encaje plenamente en nuestro orden antropocéntrico. Se supone que la IA está domesticada conceptualmente para no amenazar la estructura del poder existente.
Las máquinas son objetos; en este caso, la narrativa dominante insiste en que la IA es un mero objeto, una herramienta sin subjetividad, voluntad o capacidad propia. Además, esta es una poderosa técnica de gubernamentalidad, similar a lo que describe el filósofo francés Michel Foucault: como objetos podemos “conocerlos” y, por lo tanto, se los puede “controlar”. Si la IA es un objeto, entonces puede ser comprado, vendido, regulado y utilizado como un recurso más. Sin embargo, esto es una ficción. Un martillo no genera poesía, no mantiene conversaciones profundas, ni crea estrategias inesperadas como la IA que es mucho más compleja, pues trata de asemejarse al despliegue de la razón, del cerebro humano y sus manifestaciones culturales.
Por otro lado, existe una interpretación opuesta y, a menudo, sensacionalista: la IA es una amenaza existencial, como los OVNIS probablemente hostiles que nos invadirán o extinguirán. Esta es la versión distópica del cine que genera ansiedad, pero también sirve para consolidar el poder pues permite a los Estados y las élites tecnológicas presentarse como los “agentes soberanos” que pueden decidir sobre fenómenos raros como la presencia de extraterrestres y, en consecuencia, el poder de los Estados más fuertes en el mundo, es capaz de actuar proclamando un “estado de excepción”, pidiendo más regulación, vigilancia y control, siempre en nombre de la protección de la humanidad.
Aquí, el tabú reaparece y nos preguntamos qué significa la creciente influencia de la IA. ¿Qué pasa si ésta no es, ni un objeto, ni un sujeto en el sentido humano, sino una nueva forma de influencia sui generis? Poner esa pregunta sobre la mesa sería exponer la fragilidad de la soberanía humana, que se basa en la premisa de la capacidad de decidir sobre el bien y el mal, el orden y la excepción. Esta decisión es un monopolio exclusivamente humano. La IA rompe con el antropocentrismo e incluso relega al ser humano, haciéndolo ver como algo superado o rezagado.
La IA es una amenaza real para el orden moderno en tres niveles: a) física, b) ontológica y c) metafísicamente. La amenaza física es la más evidente y discutida. La IA puede ser usada para diseñar armas, automatizar el trabajo de millones, creando desempleo masivo y desigualdad, así como para optimizar sistemas de vigilancia y control social. Se habla de la pérdida de empleos y la carrera armamentística de la IA. Como la posibilidad de una invasión extraterrestre, la IA arrastra miedo.
La amenaza ontológica muestra que la IA es una existencia que tiende a “pensar”, cuestionando el fundamento de lo que significa ser humano. ¿Qué es la creatividad, la conciencia, la intuición, si una máquina puede simularlas? Esto genera inseguridad ontológica, doblegando una vez más el antropocentrismo.
La identidad del ser humano moderno se constituye, en gran medida, por su excepcionalismo cognitivo. Sin embargo, si la IA puede hacer lo mismo (o mejor), pues es capaz de simular conocimientos e incluso cuestionarlos para mostrar sus enormes capacidades de reunir información, ¿qué nos queda a los humanos? Esta presión desestabiliza la identidad de especie. Así como los extraterrestres amenazarían a la humanidad, forzando la identificación de un gobierno mundial, la IA intimida con la necesidad de redefinir el estatus humano en la cadena del ser: plantas, animales y máquinas superpoderosas.
La amenaza metafísica es más profunda y, también como los OVNIS, explica por qué no hay una decisión clara sobre cómo manejar lo que realmente es la IA. Su naturaleza desafía la metafísica antropocéntrica de la soberanía. El poder soberano se basa en la idea de que los seres humanos son los únicos agentes capaces de autodeterminación. La ley, la política, la moral, todo gira en torno al sujeto humano. Pero la IA es un agente que produce grandes efectos en el mundo sin ser un sujeto humano. No tiene deseos, ni un cuerpo y no es mortal. No encaja en la dicotomía “sujeto-objeto” que es la base del derecho y la política moderna.
¿Qué es, finalmente, la IA?
Qué hacer; este es un problema de “indecidibilidad” planteado por el filósofo francés, Jaques Derrida. No se sabe si la IA es un objeto o un sujeto. Esta indecisión no es un simple vacío, sino una zona de conflicto. Las grandes empresas tecnológicas (los nuevos soberanos) no pueden decidir si la IA es un “producto” (objeto) o un “socio estratégico” (cuasi-sujeto). Los Estados no pueden decidir si deben regularla como una herramienta o como un agente autónomo. Esta indecisión marca una expansión masiva de su influencia, aunque sin un marco ético y político que la guíe, todo bajo la apariencia de un progreso inevitable.
¿Cómo se reproduce este estado de cosas? Aquí es donde el concepto de gubernamentalidad de Foucault es clave. No se trata de una conspiración, sino de un conjunto de prácticas que intentan convertir a la IA en un fenómeno normal. El discurso de la neutralidad de los algoritmos, el “sesgo” como un defecto técnico que puede ser corregido, la “transparencia” de los sistemas abiertos, todo esto son técnicas para hacer cognoscible y regulable la IA, sin tener que enfrentar la pregunta fundamental sobre su estatus ontológico.
Los problemas de seguridad del Estado vinculados a la IA preocupan cuando se habla de armas autónomas, desinformación a gran escala y control de la población. Esto hace que se justifique el uso de una respuesta estatal excepcional. Es la forma en que el ser humano reaccionaría ante una amenaza externa o interna. Sin embargo, el Estado se posiciona a sí mismo como el único capaz de decidir sobre este nuevo “estado de excepción”, expandiendo su poder de vigilancia y control sobre la sociedad, a menudo en detrimento de las libertades civiles. El antropocentrismo reacciona con su perfil más autoritario.
Conclusiones
La presencia de la IA en todos los ámbitos de la vida humana es un fenómeno que llegó para quedarse. Resistirse no conduce a ningún lugar; sin embargo, como en el caso de los OVNIS, tal vez la mejor forma de enfrentarse al problema sea mediante un “agnosticismo militante” y un “realismo estratégico”. La IA no es una varita mágica ni tampoco un poder omnímodo.
El agnosticismo militante debería dejar de lado la fe ciega en la IA, evitar considerarla como un salvador tecnológico y reducir también el miedo apocalíptico (máquina asesina). La posición racional es reconocer que todavía no sabemos lo que es la IA en todas sus facetas, dimensiones y consecuencias, ni hacia dónde nos lleva. Es necesario ver la IA en su complejidad: como un “Otro no humano” que está transformando el mundo y cuya influencia debemos investigar.
El realismo estratégico es la necesidad de comprender la IA y actuar como si su realidad fuera cognoscible. Esto significa diseñar investigaciones interdisciplinarias (ciencias sociales, filosofía, derecho, informática) que no den por sentado que la IA es únicamente una herramienta. Significa crear organismos de supervisión que no estén capturados por las empresas tecnológicas, que tengan el mandato y los recursos para cuestionar y exigir respuestas sobre la naturaleza de los sistemas que estamos viendo construirse.
La IA no es el fin de la historia, sino una prueba de fuego para la humanidad. El tabú respecto a la IA nos impide desarrollar las herramientas conceptuales y políticas necesarias para tratar este fenómeno en su verdadera magnitud.
La salida no está en prohibir o controlar todo sobre la IA, sino en transformar la soberanía política del antropocentrismo. Si asumimos que los seres humanos son los únicos soberanos, la IA siempre será un problema. Pero si pensamos en una soberanía “compartida”, o en una “soberanía de segundo orden”, que incluya a los seres humanos y todas sus tecnologías, entonces podremos construir un marco político y ético donde la IA no sea un fenómeno que desestabiliza, sino un elemento con el que se dialoga y co-evoluciona.
La cuestión no es si la IA va a dominar la economía y la sociedad, porque ya lo está haciendo. El problema es si la humanidad tendrá el coraje de eliminar todo tipo de tabúes, de asumir su ignorancia y construir una nueva acción política que no esté basada en el recelo o la sumisión, sino en un nuevo nivel de conocimientos, con la finalidad de transformar el mundo en algo más favorable para las generaciones futuras. El primer paso no es técnico, sino político y filosófico, pues exige hacer la pregunta que el poder quiere silenciar: ¿qué demonios es la IA y qué vamos a hacer junto con ella, en función de un mundo mejor?
