Que la IA no sustituya la política

La tentación de sustituir el conflicto político por un cuadro de mandos tecnificado ya tiene un nuevo fetiche: la inteligencia artificial. La promesa suena irresistible: dejar atrás la “irracionalidad” del voto, las pasiones de los partidos, las agrias controversias de los parlamentos, y confiar las grandes decisiones a sistemas capaces de procesar trillones de datos. A algunos les parece un paso evolutivo desde la democracia hacia una forma de gobernanza algorítmica que ven superior, más informada y eficiente, incluso más justa. Esta idea tiene padrinos. Economistas como Robin Hanson han defendido formatos de “futarquía” con algoritmos políticos que, en un cálculo constante mediante complejas ecuaciones, hallarían en cada momento cuál es el “bien común” y qué decisiones requiere. Filósofos de la tecnología como John Danaher han acuñado el término “algocracia” para describir sistemas donde las decisiones colectivas se tomen mediante algoritmos opacos para que la máquina “corrija” los fallos humanos. Balaji Srinivasan fantasea con “network states” donde la política se sustituya por un régimen de reglas automatizadas. También la ciencia ficción ha popularizado mundos donde la superinteligencia artificial resuelve los problemas políticos. Nick Bostrom coquetea con escenarios donde los algoritmos solucionen “todos los problemas importantes”, desde el clima hasta la pobreza. Elon Musk y otros empresarios tecnológicos no sólo imaginan una IA que asesore a los gobiernos, sino que directamente los reemplace.

A primera vista, un liberal podría sentirse tentado: si la IA reduce trámites, elimina despilfarro y ayuda a gestionar mejor, bienvenidos sean los algoritmos. Pero una cosa es usar la IA como herramienta y otra muy distinta es permitir que sustituya el proceso político. Lo primero es perfeccionar el sistema y lo segundo es un cambio de régimen. La IA puede ayudarnos a ser más eficientes pero no decidir por nnosotros qué fines perseguir, qué sacrificios asumir ni qué riesgos aceptar como sociedad. Los tecnócratas de siempre han encontrado en la IA una excusa nueva para la tiranía, para su despotismo de rostro amable. Su sueño siempre fue desplazar la política a beneficio de la “ciencia” y de los comités de expertos. La IA parece hecha a su medida: les permite imaginar un supra-gobierno sin rostro, supuestamente objetivo, incuestionable por ser un oráculo que “sabe más” que cualquiera. Así, la política pasa a entenderse como un estorbo prescindible, y la deliberación social como un ruido molesto que conviene reemplazar por el resultado “correcto”, conocido de antemano por la macro-IA determinista. Hay en todo esto un eco de la vieja tentación absolutista, revestida ahora de lenguaje matemático en vez de teología, pero el esquema es el mismo: existe una instancia superior (antes Dios a través del monarca, hoy el algoritmo pretendidamente infalible) que tiene la potestad de mandar sobre nosotros. La obediencia ya no se exigirá en nombre de la salvación, sino de la eficiencia y de la justicia automatizada. Los nuevos místicos no llevarán biblias sino Large Language Models. Hayek explicó hace décadas por qué ningún planificador central puede concentrar el conocimiento disperso. La IA no resuelve ese problema, sólo lo reformula. No dispone de un conocimiento superior al que ya tiene la sociedad, y le faltan los matices, el conocimiento tácito, las preferencias cambiantes, la intuición, el experimento social que sólo la libertad humana permite. Un tecnogobierno por IA no nos llevará al futuro sino al pasado preliberal: deshará la maravillosa evolución social, política y económica que nos hemos dado desde la Ilustración.

La pretendida “neutralidad” de un gobierno algorítmico es ilusoria. Toda IA está sesgada por su programación, por los datos que se le suministran y por las métricas con las que evalúa. Si se la entrena con fuentes dominadas por cierta ideología, reproducirá esa ideología. Si las reglas las fijan burócratas con aspiraciones totalizadoras, tenderá a reforzar su visión. Un sistema de gobierno basado en IA no sería un salto creativo hacia formas nuevas de convivencia, sino un mecanismo para fijar, endurecer y blindar el marco político-cultural ya existente. Congelaría la gobernanza en una especie de presente eterno. Y peor aún: si tomamos en serio la idea de que “la IA sabe más que nosotros”, entonces nos convertiremos en meros acatadores, en súbditos y no en ciudadanos. Se perderá el derecho a equivocarse, a ensayar caminos heterodoxos, a rectificar tras el fracaso, a premiar o castigar una acción de gobierno. La política dejará de ser un proceso abierto de prueba y error para convertirse en la ejecución de un plan “óptimo” computado en algún centro de datos: puro totalitarismo automatizado. La pesadilla de Orwell, hecha realidad. Lo que les sobra a los Musk y similares es el ciudadano libre y activo, con su libertad incómoda, su voto imprevisible y su capacidad de cuestionar. La IA debe emplearse como herramienta poderosa en manos de personas responsables, jamas como sustituta de la política humana.