El Papa pide desarmar la IA: “El humano es insustituible”

El papa León XIV se mostró tajante en su primera encíclica, titulada “Magnifica humanitas”, publicada ayer y que aborda la “preservación de la humanidad en la era de la inteligencia artificial”. El papa León XIV defendió que “la IA exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte”, subrayó el pontífice, durante su discurso, pronunciado en el Aula del Sínodo, en el Vaticano, en el marco de un acto en el que participaron cardenales, profesores y expertos en tecnología.

El papa precisó que “las denominadas inteligencias artificiales” no se pueden confundir con la “inteligencia humana” pues, aunque son capaces de “imitar lenguajes o simular empatía”, no viven “una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”.

Conciencia moral

“Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias”, insistió.

En este sentido, advirtió de que “no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable”. “No es lícito confiar a sistemas artificiales decisiones letales”, avisó mientras pide que la IA en el ámbito bélico esté sujeta a “las restricciones éticas más rigurosas y al respeto de la dignidad humana” y reclama “reglas compartidas a nivel internacional que frenen la carrera armamentística tecnológica”.

Además, lamentó que la “evolución de los arsenales nucleares -incluida la perspectiva de usos tácticos-” hace que el recurso a tales artefactos parezca una posibilidad cada vez menos remota; advierte de “una preocupante pérdida de la memoria histórica que facilita la reescritura selectiva o distorsionada del pasado e insta a superar la teoría de la guerra justa y a apostar en su lugar por el diálogo, la diplomacia y el perdón”.

El pontífice pidió “un enfoque prudente y cauteloso” y advirtió de que “puede ser peligrosa” cuando las personas buscan en ella una relación de cuidado o de acompañamiento porque la “imitación artificial” de consejo, empatía, amistad o amor en usuarios poco conscientes puede “inducir a engaño y dar la falsa impresión de estar en una relación”.

Además, advirtió del “riesgo que supone el impacto ambiental” de los actuales sistemas de IA en relación al agua, el anhídrido carbónico y los recursos naturales.

Asimismo, alertó de que los sistemas de IA pueden suponer un “engaño cuando presentándose como neutrales y objetivos, reflejan y refuerzan posiciones ideológicas”.

Reclama marcos jurídicos adecuados y más vigilancia

Para que la IA respete la dignidad humana, según el pontífice, es esencial que las “responsabilidades estén claras”, desde quienes la diseñan hasta quienes la utilizan. Además, apuntó que “pedir prudencia, controles rigurosos y una ralentización en la adopción de la IA no significa estar en contra del progreso”.

“No basta con invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, propuso, al tiempo que pidió “valentía para discutir un código ético que deba ser usado, sometiéndolo a criterios de justicia social compartida”.

Así, el pontífice advirtió del riesgo de que “pequeños grupos muy influyentes puedan orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas” y considera que “la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse”. Reclamó, por ello, “creatividad para gestionarlos en la lógica del compartir”.

Críticas a la concentración de riqueza en pocas manos

El papa se refirió en su primera encíclica a las finanzas que “han adquirido una importancia creciente” y defendió el “ahorro que se transforma en crédito para la economía real y por ende para crear empleo siguen siendo fundamentales”.

Además, criticó la “concentración de la riqueza mundial en pocas manos con intervenciones superfluas o sueños de superación personal” y pidió “leyes justas y redistribución incluso mediante sistemas fiscales”.

También apuntó que “en la era de la IA y de la robótica, ya no es posible confiar únicamente en la mano invisible del mercado” y añadió que “la política tiene la tarea de orientar dinámicas económico-tecnológicas hacia el bien común. La prosperidad puede contribuir a construir y fortalecer la paz sólo si es generalizada, inclusiva y sostenible”, resumió.

Igualmente, pidió “creatividad política a favor del empleo que sitúe en el centro a la familia y a las nuevas generaciones y garantizar ritmos humanos” con equilibrio entre trabajo, servicios y descanso.