En un discurso histórico para presentar la encíclica “Humana Magnificencia” (en latín Magnifica Humanitas), el papa León XIV lanzó un dramático llamado a impedir el riesgo de que la inteligencia artificial, sin una debida regulación, termine por anular las decisiones de los seres humanos.

En un largo encuentro que duró dos horas y media en el Vaticano, en el que previamente hablaron cardenales y especialistas en el tema de la IA, el pontífice ofreció una disculpa histórica por el papel que la Santa Sede desempeñó con respecto a la esclavitud, al no haberla condenado durante siglos, lo que calificó como "una herida en la memoria cristiana".

La encíclica y su contexto

La encíclica busca salvaguardar a la humanidad en una era de creciente dependencia de la inteligencia artificial. Sin embargo, el papa entendió que no podía afrontar un tema de notable proyección histórica sin hacer las cuentas con los siglos en los que la Iglesia no condenó debidamente el horror y la injusticia de la esclavitud humana.

El Papa durante la presentación de un primera encíclica. Foto: EFE

En el documento, el pontífice denunció la "cultura del poder" que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que "no es permisible" confiar decisiones irreversibles y letales a sistemas de inteligencia artificial.

Una voz crítica y técnica

El papa León XIV criticó a las empresas de IA. En el texto, arremetió contra la concentración de poder y datos en manos de tan pocas personas en el sector privado, a la que consideró un peligro, y pidió una regulación externa de su trabajo.

Pidió "desarmar la IA" para "evitar que domine al ser humano", asegurando que "alimenta la brecha entre los incluidos y los excluidos". La encíclica advierte que la IA "no puede considerarse moralmente neutra" e insistió en el papel de la educación para aprender a gestionar sus riesgos.

El encuentro duró dos horas y media en el Vaticano, en el que hablaron cardenales y especialistas en el tema de la IA. Foto: EFE

También pidió superar el concepto de "guerra justa" y dijo que "la humanidad se está deslizando hacia una cultura violenta del poder".

Nueve temas centrales de la encíclica

La primera encíclica pontificia del papa, laureado en matemáticas, señala que "las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer, se plantean preguntas como: ¿qué significa ser humano?".

En su encíclica, el papa aborda nueve temas centrales:

  • La tecnología no debe concentrarse en manos de unos pocos. Las tecnologías no se deben concentrar en manos de unos pocos, alimentando la brecha entre los incluidos en la revolución digital.

  • Se necesita un código ético compartido sobre la inteligencia artificial. Es necesario abordar la IA con sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades en todas sus etapas y apostando por políticas y marcos jurídicos adecuados, una supervisión independiente y la educación de los usuarios. Sobre todo, se necesita un código ético sometido a criterios de supervisión independiente y a la educación de los demás usuarios, porque no sirve una IA más moral si esa moral la deciden unos pocos.

  • Desarmar la IA y sustraerla a la lógica competitiva. Hay que desarmar la IA para sustraerla de la lógica de la competencia militar, económica y cognitiva, para romper la equivalencia entre poder técnico y derecho a gobernar, sustraerla de los monopolios e impedir que domine al ser humano.

  • El trabajo debe centrarse en la persona, no en el beneficio. En la "cuarta revolución industrial", que representa la transición digital, el pontífice destaca la importancia de proteger la dignidad y el valor del trabajo, porque las nuevas formas de trabajo no son necesariamente mejores, ya que la tecnología puede descalificar a los trabajadores.

  • Superar la teoría de la guerra justa. La revolución digital está modificando la gramática de los conflictos y, sin un enfoque ético, las decisiones sobre la vida y la muerte de las personas serán cada día más impersonales, considerándose el recurso a la fuerza como una opción inmediata y viable. En la base de todo hay una cultura del poder que normaliza la guerra y la rehabilita como instrumento de política internacional, favoreciendo el rearme. Ningún algoritmo hace que la guerra sea moralmente aceptable.

  • Es inmoral e inaceptable eliminar o someter a una nación. La promoción del bien común no puede separarse nunca del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su originalidad a la familia de las naciones.

  • La crisis del multilateralismo. La fuerza del derecho se sustituye con el derecho del más fuerte; las lógicas del poder prevalecen sobre la construcción de la paz, relegada a un segundo plano, y las instituciones creadas para custodiar el destino común de los pueblos se encuentran ahora debilitadas, sin que se reconozca su autoridad moral. A este respecto, el papa auspicia para la ONU y para el sistema político internacional una reforma que fortalezca su capacidad de acción.

  • Proteger la dignidad humana. Pide defender el derecho a la vida, desde la concepción hasta su final natural, y define el aborto provocado, el asesinato de inocentes y la eutanasia como decisiones gravemente ilícitas. También pide reconocer el derecho de las minorías, con especial atención a las mujeres.

  • La civilización del amor. El cristiano está llamado a responder a esta cultura del poder construyendo la civilización del amor. Al concluir la carta, León XIV invita a los fieles a vivir las nuevas tecnologías a la luz del Evangelio para que, incluso en la era de la IA, todos puedan dar testimonio de la belleza de una humanidad magnífica habitada por Dios.