El Papa pide normas estrictas sobre la IA y se disculpa

Primera carta didáctica importante

El Papa advierte sobre la inteligencia artificial y pide disculpas

León XIV advierte de los riesgos de la inteligencia artificial. En una carta educativa también se pronuncia en contra de los sistemas de armas autónomos y critica a los multimillonarios de la tecnología.

En su primera encíclica, el Papa León XIV pidió directrices internacionales rigurosas para la gestión de la inteligencia artificial (IA). Después de un año en el cargo, el líder de 1.400 millones de católicos en todo el mundo ha advertido de los numerosos peligros que las nuevas tecnologías revolucionarias plantean para la convivencia humana. Pero también ve oportunidades. El tratado de más de 100 páginas se titula “Magnifica Humanitas” (Gran Humanidad).

La primera carta docente durante el mandato de un nuevo Papa a menudo se ve como una especie de declaración del gobierno para su pontificado. Estas “circulares” –este es el significado literal– tienen como objetivo proporcionar a los creyentes de todo el mundo una brújula moral. Como sucesor del difunto Papa Francisco, Leo ha estado en el cargo desde mayo del año pasado. Es el primer estadounidense en liderar la Iglesia católica mundial.

• Nuevo obispo designado: ¿Está permitiendo el Papa Leo que la disputa con Trump se intensifique aún más?
• Un año bajo León XIV: Ahora el Papa de repente muestra los dientes

El título de la encíclica puede significar dos cosas: Humanitas puede traducirse como humanidad y humanidad; para Leo, la gran diferencia con la inteligencia artificial y las máquinas. El subtítulo dice: “Sobre la preservación de la humanidad en la era de la inteligencia artificial”. El texto también aborda cuestiones como la guerra y la paz, así como el mundo del trabajo.

Leo destaca que la inteligencia artificial puede ser una “ayuda valiosa” en muchos casos. Pero advierte sobre todo de los riesgos, por ejemplo que sólo unos pocos poderosos que ya poseen muchas propiedades se beneficien de ello. “Los grupos pequeños y muy influyentes pueden dirigir la información y el consumo, determinar los procesos democráticos e influir en la dinámica económica”.

Por tanto, es “esencial que el uso de la IA -especialmente cuando se trata de bienes públicos y derechos fundamentales- vaya acompañado de criterios claros y controles efectivos”. Leo propone un “código de ética”. También debe regularse el tratamiento de los datos de los usuarios. Pero esto no sirve de nada “si esta moral está determinada por unos pocos”. Esto a menudo se interpreta como una crítica a los multimillonarios tecnológicos estadounidenses.

El pontífice se ha mostrado especialmente crítico con los efectos de la inteligencia artificial en los conflictos. Los sistemas de armas autónomos respaldados por inteligencia artificial han hecho que las guerras sean “más factibles”, dice la carta. La IA debe ser “desarmada”. En ningún caso las máquinas deberían decidir por sí solas sobre la vida o la muerte.

El propio León estuvo presente cuando se presentó la encíclica en el Vaticano, la primera para la Iglesia. En una breve declaración advirtió sobre la vigilancia ante los rápidos acontecimientos. También estuvo presente el cofundador del grupo de inteligencia artificial Anthropic, el multimillonario tecnológico Chris Olah. La empresa está en conflicto con el presidente estadounidense, Donald Trump, porque no quiere que sus modelos de inteligencia artificial estén disponibles para sistemas de armas autónomos. Recientemente, Trump había criticado varias veces tanto a Anthropic como al Papa.