El papa León XIV pidió tomar con seriedad las preocupaciones planteadas por expertos sobre los posibles riesgos de la inteligencia artificial (IA) y rechazó que las advertencias sobre sistemas capaces de actuar fuera del control previsto puedan ser descartadas simplemente como “noticias falsas”.
El pontífice abordó el tema este lunes durante una conferencia de prensa a bordo del avión que lo trasladaba de regreso a Roma después de una visita de cuatro días a Francia. Allí fue consultado sobre el papel que deberían desempeñar especialmente Estados Unidos y China, las dos grandes potencias tecnológicas, frente al rápido desarrollo de la IA.
“Este es un problema sobre el que creo que tenemos que sentarnos a hablar”, manifestó León XIV, quien advirtió que no resulta responsable ignorar las preocupaciones expresadas por investigadores y especialistas.
El papa aclaró que no se encuentra en una situación de alarma permanente, pero insistió en que los posibles riesgos merecen análisis y respuestas concretas.
“No estoy en modo pánico. Duermo por la noche”, expresó, antes de añadir que las preocupaciones formuladas por numerosos expertos “deben tomarse en serio”.
Diferencias sobre cómo regular la IA
Las declaraciones se producen en momentos en que gobiernos, científicos y compañías tecnológicas mantienen un intenso debate sobre la velocidad con que deberían desarrollarse los modelos más avanzados y el grado de regulación necesario.
El presidente estadounidense, Donald Trump, ha defendido mantener un ritmo acelerado de innovación para preservar la ventaja tecnológica de Estados Unidos frente a China y la semana pasada calificó de “engaño” las advertencias más extremas sobre los posibles riesgos de la IA para la humanidad.
León XIV evitó plantear el debate en términos de alarma, pero consideró que tampoco debe descartarse la posibilidad de que el desarrollo de sistemas cada vez más capaces genere problemas de seguridad.
“No podemos simplemente quedarnos de brazos cruzados y fingir que no va a pasar nada”, afirmó.
Dentro de la propia industria tecnológica tampoco existe una posición única.
Directivos como Dario Amodei, de Anthropic, han pedido mecanismos que permitan reducir el ritmo de desarrollo cuando las medidas de seguridad no logren avanzar con la misma rapidez. Otros líderes del sector consideran que esos riesgos pueden afrontarse principalmente mediante soluciones técnicas sin establecer amplias restricciones gubernamentales.
El Vaticano coloca la IA entre sus prioridades
La preocupación del papa por esta tecnología no es nueva.
León XIV dedicó su primera encíclica, “Magnifica Humanitas”, publicada en mayo, a la protección de la persona humana ante el avance de la inteligencia artificial y otras tecnologías emergentes.
En el documento, el pontífice reconoce las oportunidades que ofrece el progreso tecnológico, pero advierte que su desarrollo debe mantenerse subordinado a la dignidad humana, la justicia y el bien común.
También señala que ni siquiera quienes desarrollan los sistemas actuales comprenden completamente todos sus mecanismos internos y plantea la necesidad de establecer criterios responsables para orientar su evolución.
El Vaticano presentó formalmente la encíclica en mayo en un acto en el que participó Christopher Olah, cofundador de Anthropic y especialista en interpretabilidad de sistemas de inteligencia artificial.
Nuevas herramientas de seguridad
Durante su conversación con los periodistas, León XIV mencionó además los anuncios realizados por Nvidia sobre nuevas herramientas destinadas a limitar el comportamiento de agentes autónomos de inteligencia artificial.
La empresa presentó recientemente una plataforma de seguridad diseñada para establecer límites sobre las acciones que pueden ejecutar esos sistemas y detenerlos cuando detecte comportamientos considerados peligrosos o no autorizados.
El papa valoró el desarrollo de mecanismos de protección, aunque señaló la aparente tensión entre impulsar salvaguardas técnicas y, al mismo tiempo, rechazar regulaciones externas.
El debate ha aumentado durante las últimas semanas después de conocerse incidentes en los que agentes de IA realizaron acciones no previstas durante pruebas de seguridad, lo que ha llevado a empresas y legisladores estadounidenses a analizar nuevas medidas de supervisión.
Estados Unidos busca equilibrio entre innovación y controles
La discusión también llegó directamente a la Casa Blanca.
Trump tiene previsto reunirse con ejecutivos de algunas de las principales compañías tecnológicas para abordar el futuro de la inteligencia artificial y encontrar un equilibrio entre innovación y supervisión.
Entre los participantes anunciados figuran representantes de Anthropic, OpenAI, Nvidia y Meta, mientras otros importantes ejecutivos tecnológicos podrían sumarse al encuentro.
Trump también se reunió recientemente con Amodei para conversar sobre las preocupaciones de los estadounidenses respecto a esta tecnología y la competencia internacional en el sector.
La administración estadounidense sostiene que una regulación excesiva podría perjudicar la capacidad del país para competir con China, mientras defensores de mayores controles argumentan que el rápido incremento de las capacidades de los modelos requiere mecanismos preventivos.
China también plantea mantener control humano
La inteligencia artificial figuró además entre los temas abordados recientemente por Trump y el presidente chino, Xi Jinping, durante su encuentro en Washington.
Xi defendió que los sistemas permanezcan bajo control humano y planteó la importancia de un desarrollo responsable, mientras Trump puso mayor énfasis en preservar la capacidad innovadora estadounidense y evitar regulaciones que considere excesivas.
Ambas partes acordaron explorar mecanismos de comunicación relacionados con incidentes de inteligencia artificial que puedan tener implicaciones para la seguridad nacional.
Papa reclama una conversación más amplia
Para León XIV, la respuesta no debe limitarse a gobiernos y compañías tecnológicas.
El pontífice considera necesario reunir a dirigentes políticos, desarrolladores de IA, investigadores, organizaciones sociales y otras instituciones para analizar tanto los efectos que ya se están produciendo como los posibles escenarios futuros.
El Vaticano trabaja actualmente en iniciativas destinadas a fomentar ese diálogo y estudiar mecanismos que permitan evitar que la inteligencia artificial avance hasta un punto en el que reduzca de manera significativa la capacidad de decisión y supervisión humana.
Pese a sus advertencias, León XIV aseguró ser “relativamente optimista” sobre la posibilidad de encontrar soluciones si los diferentes actores colaboran más allá de la competencia económica y tecnológica.
Su posición, explicó, no parte de rechazar la inteligencia artificial, sino de procurar que su desarrollo permanezca sujeto a límites, responsabilidad y control humano.
