La semana pasada el Papa León XIV publicó su primera encíclica, Magnifica humanitas. El primer texto de ese tipo en un pontificado siempre concentra la atención, porque define en gran medida los temas que el nuevo jefe de la Iglesia Católica, en cuanto líder espiritual de cerca del 20% de la población mundial, considera prioritarios abordar. Si bien el documento es relevante primeramente para el mundo católico, en el caso del primer trabajo de ese tipo de León XIV sus alcances han sido mucho más amplios, no solo por tratarse del primer Papa estadounidense -quien además ha protagonizado varios cruces con representantes del gobierno de Donald Trump-, sino principalmente por el tema que decidió abordar: los alcances de la Inteligencia Artificial (IA).

Desde su elección en mayo del año pasado, el Papa dejó claro su interés por enfrentar los desafíos de las nuevas tecnologías en la sociedad. Su decisión de elegir el nombre León no fue casual, sino que hace referencia a León XIII, autor de la encíclica Rerum Novarum, base de la Doctrina Social de la Iglesia Católica. Pero más allá de los alcances que el nuevo texto papal tiene en ese ámbito y que comprometen al mundo católico, lo relevante del documento es la mirada amplia del pontífice sobre la realidad que plantea para la sociedad el avance de la IA. “Las nuevas tecnologías”, escribe León XIV, “abren un horizonte que se extiende en direcciones que aún no podemos prever por completo”. Por ello, sostiene, es necesario y responsable reflexionar sobre sus eventuales efectos.

En ese sentido, el pontífice alerta no solo sobre la necesidad de que los seres humanos tomen conciencia sobre los desafíos que implica el uso de la IA y el reconocimiento de que no se trata de una tecnología neutra, sino también sobre el creciente poder de las corporaciones tecnológicas. Una realidad que, según él, ya amenaza con sobreponerse al poder de los estados. “Estos grandes actores económicos y tecnológicos”, escribe, “de hecho determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación”. Un panorama preocupante, dice, porque “cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público y crece el riesgo de un desarrollo distorsionado”. Por ello, insiste en la necesidad de avanzar hacia una mayor transparencia en torno al diseño y desarrollo de la IA.

León XIV alerta también sobre los riesgos que las plataformas digitales y los sistemas de IA pueden representar para la democracia, porque “herramientas que podrían favorecer el debate y la participación se utilizan a menudo para construir narrativas sesgadas y difuminar el límite entre lo verdadero y lo falso”. Agrega que “cuando la pregunta sobre lo que es verdadero pierde interés, la vida democrática se debilita”. Y no solo eso, “el desinterés por la verdad”, apunta el Papa, acaba conduciendo “lenta pero irrevocablemente hacia el totalitarismo”. Para hacer frente a ello, León XIV sugiere avanzar hacia nuevos marcos jurídicos y mecanismos de protección eficaces. Pero más allá de ello, es valioso que el líder de la Iglesia Católica decida poner en el centro de la atención un debate que el rápido avance de la IA hace cada vez más urgente.