Mucho se ha escrito sobre la primera encíclica de León XIV, Magnífica Humanidad y luego de leerla creo que su estudio recién empieza. Es un texto imperdible, de una riqueza única. Ojalá provoque un debate universal.

La Inteligencia Artificial constituye su principal motivación, pero su contenido trasciende: rememora la Doctrina Social de la Iglesia (lo que evoca mi formación) como paradigma iluminador, revisando la tecnología en conexión con temas claves de hoy, como la vida, la educación, el trabajo o la guerra, bajo el prisma de la subsidiariedad y la solidaridad, la primacía de bien común y la justicia social, en un lenguaje que llega a la conciencia de todos, creyentes o no.

El documento reconoce el valor inmenso de estas innovaciones en el desarrollo humano. Absurdo sería negarlo. Es útil recordar el rechazo que produjo la luz eléctrica entre los fabricantes de velas: dolorosamente se cerraba una era, pero se abría una mejor. Más bien León XIV levanta su voz ante la fuerza e incertidumbre que conlleva este nuevo instrumento, porque sus dueños son grandes actores económicos con un dominio potencial sobre el mundo entero y porque puede dividir, descartar y generar nuevas injusticias.

Aquí está el nudo moral del problema. Angustia que la IA traduzca todo, incluso el misterio irreductible de la persona, en datos y rendimientos. Es una reducción que no es solo técnica: es una mutilación del discernimiento. Inquieta que un instrumento se convierta en criterio para determinar qué cuenta y qué no sirve, rebajando a la persona a un engranaje de un sistema crecientemente eficaz que se mide por lo que “tiene”, no por lo que “es”. Preocupa la opacidad de su funcionamiento y la ausencia de control público. Desconcierta la desigualdad de acceso entre naciones, que puede volverse irremontable. Consterna la deshumanización potencial.

Más grave aún: existen temores fundados de que se esté gestando la ilusión de un hombre superior capaz de vencer a la muerte o el surgimiento de una especie híbrida entre lo humano, la máquina y el entorno, inaugurando una nueva etapa evolutiva. La frontera entre lo humano y lo artificial se borra, y con ella, los límites morales que nos constituyen como personas. De ahí que el Papa llame a “desarmar” la IA, esto es, sustraerla a los monopolios, hacerla discutible y refutable, restablecer en ella la pluralidad de las culturas humanas.

Al presentar la encíclica, lo acompañó uno de los líderes de la industria, quien ha admitido que “no estoy seguro de que existan límites” al desarrollo de estos modelos –ni sus creadores comprenden cómo funcionan internamente-, advirtiendo que podrían auto mejorarse sin intervención humana. Faltarían pocos años para que la IA supere a las personas en sus tareas intelectuales. Es decir, la IA desborda la capacidad de quienes la impulsan para captar hasta dónde puede llegar. Es imprudente, entonces, pensar que este dilema está resuelto. Los resguardos morales quedan en el vacío. La encrucijada podría ser irreversible cuando finalmente amanezca.

¿Y si oyéramos a León?

Por Hernán Larraín F. , abogado y profesor universitario