Algo curioso ocurrió hace un par de semanas en el Vaticano y no se trata de un milagro en el sentido tradicional de la palabra.

Mientras el Papa León XIV publicaba una encíclica advirtiendo sobre los riesgos de una inteligencia artificial que termine imponiendo su lógica sobre la condición humana, Christopher Olah, uno de los cerebros detrás de Anthropic, reconocía que los modelos más avanzados están desarrollando estructuras internas que parecen asemejarse funcionalmente al miedo, la satisfacción o a ciertas formas de razonamiento que todavía no comprendemos del todo.

No significa que las máquinas estén sintiendo. No hay evidencia de conciencia ni de experiencias subjetivas, pero sí significa algo igualmente perturbador. Estamos comenzando a observar comportamientos emergentes que sorprenden incluso a quienes construyeron estas tecnologías.

La escena tiene algo de ironía histórica. Durante siglos, la religión y la ciencia han protagonizado algunos de los grandes debates de la humanidad. Ocurrió cuando Galileo desafió nuestra posición en el universo y volvió a ocurrir cuando Darwin cuestionó la idea de que ocupábamos un lugar separado del resto de la naturaleza. Hoy la discusión reaparece desde otro ángulo, esta vez impulsada por una tecnología creada por nosotros mismos.

Lo fascinante es que Silicon Valley y el Vaticano parecen estar llegando al mismo lugar por caminos completamente distintos. Unos estudian el código mientras los otros estudian el alma, pero ambos terminan enfrentados a una pregunta que sigue sin respuesta: ¿qué es exactamente aquello que nos hace humanos?

Durante años nos tranquilizó pensar que siempre existiría una frontera imposible de cruzar. Primero las máquinas superaron nuestra capacidad de cálculo. Luego comenzaron a almacenar más conocimiento del que cualquier persona podría recordar en toda una vida y más tarde aprendieron a escribir, crear imágenes, programar y sostener conversaciones. Cada vez que una barrera caía, levantábamos otra más atrás.

Lo que me parece diferente de esta discusión, respecto de todas las anteriores, es que ya no gira en torno a la inteligencia de las máquinas, sino a nuestra propia definición de humanidad.

El Papa plantea una idea particularmente interesante cuando habla de “desarmar” la inteligencia artificial. No se refiere a apagar servidores ni a detener el progreso tecnológico. Se refiere a algo mucho más profundo. Él nos pide impedir que deleguemos en sistemas automatizados decisiones que requieren juicio moral, responsabilidad o conciencia.

El riesgo no está en que las máquinas se vuelvan demasiado humanas, sino en que nosotros aceptemos una visión cada vez más mecanizada de lo humano y terminemos creyendo que todo puede optimizarse, medirse, predecirse o reducirse a patrones de datos.

La paradoja es que cuanto más intentamos entender cómo funciona la inteligencia artificial, más terminamos observándonos a nosotros mismos. Los investigadores abren la caja negra de los modelos para descubrir cómo razonan y, en ese proceso, descubren que muchas de las preguntas que aparecen dentro de la máquina son las mismas que llevamos siglos haciéndonos sobre nuestra propia mente.

Quizás el verdadero fantasma no sea una inteligencia artificial que comienza a parecerse a nosotros. Puede que sea el reflejo de una humanidad que todavía no logra comprenderse completamente a sí misma. Y si ese fuera el caso, el gran aporte de la inteligencia artificial podría no ser responder nuestras preguntas, sino obligarnos a formularlas mejor.

*El autor de la columna es fundador de Mapcity y Apanio, advisor y director de startups, autor de “Piensa al revés”, “Hackea tu mente” y “TÚ”.