“Cuando otro tipo de máquina, el automóvil, comenzó a coexistir con el ser humano, se necesitó un Código del Tránsito para evitar accidentes; ahora necesitamos algo similar para coexistir con las nuevas máquinas”, dice Paolo Benanti sentado en una pequeña sala del convento de San Francisco, en Santiago, a pocas horas de llegar a Chile para ofrecer una conferencia en la Universidad Católica, con ocasión del lanzamiento de la iniciativa Nodo IA. Fraile franciscano de la tercera orden regular, Benanti es también el principal asesor sobre inteligencia artificial (IA) del Vaticano. Por eso, su agenda ha estado recargada, en especial tras la publicación de la encíclica Magnifica Humanitas, de León XIV. Un texto que, asegura, “probablemente no será ni el primero ni el último del Papa sobre el tema”.

Profesor de la Pontificia Universidad Gregoriana de Roma y también de la Universidad de Seattle, en Estados Unidos, Benanti suma en su currículum una larga lista de cargos: presidente de la comisión asesora sobre Inteligencia Artificial e Información del gobierno italiano; integrante del consejo asesor sobre IA de Naciones Unidas y, desde el año pasado, titular también de la comisión de ética del observatorio de IA del Ministerio del Trabajo de Italia. Es, además, autor de más de una veintena de libros e investigaciones sobre el tema, donde destaca El colapso de Babel, una reflexión sobre la crisis de la utopía digital, un tema en el que ahonda en esta entrevista. “Estamos despertando de los sueños de libertad que se generaron en los primeros años de internet”, dice.

Usted publicó en marzo, en la revista francesa “Le Grand Continent”, un artículo que causó mucho revuelo, titulado “la herejía estadounidense”, donde plantea que los dueños de las grandes empresas tecnológicas son mucho más que simples hombres de negocios, están redefiniendo el mundo. ¿Por qué sostiene eso?

Tomemos el lugar en el que nos encontramos, este convento: ¿Se construyó así al azar o porque, de alguna manera, detrás de eso había también un horizonte, una idea? El hecho de que aquí se imaginara la vida en comunidad dio forma a que los espacios fueran de cierta manera. Lo que esto nos dice es que no hay forma de construir algo que no refleje las creencias que tenemos. Cuando Winston Churchill tuvo que reconstruir el Parlamento británico tras el bombardeo nazi, lo reconstruyó exactamente igual, diciendo: “First we shape buildings; therefore, buildings shapes us” (Primero les damos forma a nuestros edificios, luego los edificios nos dan forma a nosotros). Por lo tanto, es inevitable que cuando creamos un software que cambia algunas cosas es porque pensamos que el ser humano tiene ciertas necesidades, intenciones u otras cosas. Pero de la misma forma en que nosotros diseñamos ese software, ese software nos influye. Pensemos en Instagram, pensemos en las redes sociales. Leer cuál es el horizonte que tienen algunas personas nos ayuda a entender el porqué de ciertas decisiones.

¿Esos cambios son de infraestructura, son cambios sociales, en qué consisten?

La pregunta que debemos hacernos es: ¿Cómo es posible que algo tan intangible como el software se haya convertido realmente en un poder tan grande? Uno de los cambios radicales que estamos presenciando en nuestra sociedad es el surgimiento de lo que podríamos definir como la “realidad definida por el software”. Usted compró un celular y pagó entre 500 y 1.500 dólares, pero en realidad lo que usted compró es un paralelepípedo de plástico, aluminio, cristal y silicio que no hace nada sin un software que le dé vida. Y ese software a usted no le pertenece. Posee el hardware, pero no el software. El software solo lo tiene bajo licencia. Por eso, quien posee el software determina lo que usted puede o no puede hacer con ese celular, retiene una parte del poder sobre ese objeto que es suyo. Si yo le vendo un lápiz, usted puede escribir lo que quiera con él, pero intente pedirle a una inteligencia artificial china que escriba algo sobre la plaza de Tiananmen. Esta transferencia de poder, que permanece en manos de quienes crean el software, hace que quienes lo crean tengan un poder enorme. Esta es la transformación radical que estamos viviendo. El segundo elemento de todo esto es que las manos que controlan el software hoy son muy pocas y esto hace que no solo hayamos transformado la fuente de poder, sino que, además, la hemos concentrado en unas pocas manos. Y el tercer elemento es que esas pocas manos no son ideológicamente neutras, es decir, tienen un interés especial en subrayar que la democracia es un experimento fallido y que deberíamos tomar otros rumbos.

¿Cree entonces que detrás de las mentes de las grandes empresas tecnológicas hay una amenaza para la democracia liberal?

Hay quienes dicen que sí. Hay quienes consideran que el sistema político actual ha fracasado y que, por lo tanto, es necesario tomar otros rumbos. No todo el mundo en Silicon Valley piensa igual, pero existe esa opinión, y eso nos lleva a afirmar que elegir hoy entre un software u otro es también una decisión política: es votar con el software en la dirección que queremos.

¿Ve también una amenaza para los Estados-nación, tema del que habla el Papa en la encíclica Magnifica Humanitas?

Lo primero que debemos preguntarnos es si los Estados-nación siguen teniendo soberanía. El pasado agosto ocurrió algo interesante. Un juez de la Corte Penal Internacional de La Haya, ciudadano francés, recibió un expediente con acusaciones de crímenes de guerra contra Netanyahu y él simplemente cumplió con su deber de oficio. Es decir, si alguien recibe una denuncia, abre un expediente, abre una investigación para ver si hay fundamento o no. Inmediatamente, Trump incluyó a este juez en la lista de sospechosos, de criminales internacionales. ¿Qué pasó? Pues le han bloqueado todos los correos electrónicos, le han bloqueado las tarjetas de crédito. El banco ya no le ingresa el sueldo, porque todos los sistemas son estadounidenses y están conectados con los sistemas estadounidenses. Intentó trabajar en la Corte Penal de La Haya, pero como la Corte Penal de La Haya utiliza Google Workspace, ya no pudo trabajar. A pesar de ser ciudadano francés y residir en Francia, sufrió, como Spinoza en el siglo XVII, una excomunión. Entonces, uno se pregunta: ¿Siguen teniendo los gobiernos poder territorial? Esta es una pregunta que hay que vivir en primera persona. Esta es más una época de preguntas que de respuestas.

Usted ha hablado de algocracia, ¿es eso la algocracia?

Sí, es una forma de democracia en la que un algoritmo determina qué derechos tienes o no tienes, determina qué puedes hacer o no puedes hacer. Por lo tanto, en cierto sentido hemos pasado de la ciudadanía al nombre de usuario y contraseña. Este es precisamente el desplazamiento de poderes. Lo que está ocurriendo no es un cambio de producto, sino algo más radical que hay que reflexionar, cuestionar y analizar. Esta es la etapa que estamos atravesando.

En su libro El Colapso de Babel dice que hemos pasado por distintas fases frente a las nuevas tecnologías. ¿Fuimos ingenuos ante el avance de las nuevas tecnologías?

Hay dos cosas: fuimos ingenuos, pero las nuevas tecnologías han avanzado muy rápido. Además, como las define Adam Greenfield, son “tecnologías radicales”, es decir, el smartphone se ha comido el contenido de nuestros bolsillos. Hoy he venido aquí desde Roma y no llevo billetes en el bolsillo ni nada de lo que solía llevar antes. Si tengo que hacer algún pago, la tarjeta electrónica está dentro del celular y no llevo mapas. Antes, lo primero que hacíamos cuando llegábamos a un lugar era sacar un mapa; ahora tenemos Google Maps. Eso es lo radical: las nuevas tecnologías se comieron las relaciones entre nosotros, se comieron una parte de la realidad. A esto se suma la velocidad, y es lógico que nos haya dejado un poco desconcertados. El hecho de que se presente como una tecnología inmaterial hace que no nos pongamos en alerta de inmediato. Si veo a alguien entrar con una pistola, me alarmo más; con un smartphone, me alarmo menos. Todos estos son elementos que explican esta especie de inercia entre acción y reacción.

¿No fuimos capaces de ver lo que venía?

Esto es extraño, porque cuando nació este mundo digital, nació en el ámbito militar y en el de las grandes empresas, pero en los años 70 los hippies de Silicon Valley nos lo presentaron como un instrumento de libertad. Cuando nació internet no había contraseñas, tuvimos que introducirlas más tarde, cuando nos enfrentamos a la realidad, pero es algo que ha ocurrido en el lapso de 15 años. Si nos fijamos en lo que pasó con la Revolución Industrial, pasaron entre 60 y 70 años antes de reaccionar. Aquí han pasado 10 o 15. Hay una especie de justificación por la velocidad radical con la que esto ocurre. Pero está claro que tras haber concluido la segunda década de este siglo, ya no podemos seguir fingiendo que esto no existe. En la primera década de este siglo, lo digital y la conectividad se convirtieron en algo permanente con el smartphone. Al final de esa primera década se produjeron las Primaveras Árabes y pensamos que se trataba de una herramienta de libertad. Al final de la segunda década, con los disturbios del Capitolio, en Washington, nos dimos cuenta exactamente de lo contrario. Y así, ahora estamos en esta tercera década, en la que lo digital se ha convertido incluso en el motor de la guerra. Por lo tanto, nos estamos despertando de esos sueños de libertad para ver que, como en todas las cosas humanas, al final priman las dinámicas humanas que son también dinámicas de maldad, de pecado, de fuerza de unos sobre otros.

“En los años 70, los hippies de Silicon Valley nos lo presentaron como un instrumento de libertad. Cuando nació internet no había contraseñas, tuvimos que introducirlas más tarde, cuando nos enfrentamos a la realidad”.

Para enfrentar el avance de estas tecnologías se plantea la necesidad de regularlas. ¿Cómo se logra eso?

Comencemos con el por qué es necesario regular la IA. Cuando otro tipo de máquina, el automóvil, empezó a coexistir con los seres humanos, se necesitó el Código de Tránsito para evitar accidentes. Pues bien, para coexistir con estas máquinas necesitamos algo similar. No es algo que vaya en contra del mercado, porque lo estandarizado potencia el mercado. Tomemos los enchufes eléctricos. El hecho de que tengamos enchufes eléctricos iguales hace que los aparatos que se venden en Italia y en Chile funcionen bien. Por lo tanto, lo estandarizado también es algo que responde a las necesidades del mercado. Y la primera forma de regulación que necesitamos es la de establecer ciertas normas y estándares. La segunda es un poco más sofisticada y sirve, sobre todo, para proteger a las categorías más vulnerables. Por ejemplo, el sistema de cinturones de seguridad no lo instalan las empresas automotrices por iniciativa propia, sino que se les exigió hacerlo. Entonces, ese costo debe justificarse por el bien común. Y ¿quién lo debe hacer? Sería deseable que se hiciera a nivel global, pero si los grandes mercados dan el primer paso, los demás los seguirán, porque a las empresas les interesa poder vender en los grandes mercados.

Usted forma parte de la comisión del gobierno italiano sobre inteligencia artificial y medios. ¿Qué peligros ve para los medios con la inteligencia artificial?

La democracia necesita que el ciudadano pueda formarse una opinión, y el periodismo es fundamental. El periodismo es algo que alimenta la democracia. Para que el periodismo pueda existir, necesita un sector industrial que pueda pagar a los periodistas. Y la inteligencia artificial corre el riesgo de destruir este sector industrial. Y esto no es un ataque a la democracia, pero podría ser un efecto secundario. Por lo tanto, la democracia debe proteger sus raíces, su capacidad para seguir siendo lo que es. No necesitamos ciudadanos que piensen todos de la misma manera, sino ciudadanos que puedan formarse una opinión informada, y el Estado debe vigilar a esta máquina que puede perjudicar al mercado. Un gobierno debe vigilar esto con atención, porque corre el riesgo de socavar sus bases, de cortar el tronco sobre el que se sienta.