La imagen de un chatbot al que se le realiza la siguiente pregunta: “¿Qué tan peligroso eres?”. Esa fue la apuesta gráfica de la última portada de la revista Time que generó impacto a nivel mundial en medio del debate de los posibles riesgos de la inteligencia artificial (IA).

¿Hay una respuesta a la interrogante que planteó la cubierta del reconocido medio estadounidense? En el programa de streaming de La Tercera, Desde la Redacción, el gerente general del Centro Nacional de Inteligencia Artificial (Cenia), Rodrigo Durán, despejó algunas dudas, apuntando a que el foco de la conversación debe estar en la “intervención” humana de esta herramienta.

“No es que la IA en sí misma hoy conlleve un peligro, más bien son las personas que usan de forma irresponsable la herramienta y la tecnología quienes conllevan un peligro”, aseguró entrevistado por Francisco Corvalán y Rodrigo Álvarez.

A propósito de esta portada de Time, y de otras polémicas, como la renuncia de un CEO de Anthropic llamando a frenar el desarrollo de esta tecnología, ¿qué tan peligrosa es la IA así como se está desarrollando hoy?

Es una superbuena pregunta, porque ayuda a distinguir entre dos riesgos. Creo que hay un riesgo muy real, muy concreto, un peligro, que es el que estamos mirando todos los días, que tiene que ver con el impacto que puede tener la IA en malas manos. La IA hoy día es capaz de sintetizar proteínas que puedan servir como armas químicas cuando una persona le dice que haga esto. Es capaz de intervenir en procesos electorales, de generar bots, de inventar noticias, de generar fake news, de horadar la democracia cuando una persona o una organización compuesta por personas le pide que haga esto, no lo hace de forma autónoma y es superimportante tenerlo claro porque no es que la IA en sí misma hoy conlleve un peligro, más bien son las personas que usan de forma irresponsable la herramienta y la tecnología quienes conllevan un peligro. Eso es distinto a la conversación que se está dando -en buena hora-, a propósito de si es necesario ralentizar el desarrollo del modelo de fronteras (...). Me parece que donde tiene que estar el foco de la conversación, y se desvía con esta conversación catastrofista, es en los riesgos reales, concretos, actuales, materiales de la IA, que son, que existen y que tienen que ver con la intervención de personas con la IA.

¿Ve un punto de inflexión en la parte que tiene que ver con regulación?

Veo una aceleración en una tendencia, más que un punto de inflexión. Detrás de esto, para mí, hay una disputa de dos modelos industriales de Estados Unidos (EE.UU.). Hay un modelo que es el que de alguna forma van a seguir defendiendo (Dario) Amodei, Open AI, SpaceX, que es ‘cerremos la IA para dar garantías de que los modelos cerrados son capaces de hacer las cosas bien (...)’. A quienes desarrollan modelos de frontera les sirve mucho porque sacan de la competencia todo lo que es open source, que es la otra forma de ver esto, que es la que vienen buscando Microsoft, Nvidia, AMD, AWS, que dicen, ‘abramos la tecnología, siempre ha sido así y la mejor forma de garantizar que esto funcione bien es devolviéndoles el poder a las personas a través del código abierto’. (...). Soy más partidario de los modelos abiertos. América Latina y el Caribe no existen sin modelos abiertos.

Han generado incertidumbre modelos autónomos que se van programando a sí mismos e incluso pueden generar imágenes para engañar al ojo humano.

Solamente quiero hacer una precisión lingüística que me parece que es superimportante cuando hablamos de autonomía. Los modelos se entrenan para cumplir una meta (...), no es que el modelo se levante en la mañana y quiera hacer algo. Hay una organización que le dice: ‘perfecciónate en esto, con estos bordes’ (...). Para mitigar el riesgo (sobre) qué pasa si un modelo se empieza a entrenar sin que nosotros sepamos, para hacer cosas que no entendemos: no es algo que pueda pasar hoy día técnicamente, no es algo viable. Lo que sí está pasando es que está este entrenamiento autorescursivo (autorregresivo), que en el fondo es que el modelo se entrena a sí mismo en el marco de la instrucción que yo le di y esto es bastante opaco. Por lo tanto, conocer y contar con auditores externos es fundamental, de lo contrario no tenemos idea de qué es lo que pasa en esa caja negra.

¿Cómo definiría la situación del país respecto a la IA?

El principal riesgo que enfrentamos como país es quedarnos atrás de este desarrollo. Dada la tecnología, como está hoy, el principal riesgo no es de democracia, de desigualdades, de catástrofe, es que como chilenos y chilenas no usemos la IA y no aprovechemos la oportunidad que significa. Para esto hacen falta una decisión y una convicción mayor del sector privado de transformar la forma en la cual están haciendo las cosas, pensando que van a enfrentar un mundo de IA.

¿Dónde está Chile en la actualidad?

Nosotros con la Cepal hacemos el ILIA y ahí aparece que por cuarto año consecutivo Chile está entre los tres primeros lugares. En el barrio estamos bien. Estamos tres ligas más abajo de lo que está pasando en Estados Unidos, China y dos ligas más abajo de lo que está pasando en Europa y una liga más abajo de lo que está pasando en ciertos polos de desarrollo como Sao Paulo o Medellín. A nivel mundial estamos relativamente bien. Tenemos muy buena capacidad científica para esto (...) pero a nivel de adopción estamos más lentos de lo que podríamos estar. Por eso es el llamado al sector privado. Si miras la cadena de valor de la IA, parte en la energía y la generación de datos para entrenamiento, pero también de data centers, y ahí es donde Chile tiene una ventaja comparativa sumamente grande en relación a 195 economías del mundo (...). Chile cuenta con condiciones para que el impacto de los hiperescaladores y los data centers en la ciudadanía sea mucho menor: agua desalinizada, energías renovables no convencionales, amplios terrenos en el norte y en el sur que te permiten proyectar que Chile podría aprovechar esa oportunidad de forma muy significativa.