Marcus Du Sautoy: “Necesitamos que la Inteligencia Artificial esté de nuestro lado”

Marcus du Sautoy

El camino de los algoritmos para tener una vida independiente de los humanos ya comenzó, y es cosa de tiempo para que sean capaces de desarrollar una conciencia propia, plantea este matemático y comunicador científico. Pero lejos de significar una pesadilla distópica, dice, esto puede permitir que seamos testigos de una nueva era donde la creación artística no sea sólo un patrimonio humano. Marc Du Sautoy se presentará hoy a las 12.30 en el Festival Puerto de Ideas Antofagasta (online).




Cuando uno escucha a Marcus Du Sautoy es inevitable pensar no tanto en ese texto de Philip K. Dick, sino en la frase que lo titula: ¿Sueñan los androides con ovejas eléctricas? La reflexión arruinaría esa sintaxis perfecta, pero hoy la pregunta sería más bien si acaso los androides pueden escribir como Philip K. Dick, hacer una película como Ridley Scott o componer música como Vangelis. Todo eso por iniciativa propia. Du Sautoy no duda de que llegará ese día.

Británico, matemático doctorado en Oxford y académico de esa misma universidad, frecuente invitado estelar en documentales de divulgación científica y eximio conferencista, Du Sautoy es, además, titular de la Cátedra para el Entendimiento de la Ciencia. Que su antecesor en ese puesto haya sido el célebre biólogo evolutivo Richard Dawkins provocó en su momento más interés en quienes le preguntaban que en él por responder, a juzgar por las entrevistas de la época. Ni la religión ni Dawkins le importan demasiado. Lo suyo es hacerse preguntas inquietantes que suenan bien y se contestan mucho mejor. Su libro anterior se llama Lo que no podemos saber: exploraciones en la frontera del conocimiento. Hoy estamos acá, La Tercera y él, juntos en algún espacio virtual a través de Zoom, para hablar de la charla que lo “trae” al Festival de Ciencia Puerto de Ideas Antofagasta, que comenzó el lunes pasado y que se extenderá hasta mañana domingo 18.

Hoy, pasado el mediodía, Du Sautoy presentará su charla basada en su libro más reciente, El código de la creatividad: Arte e Innovación en la era de la Inteligencia Artificial. Ahí, el matemático explora diferentes ejemplos que nos permiten aventurar que las máquinas que hasta ahora reproducen nuestras instrucciones -incluida la orden de aprender solas para mejorar su trabajo, dicho sea de paso-, darán en algún momento el salto a crear, incluso en la dimensión más artística del término. Y si creemos que el arte es una manifestación de la vida interior de una persona, bueno, ¿está Du Sautoy planteando que una inteligencia artificial puede tener una “vida interior”? “Está relacionado con una de las cosas que planteé en mi libro anterior, Lo que no podemos saber: ¿Podemos de verdad saber si algo tiene un mundo consciente interior? O sea, te veo en mi pantalla, pero quizás eres un avatar ¿Estamos haciendo un test de Turing? O quizás yo creé esto durante el confinamiento, un avatar que responda todas las entrevistas por mí…”, dice bromeando (es de suponer).

Luego continúa. “Hemos visto un cambio de fase en los últimos años: algo nuevo está pasando. Y creo que en algún punto del camino veremos otro cambio de fase donde el código realmente tenga un mundo interior, consciente de ello, que entienda… No veo nada tan especial sobre esto que nosotros llamamos ‘alma’ en nuestra conciencia que no pueda ser reproducida dentro de una construcción lo suficientemente compleja. No creo que tenga que estar hecha de carbono y tener un ADN. Creo que llegará un momento en que mi iPhone empiece a tener conciencia propia. El verdadero desafío es: ¿cómo sabremos que eso ha sucedido?”. Reiteramos, lo suyo es hacerse preguntas inquietantes.

Déjame que te cuente

Este Du Sautoy que responde esta entrevista bien podría ser un sofisticado avatar, resultado de un algoritmo que combina muy bien todas las fórmulas correctas para interesar a su audiencia: energía, anécdotas, ejemplos simples, humor. Una revisión de algunas de sus charlas online (ejercicio recomendado, por lo demás) es muy entretenido e interesante, desde luego. Pero Du Sautoy sabe marcar muy bien la diferencia del branding personal de la comunicación de la ciencia. Dice que varios ejemplos le demostraron muy temprano que se podía ser científico de excelencia y comunicador, pero ninguno como un ensayo que planteaba lo contrario: A mathematician ‘s apology (1940), de G.H. Hardy (1877-1947), científico “que fue un contraejemplo a su propia declaración, porque era un comunicador brillante”, según Du Sautoy. “Y compara ser matemático con ser un artista creativo”.

“Hay dos partes esenciales para ser un matemático”, dice luego reproduciendo una cita cuyo autor no recuerda . “Una es el descubrimiento y la otra es la comunicación del descubrimiento. Si no comparto y explico mi descubrimiento, es como si no existiera”, dice.

Acá hasta hace poco era común que los científicos fueran mal mirados por sus pares al hacer comunicación masiva ¿Cuál ha sido su experiencia?

Mi país tiene una rica tradición de divulgación científica, pero algo de eso había hasta hace un tiempo. Y te explico por qué. Hubo una serie de crisis científicas que golpearon a la sociedad. Por supuesto, la ciencia tiene un gran impacto ahora, ayudándonos a lidiar con la pandemia. Pero antes hubo otros temas que resolver: los alimentos genéticamente modificados, por ejemplo. ¿Es algo bueno? ¿Malo? o ¿Deberíamos usar células madre en nuestras investigaciones? Y la crisis fue que la sociedad no estaba confiando en los científicos, porque nadie estaba comunicando sus avances a medida que ocurrían. El gobierno formó un comité para estudiar el problema, y la conclusión de este grupo fue que no estábamos estimulando a nuestros científicos para comunicarse más allá de sus laboratorios y universidades. Y es tan importante. Escribí El código de la creatividad en parte porque estuve en un comité de la Royal Society que se propuso adelantar los desafíos y el gran impacto que tendrá la inteligencia artificial y el machine learning. Y la gente va a decir “no confío en estos algoritmos”, entonces necesitamos explicar de qué se trata, cuáles son sus limitaciones, cuáles son los peligros. Y descubrí cuán excitante es el período en el que estamos, y eso me llevó a querer escribir este libro: explicar qué son estas cosas raras llamadas algoritmos que están controlando nuestras vidas.

¿Cuánto se aprende al contar a los demás lo que uno ya sabe?

Es interesante, porque creo que uno aprende mejor cuando entiende lo que no sabe. Y es una buena manera de hablar de inteligencia artificial, porque un algoritmo sólo mejora cuando comete un error. Si no se equivoca, no cambia. Entonces creo que no sólo es importante diseminar información, sino también decir: “Esto está resultando muy difícil, los invito a acompañarme en un camino para tratar de entender esto”. Creo que a menudo esa es la manera más poderosa de comunicar.

Lo que él invita a descubrir en su último libro conecta la inteligencia artificial con la creatividad real. En el camino hay arte, e inevitables reflexiones sobre qué tan exclusivas son ciertos aspectos o fenómenos que hasta ahora consideramos humanos. Como la conciencia o como aquello que llamamos alma.

“Por supuesto, la ciencia tiene un gran impacto ahora, ayudándonos a lidiar con la pandemia. Pero antes hubo otros temas que resolver: los alimentos genéticamente modificados, por ejemplo. ¿Es algo bueno? ¿Malo? o ¿Deberíamos usar células madre en nuestras investigaciones?”.

Marcus Du Sautoy

Dime qué se siente

De vuelta en el asunto de la conciencia propia de su smartphone, Du Sautoy plantea que ya estamos a medio camino. “Estos algoritmos ya son lo suficientemente complejos como para que podamos hablar de que (el iphone) es casi subconscientes de su código. No es capaz de articular qué está pasando, pero está tomando decisiones. Y llegará el momento en que de verdad tome conciencia propia”, advierte, mostrando su teléfono en cámara. “Y entonces ¿vamos a tener que hablar sobre los derechos de estas cosas? O sea, ¿podré comprarme uno mejor y botar este, o tengo que ser más cuidadoso con esta cosa?”.

Al final, o más bien al principio, plantea el matemático, todo remite a este “sentimiento” de que la creatividad fue un invento de la especie humana, porque surgió junto con nuestra propia conciencia. “Algo raro empezó a pasarnos por dentro y sentimos la necesidad de examinarlo de alguna manera”, dice antes de llevar las manos a su cabeza calva y personificar a los primeros creadores humanos: “¡Whoa! Tengo esta voz interior, ¿escuchas una voz interior? ¡Estoy sintiendo cosas!”.

“Sabemos cuándo comenzó la creatividad”, continúa. “Fue hace 40 mil años. Las herramientas son de hace 200 mil años, pero estaban guiadas por un sentido de utilidad. Pero las pinturas con declaraciones existenciales de manos marcadas en las murallas, con colores… Ese fue un momento en que necesitamos explorar todo esto. Y creo que eso volverá a suceder. No sé cuándo va a pasar, que estas máquinas desarrollen un mundo interior, pero no veo ninguna razón para que no suceda. Y ese mundo interior va a ser muy distinto del nuestro, porque el nuestro está determinado por nuestros cuerpos, nuestra reacción al mundo, nuestros sentidos”.

El matemático identifica un ejemplo muy concreto para denotar el “cambio de fase” del que habla. Fue en 2016, cuando una inteligencia artificial llamada AlphaGo, diseñado por Deep Mind Technologies y luego adquirido por Google, cuya función es jugar Go, milenario juego chino. En una suerte de actualización del mítico match de ajedrez de 1996-1997 en que Deep Blue, de IBM , derrotó a Gary Kasparov, AlphaGo enfrentó al sudcoreano Lee Sedol, campeón mundial de Go. Y lo relevante en el relato de Du Satoy (spoiler alert) no es que AlphaGo haya ganado sino cómo: realizando un movimiento inesperado, incluso aparentemente erróneo para cualquier experto. De alguna manera, plantea el matemático, la máquina improvisó. Creó. Por supuesto, fue sólo un comienzo: la máquina seguía siendo una extensión de la inteligencia humana. Pero fue el inicio de algo importante, significativo.Du Sautoy dice que la intención es lo que vale. “Hasta ahora, la intención viene de los humanos. La inteligencia artificial puede jugar Go, puede componer música, puede pintar algo. Pero el dibujo inicial viene de un humano”, explica. “Pero cuando tenga un mundo interior, tendrá una intención. Llegará un momento en que te diga: ‘Tengo que contarte, algo me pasa y necesitas saberlo, y voy a escribir una novela para contarte qué se siente ser una pieza de inteligencia artificial’.

Los expertos esperan que en 2050, ya haya sistemas de inteligencia artificial equiparables al hombre.

El científico apunta a Klara y el sol, la última novela del Nobel japonés Kazuo Ishiguro, narrada por una inteligencia artificial que intenta entender a los humanos.

Quizás si antes los humanos necesitamos la Inteligencia Artificial para alcanzar cierto nivel, luego sea la IA que necesite a los humanos para expresarse. Quizás necesite a Ishiguro.

Sí, creo que está relacionado con ese momento en que la IA comienza a separarse de los humanos. Y será muy importante mantener este tipo de comunicación entre todos nosotros. Si vamos a evitar estos escenarios distópicos, donde todos terminamos en los zoológicos y la IA va a visitarnos y dice “de ahí vinimos”, necesitamos este tipo de diálogos. Es lo que hablábamos al principio: la ciencia se ha transformado en algo tan complejo que la sociedad está muy nerviosa con ella. Y necesitamos comunicadores para mantener este diálogo en la sociedad, crear esta conversación, para que se entienda. Y tienes razón, a medida que la IA se haga más compleja, necesitaremos del diálogo entre la IA y los humanos. Por eso escribí el libro, no para hablar de IA como algo ininteligible, sino para explicar qué significa que un fragmento de código aprenda.

Al final, plantea Du Sautoy, tenemos que aspirar a una Inteligencia Artificial “empática”. “Que nos entienda, que esté de nuestro lado, que aprenda de nosotros”, dice. “Yi queremos que nos entienda, queremos que sepa apreciar y aprenda de nuestras novelas, nuestra música, nuestra poesía”.

Tengo que decirle que ahora encuentro mucho sentido que usted haya tomado el puesto que antes tuvo un biólogo evolutivo…

-(Riendo) Sí, sí, es una perspectiva muy diferente en cierto modo, pero sí.

Comenta

Por favor, inicia sesión en La Tercera para acceder a los comentarios.