A principios de este año, la joven ingeniera y doctora en Informática Ana Freire recibió el Premio Nacional de Ingeniería Informática de España, el máximo reconocimiento al que puede acceder una profesional de este rubro en su país.

La experta en Inteligencia Artificial y análisis de datos ejerce como vicedecana de Impacto Social e Innovación Académica en la School of Management de la Universidad Pompeu Fabra (Barcelona), donde también dirige el máster en Data Analytics for Business.

Pero más allá de sus logros académicos y de los innumerables premios con los que cuenta -como Talento Joven Femenino 2019 de la Real Academia de Ciencias-, Freire ha ganado reconocimiento internacional por su proyecto STOP (Suicide prevenTion in sOcial Platforms) -el que construyó con el apoyo de siquiatras y sicólogos-, que se enfoca en entregar ayuda en salud mental a personas que podrían atentar contra su vida.

Una de las ventajas de STOP es su precisión, pues sus algoritmos se especializan en la comprensión del idioma español, y analizan grandes cantidades de mensajes en plataformas de redes sociales que pueden tener indicios de comportamientos que revisten peligro. Luego, el sistema los clasifica, los perfila, y se lanzan campañas en las mismas redes que tienen como objetivo llegar a las cuentas de los usuarios que podrían estar en peligro, entregándoles la opción de solicitar ayuda telefónica o chatear con profesionales de la salud mental.

“Utilizamos técnicas de inteligencia artificial para analizar datos y poder ayudar a personas con problemas de salud mental, ideación suicida, depresión o trastornos de la conducta alimentaria. Este proyecto incrementó en un 60% el número de llamadas al teléfono de prevención del suicidio en España y en casi un 1.000% el número de conversaciones de un chat de apoyo emocional”, dijo Freire a La Tercera.

Por primera vez, este año el proyecto STOP se expandirá a cuatro países de América Latina: Costa Rica, Colombia, Panamá y Perú. Y aunque hubo conversaciones con algunas instituciones chilenas, privadas y públicas, hasta ahora no ha sido posible conseguir un acuerdo para implementarlo en Chile.

Ana Freire, la ingeniera que creó algoritmos para detectar conductas suicidas

Ana Freire visitó el país recientemente para entregar detalles de STOP, invitada a clausurar el primer summit de postgrado de la Universidad del Desarrollo con su charla “Proyecto STOP: tecnología e Inteligencia Artificial al servicio de la salud mental”.

Sus inicios en la construcción de sistemas algorítmicos se relacionan con un destacado chileno, Ricardo Baeza-Yates, Premio Nacional de Ciencias Aplicadas y Tecnológicas 2024, cuando en la década pasada ella realizaba una pasantía de finalización de su doctorado en el Yahoo Lab de Barcelona y el académico nacional dirigía tal instancia. Luego, fueron colegas por seis años en la UPF.

¿Cómo nace esta idea de analizar grandes cantidades de datos en las redes sociales para detectar problemas de salud mental?

Fue una casualidad que no fue muy afortunada. A fines de 2016, navegando por las redes sociales me encontré con una publicación en Twitter que enlazaba a otra publicación en Facebook. La había escrito una chica que anunciaba su suicidio en una carta de despedida. Vi que era una publicación antigua, entonces empecé a mirar los comentarios que los amigos escribían, y confirmaban que efectivamente se había suicidado. Empecé a mirar las publicaciones anteriores de esta persona para saber qué le había llevado a suicidarse y, efectivamente, había algunas publicaciones en las que había dejado pistas esporádicas en ese sentido. Entonces, pensé que es normal que no nos demos cuenta de estos posteos ocasionales o que les quitamos peso para aliviarnos un poco de que esa persona puede estar pasándolo mal. En ese entonces, ya trabajaba en el ámbito de la inteligencia artificial y era consciente de que uno de los poderes de esta tecnología es encontrar patrones de lo que sea en grandes cantidades de datos. Ahí empecé a investigar qué se había hecho en detección de suicidio en redes sociales y encontré trabajos en inglés y en japonés, pero nada en Español, en circunstancias de que es la segunda lengua más hablada del mundo. Todos estos trabajos se centraban en la parte de análisis de datos en redes sociales, sobre cómo hablaban las personas sobre suicidio o ideación suicida. No eran proyectos de intervención. Es decir, no realizaban una intervención que pudiese ayudar a alguien antes de cometer el fatal suicidio.

Tu proyecto nace antes de la pandemia, la que agudizó los problemas de salud mental. ¿Crees que el uso de las redes sociales, que hoy usan mucho más inteligencia artificial, que son más adictivas, son perjudiciales para el bienestar de las personas?

La depresión o los problemas de salud mental serán la próxima pandemia. Leí un libro hace poco del psicólogo social neoyorquino Jonathan Haidt que se llama “La generación ansiosa”, que está basado en análisis de datos, en el cual propone que el uso masivo de redes sociales y de dispositivos digitales está causando una epidemia de salud mental. Es decir, no es simplemente una correlación entre el uso de dispositivos digitales y salud mental, sino que hay una causalidad y, precisamente, mide cómo se han disparado los casos de depresión grave entre adolescentes de diferentes países del mundo, estableciendo una relación muy importante entre desde cuándo se ha empezado a disparar este número de depresiones graves y cuándo empezaron a surgir las redes sociales, los móviles con cámara delantera y todo este boom de publicitar nuestra vida en la red, de compararnos y, sobre todo, cómo esto afecta a las mujeres con todo este juicio físico al que se ven sometidas en internet. Haidt dice una frase que me gusta mucho, que es que pasamos de la infancia basada en el juego a la infancia basada en el teléfono. El juego nos hace socializar, son colaborativos, sobre todo entre niños, y también entre adolescentes. Pero las redes sociales no son sociales, ni son redes; porque precisamente nos alejan de ese ser social, de esa esencia del ser humano, porque nos encierran cada vez más en nosotros mismos y nos acabamos pasando mucho rato solos, creyendo que estamos socializando, y lo cierto es que estamos en contacto con diferentes cuentas y diferentes contenidos a través de las redes. Esta disrupción tecnológica nos ha mantenido enganchados a las redes sociales, y no sólo a los jóvenes, también a la gente de mayor edad. Entonces, creo que, precisamente ahí, en las redes sociales, es donde tenemos que ir a buscar la solución u ofrecer un tipo de solución, una ayuda, que es lo que hace nuestro proyecto STOP.

¿Estás o no de acuerdo con poner un límite de edad al uso de teléfonos celulares y también a las redes sociales para resguardar la salud mental de niños y jóvenes?

Los profesionales de la salud mental y los reguladores de algunos países están planteando prohibir el uso de dispositivos digitales para salvar la salud mental de niños y jóvenes, que son nuestro futuro, el futuro de nuestra sociedad; y los psiquiatras con los que trabajo me comentan que la mayor parte de los problemas que ven en las consultas presenciales son derivados del uso del teléfono, y derechamente me dicen que si quitásemos el teléfono de manos de niños y jóvenes, la mayor parte de estos problemas de ansiedad, de depresión, de trastornos de la conducta alimentaria, de estrés, de ideación suicida, se rebajaría muchísimo. Porque es cierto que hay mucho contenido en la red que, en cierta manera, incita a estos comportamientos, además de que las plataformas no controlan todo lo que muestran o no lo restringen a ciertas edades. Esto hace que los jóvenes se estén alimentando de contenido que puede agravar la situación, sobre todo si estamos hablando de personas vulnerables, de adolescentes que todavía no se han desarrollado. Por eso, no veo descabellado que, al igual que prohibimos conducir a menores de 18 años, hay que restringir el uso de estas plataformas a menores de edad o al menos a menores de 16 años, porque obviamente no tienen la madurez suficiente como para distinguir qué contenidos son apropiados. Estas plataformas están diseñadas para que cada vez estemos más enganchados a ellas. Lo que sí está claro es que hay que proteger a los adolescentes, porque ahora mismo están en una situación nada favorable para su salud mental.

¿Cómo podrías explicar el funcionamiento de las redes sociales?

Primero, hay que entender que estas plataformas no nos están cobrando por usarlas, son gratuitas. Entonces, necesitan un tipo de negocio que les dé ingresos, y este negocio es la publicidad. Estas plataformas lo que hacen es cobrar a las empresas que venden cualquier cosa por la publicidad de sus productos, y cobran generalmente por visualización o por click cada vez que una persona ve un anuncio o hace clic en un anuncio. Cuanta más gente esté viendo estos anuncios, cuantos más anuncios vea cada persona, más cobrarán las plataformas, porque hay más visualizaciones o más clics. Entonces, en el fondo, cuando los algoritmos de estas plataformas nos sugieren contenido u otras cuentas a seguir lo que hacen es recomendarnos ítems de contenidos o personas que son similares a nosotros y que estima que nos van a gustar, que nos van a atrapar y que va a provocar que estemos más tiempo en las redes sociales para poder consumir más anuncios. Estos son los sistemas recomendadores, que se basan en “cómo somos” o qué nos gusta para recomendarnos contenido que cree que nos puede gustar. Cuanto más tiempo estemos en las plataformas, más estaremos visualizando anuncios y dando negocio a estas a estas redes. Este modelo puede ser muy perjudicial. En la universidad, por ejemplo, estudiamos el caso de las personas con anorexia, y vimos que comparten contenido muy dañino, porque son personas enfermas que lo que quieren es perder más peso y dan consejos de cómo perderlo de manera muy exagerada y muy poco saludable. Entonces, siguiendo el patrón que decíamos antes, las plataformas muestran contenido o contactos de personas que están hablando de anorexia o de bulimia. Al final, estas personas no se dan cuenta de que están en una burbuja cada vez más grande que les recomienda cómo adelgazar de manera más exagerada, cómo perder peso, y así pasan más tiempo en las redes viendo más avisos publicitarios.

Ana Freire y su visión de la IA Generativa

¿Cómo analizas la disrupción de la inteligencia artificial generativa desde que fue lanzada hace casi tres años Chat GPT?, ¿estamos preparados como especie humana para convivir con esta tecnología?

No estamos preparados, y te voy a decir por qué: quienes conocemos la IA generativa estamos en una burbuja, en que creemos que todo el mundo conoce lo que es inteligencia artificial generativa, sus efectos y tenemos una visión crítica con la cual somos capaces de identificar un contenido creado con IA; pero la mayor parte de la población no está preparada para hacerlo. Y no hablo solo de la situación de las personas mayores, sino que también de gente de mediana edad o de adolescentes. Y claro, hoy en día se está utilizando la inteligencia artificial para diseñar contenido falso, como videos donde aparece una persona hablando, dando un discurso que es mentira completamente o una foto que es falsa. Esto ocurre en diferentes ámbitos, en la política, la economía, en los asuntos sociales. Y la verdad es que cada vez es más complicado poder distinguirlos. Hoy en día la inteligencia artificial no suena como una voz o imagen robótica, que incluso titubean, tienen diferentes acentos, son muy realistas. Entonces, incluso quienes estamos en esta burbuja más tecnológica, cada vez nos va a costar más. Esto puede llevarnos a un mundo de fraudes y de desinformación tremenda. De allí que la regulación sea importante. No es que prohibamos su circulación, pero debe ser transparente y explicitar que tal o cual contenido ha sido creado por IA. Si no se transparenta, puede llegar a crear mucha desinformación entre la población.

¿Cómo ves el impacto en las personas de estas nuevas tecnologías en algunos años más o a mediados de este siglo?

Creo que, lamentablemente, será un poco más exagerado que lo que vemos ahora. Es decir, habrá una mayor dependencia de la tecnología, porque estas generaciones nativas tecnológicas irán creciendo ya dependientes completamente de la tecnología. Se irán renovando estas generaciones y, probablemente, habrá mucho menos comunicación entre todos, menos salidas sociales, menos discusiones. Me cuesta pensar que seamos capaces de entrenar el pensamiento crítico para que nos permita llevar una vida más fácil con toda la tecnología que se creará. Recuerdo que hace unos años, en 2008 ó 2009, estando en Londres vi que en el metro todo el mundo iba mirando su smartphone. Y yo decía: ¡Ostras, esta gente, mira qué sociedad! Están todos en el teléfono. Y en pocos años en España estábamos igual. Entonces, aquello que te parece como muy exagerado, al final el ámbito tecnológico acaba atrapándonos a todos. No soy de las que defiendo una versión apocalíptica de que la tecnología acabará con el ser humano ni nada por el estilo, pero sí es cierto que inundará muchos más terrenos de los que lo hace hoy en día, y será fundamental tener que saber cómo utilizar la tecnología para poder desempeñar un trabajo, un oficio.