El sábado 17 de mayo, horas antes de las elecciones legislativas en Buenos Aires, circuló un video con la imagen del expresidente Mauricio Macri llamando a votar por el vocero de la Casa Rosada, Manuel Ardoni. Creado con inteligencia artificial, el video del supuesto exmandatario anunciaba que se bajaba la candidata de su partido, el PRO, en beneficio del postulante de Libertad Avanza, la coalición de Javier Milei: “Votemos todos por el candidato del Presidente”, decía. El auténtico Mauricio Macri reaccionó furioso por la plataforma X, donde se viralizó el contenido:

“Se trata de un intento de fraude electoral”, acusó, apuntando directamente al “círculo más íntimo de Libertad Avanza”. El Presidente Milei rechazó las acusaciones y afirmó que Macri estaba “muy llorón”. Y, por cierto, la noche del domingo celebró la victoria de su candidato, que se impuso por una amplia ventaja en Buenos Aires.

Ciertamente, los deepfakes son la forma más visible de la irrupción de la inteligencia artificial (IA) en las campañas políticas. El año pasado, durante la contienda presidencial en Estados Unidos, las redes sociales fueron invadidas por contenidos multimedia manipulados con herramientas de IA. De este modo, mientras los detractores de Donald Trump difundieron falsas imágenes del entonces candidato en supuestas fiestas con Jeffrey Epstein, sus partidarios crearon escenas de Trump en el Bronx compartiendo feliz con la comunidad afroamericana.

A su vez, Elon Musk difundió en su cuenta de X falsas imágenes de la candidata demócrata Kamala Harris vestida de rojo, con una gorra con la hoz y el martillo, el símbolo comunista. Y los ciudadanos de New Hampshire recibieron llamados telefónicos que imitaban la voz del Presidente Joe Biden desanimándolos a votar en las elecciones primarias.

El caso más grave ocurrió en Rumania, en diciembre de 2024, donde el Tribunal Constitucional anuló las elecciones, porque se constató una campaña de desinformación, promovida por Rusia, para favorecer al candidato nacionalista.

En este contexto, un informe de la Universidad de Stanford de 2024 alertó que “los deepfakes políticos ya están afectando los procesos electorales en todo el mundo”.

Rafael Rubio Núñez, experto en inteligencia artificial y procesos electorales, concuerda con esa conclusión. Académico de la Universidad Complutense y autor de la investigación Inteligencia artificial y campañas electorales algorítmicas (2024), Rubio apunta que si se los usa en el momento justo y con el mensaje adecuado, los deepfakes pueden tener un efecto político. Y agrega:

-Más allá de sus efectos puntuales, los deepfakes tienen un elemento que socava la democracia: la ruptura de la confianza.

Desde hace tres años, la irrupción de la inteligencia artificial generativa ha marcado un punto de inflexión en la comunicación política, así como en todos los ámbitos de la vida. Su uso ofrece grandes ventajas, entre ellas, una capacidad infinita de procesar información y de presentarla en forma atractiva; la posibilidad de generar contenido persuasivo a bajo costo, y la de contrarrestar los usos maliciosos de la tecnología.

“Lamentablemente, al día de hoy los usos malignos de la inteligencia artificial son los más utilizados”, dice Rubio.

Exasesor de la Comisión de Venecia, Rafael Rubio ha estudiado minuciosamente el tema. Dice que entre los usos maliciosos está, desde luego, la generación de deepfakes, la infoxicación o sobrecarga de contenido distorsionador en las redes, contaminando el debate, alterando la realidad; el hackeo de cuentas; la polarización y generación de conflictos; la microsegmentación automatizada; el acoso y la violencia en línea, y finalmente la elusión del control estatal, entre otros.

Se ha instaurado la idea de una amenaza en el uso de la IA en las campañas políticas, ¿cuán ciertos son los riesgos?

Potencialmente, los riesgos de uso de IA en procesos electorales existen y son grandes. O sea, la tecnología permite llevar a cabo determinadas prácticas que antes no eran posibles o no eran posibles a una escala tan grande. Me parece que esta visión es esencial para ir tratando de buscar respuestas de manera anticipada, para no encontrarnos los problemas a posteriori, que en términos electorales generan situaciones complejas. El caso de Rumania me parece paradigmático: cómo la falta de previsión acabó generando la anulación de una elección. El pánico, por decirlo de alguna manera, está justificado. Pero, por otro, la experiencia de elaboración del libro en los últimos tres años, en los que hemos estado pendientes del uso de la IA en todos los procesos electorales del mundo, nos demuestra que el uso que se está haciendo de ella es muy anecdótico, muy instrumental. O sea, es para hacer de una forma más barata y más rápida y, a veces, de mejor calidad, cosas que ya se hacían en campañas anteriores. Salvo casos muy puntuales, como el de las elecciones legislativas en Buenos Aires, o en las elecciones eslovacas, donde a 72 horas de la elección corrió un audio falso donde uno de los candidatos de autoimputaba delitos, no hay hoy en día un uso estratégico maligno de la inteligencia artificial.

De todos modos, esos deepfakes sí lograron efectos políticos.

Sí, son cosas puntuales y están teniendo efectos. Es una dicotomía: el uso hasta ahora no es para asustarse, pero la amenaza potencial es enorme, lo que nos ayuda a preparar una respuesta, que va a tener que usar la inteligencia artificial. De alguna manera tenemos la amenaza y la vacuna. Otra cosa es que el papel de las campañas está desnaturalizado: el hecho de convertir las campañas en un campo de batalla tecnológico, donde las personas nos convertimos en un espectador secundario, que asiste a los debates de otros desde un segundo plano.

¿Qué consecuencias puede tener ello?

Las campañas han dejado de ser un momento específico dentro de la vida política, en la que había una mayor exposición de candidatos y de sus propuestas para que los ciudadanos pudieran tomar decisiones. Esa naturaleza puntual y excepcional, en mi opinión, se ha venido rompiendo, extendiéndola en el tiempo. Con esta lógica de la campaña permanente hoy no sabemos cuándo estamos en campaña y cuándo no. Esa desnaturalización ha hecho mucho daño a la democracia, en el sentido de que ha convertido la comunicación en la única protagonista de la política, o dicho de otra forma, ha permitido la fagocitación de las políticas por parte de la comunicación. A eso tendríamos que unir un nuevo elemento, que es lo que hemos llamado la deshumanización.

¿Cómo ha cambiado el escenario desde el caso Cambridge Analytica, que fue el que encendió las alertas en 2018?

En términos de uso, por un lado, todos los actores han empezado a ser conscientes de que son instrumentos que están a su alcance y, por el otro lado, han bajado los precios. Contratar los servicios de Cambridge Analytica era algo para muy pocos y, en muchos países donde la financiación electoral está controlada, sobrepasaba tanto los límites de la financiación que era jurídicamente inalcanzable. Hoy se ha producido una suerte de democratización del uso de estas tecnologías que han pasado a estar al alcance de todos. En segundo lugar, ha habido esa sensación de amenaza, que también tiene algo de positivo, porque ha llevado a poner normas más exigentes a las plataformas y a estos instrumentos. El paradigma aquí es el reglamento de inteligencia artificial de la Unión Europea o el convenio del uso de la inteligencia artificial del Consejo de Europa; también en Brasil y Estados Unidos han elaborado marcos regulatorios. O sea, hay un marco jurídico que también cambia la situación. Cambridge Analytica tenía una gran ventaja, en primer lugar, la sorpresa y en segundo, la ausencia de respuesta jurídica.

Al día de hoy, ¿hay evidencia de que las herramientas de IA pueden cambiar el voto?

No, no hay evidencias. Sí creo que pueden incidir. ¿Por qué? Porque al final, la inteligencia artificial fundamentalmente puede alterar el ecosistema informativo. El problema que tenemos a la hora de marcar la incidencia de cualquier aspecto, no solo tecnológico, sobre la decisión del voto es que esta es una decisión plural, en la que participan distintas palancas. Es muy difícil ponderar el peso de cada una de ellas. De lo que sí hay evidencias es que la inteligencia artificial ayuda a configurar la opinión pública y de ese modo acaba influyendo en el voto. En términos más concretos, creo que las técnicas de microsegmentación bien utilizadas sí pueden incidir en la decisión y de alguna manera condicionar la libertad del voto, porque se basan no sólo en elementos de contenido, sino también en elementos de sentimiento, y aprovechan momentos de más inestabilidad sentimental, por ejemplo, para trasladar los mensajes, porque la información que recogen abarca también este aspecto. En ese sentido, sí creo que la microsegmentación puede tener un impacto en la libertad del voto y condicionarlo hasta cierto punto.

Rafael Rubio agrega que “casos como el de Buenos Aires muestran que el uso estratégico de los deepfakes en momentos concretos puede ser capaz de generar cierta incertidumbre que puede condicionar el voto. Quizás la gente no va a cambiar a quién votar, pero ante la incertidumbre puede abstenerse, y eso tiene tanta trascendencia como un cambio de voto”.

¿Se podría pensar que la IA está cambiando la forma en la que vivimos la democracia?

Yo creo que sí, por algo más de fondo que tiene que ver con qué esperamos de la democracia. O sea, si entendemos que la tecnología nos ofrece respuestas más eficaces, hay un cierto riesgo de sustituir a los decisores por tecnología. Esta visión tecnocrática va más allá de las máquinas y reside, por ejemplo, en la idea de situar a gobernantes eficaces, aunque no tengan plena legitimidad democrática, como hemos visto en algunos países.

Aunque parece que es un fenómeno paralelo, tiene una relación profunda. ¿Por qué? Porque si consideramos que la mejor democracia es aquella que responde a los intereses de los ciudadanos y, por tanto, es aquella que resulta más eficaz, acabamos haciendo que la democracia prescinda de sus mecanismos de legitimación, que son esenciales, que son los procesos de elaboración de decisiones. Porque acabamos consagrando que hay una decisión que es técnicamente mejor, técnicamente más válida y que, por tanto, todas las demás, aunque se han adoptado de una manera mucho más democrática, más abierta, son peores.

En este sentido, agrega: “¿Qué lógica nos lleva a preferir una decisión peor adoptada de una forma más democrática, de una mejor, aunque haya sido adoptada inicialmente por un técnico y finalmente por una máquina? Esa concepción de la democracia se va consolidando y lo vemos de una forma muy clara. El eurobarómetro en casi todos los países, incluido Chile, va aumentando de una manera, en mi opinión, alarmante el número de personas que están dispuestas a prescindir de la democracia si le ofrece resultados eficaces, o sea, si cubre mejor sus necesidades. Entonces, aunque parezcan dos fenómenos distintos, tienen una relación muy profunda, porque acaban afectando la propia concepción de la democracia.