Las deepfakes: El nacimiento de una nueva amenaza

DeepfakesWEB

Después del debate generado por la capacidad de injerencia de las fake news en los procesos electorales por medio de las redes sociales, ahora los expertos advierten sobre el uso de algoritmos que permiten manipular los diálogos en los videos. Hasta el Pentágono ya los investiga. Este es el principal desafío para la política global y las campañas electorales que se avecinan.


En agosto pasado, la revista MIT Technology Review publicó un artículo dedicado a los cambios experimentados por la política en la última década. Y así graficó el vertiginoso proceso que esta actividad ha vivido de la mano de la tecnología: "En 2008, el iPhone tenía menos de un año. Los BlackBerry y el correo electrónico dominaban las palmas de los adictos a la información corporativa y política. La televisión continuaba siendo el medio dominante para la publicidad política y los debates. Las redes sociales eran una curiosidad; los gobiernos y los políticos que las utilizaban todavía eran una novedad".

"Desde entonces, hemos estado viviendo la evolución más rápida de las campañas políticas en la historia reciente. En cada ciclo electoral de Estados Unidos, la tecnología utilizada ha avanzado y se ha transformado; las herramientas que dieron a Barack Obama la ventaja en 2008 y 2012 son muy diferentes de las que llevaron a Donald Trump a la victoria en 2016". "¿Se verán 2020 o 2024 tan diferentes a 2016 como 2016 de 2008?", se preguntaba el autor de la nota, Alex Howard, un experto en gobernanza digital.

Las respuestas a esa interrogante también han dado pie a otros artículos. Bajo el título "Cómo la tecnología realmente va a cambiar la política en los próximos 20 años", el asesor británico en tecnologías emergentes y autor del libro Disruptive Technologies, Paul Armstrong, entregaba su visión sobre este fenómeno en una reciente colaboración para la revista Forbes. "Los políticos necesitarán una nueva arma en su arsenal si quieren llegar a la gente", fue su recomendación. Y, junto con ello, advirtió que las próximas dos décadas "serán muy interesantes e increíblemente perturbadoras si los partidos no la consiguen ahora".

Pero en búsqueda de esa arma, los partidos y las campañas ya han experimentado duros reveses. El fenómeno de las fake news, por ejemplo, es motivo de un debate global desde que demostró su capacidad de injerencia en los procesos electorales por medio de las redes sociales. La presunta intromisión de Rusia en las elecciones presidenciales de EE.UU. en 2016, que ganó Donald Trump, fue la manifestación más visible del problema. Pero lo cierto es que al menos 18 países vieron afectadas sus elecciones entre 2016 y 2017 por la proliferación de fake news online, según un estudio de Freedom House. Y en las presidenciales de 2018 en Brasil, Folha de S. Paulo reveló que el 97% de las noticias compartidas por WhatsApp por los seguidores de Jair Bolsonaro eran falsas o distorsionadas.

https://www.youtube.com/watch?v=cQ54GDm1eL0

"Estamos ante un nuevo escenario en el que la credibilidad y la fiabilidad, algo que se daba por descontado, vuelve a ser un valor durante las campañas", explica a La Tercera Antoni Gutiérrez-Rubí, consultor político español. Pese a estas complicaciones, el fundador y director de la consultora Ideograma destaca que en este ambiente, "las campañas electorales se están volviendo cada vez más decisivas".

"Esto ha provocado que la intensidad en las acciones comunicativas vaya en aumento, especialmente en los entornos digitales, es decir, en las redes sociales, pero también en las herramientas de mensajería instantánea. Cada vez se invierten más esfuerzos y recursos en estos canales, por la gran cantidad de audiencia que acumulan, por su capacidad de segmentación y por la posibilidad de impactar en los últimos compases de la campaña, el momento más relevante", explica Gutiérrez-Rubí. "Curiosamente, estos tres ingredientes son los que han convertido a las redes en el entorno perfecto para difundir contenidos falsos", dice.

Según el experto español, "ahora estamos en una nueva fase". "Existe un mayor control sobre las acciones de los partidos; y las instituciones, los medios, los ciudadanos y las propias plataformas estamos aprendiendo a fiscalizar mejor los contenidos". Pero admite que "aún estamos lejos del control total".

Incluso más crítica, Jessica Reis, directora senior de la agencia estadounidense Bully Pulpit Interactive, empresa encargada de realizar la publicidad online de Obama en 2012, comenta a La Tercera que "la tecnología está transformando la manera en que se ejecutan las campañas". "Y no es solo un problema regional; está presente en todas las elecciones y países", asegura. "He trabajado en elecciones en Ucrania, Serbia, Filipinas y Venezuela. Antes de 2016 vi de primera mano cómo la desinformación, la interferencia rusa y la polarización extrema pueden abrir las puertas a los malos actores y la tecnología que no funciona para la democracia liberal", comenta.

En ese sentido, Reis afirma que "la victoria de Obama en 2008 y su reelección de 2012 trajeron buenas noticias para las campañas y lo que podían hacer con el Big Data. Pero para muchos, la elección de 2016 fue una llamada de atención para lo que la tecnología y la desinformación pueden hacer".

Las nuevas amenazas

De hecho, hay nuevas tecnologías que amenazan con poner en jaque a las campañas. "Las deepfakes que imitan el video ya existen. Recientemente, una deepfake de Mark Zuckerberg llamó la atención", comenta Reis. "Es difícil y aterrador imaginar lo que esta tecnología hará en la carrera presidencial de EE.UU. en 2020 o en Argentina y Bolivia en 2019", dice.

Reis hace alusión a un video que se viralizó en junio, donde el CEO y fundador de Facebook ofrece un escalofriante discurso sobre los planes que la compañía tiene con nuestros datos. "Spectre me mostró que quien controla los datos, controla el futuro", afirma en el polémico contenido del clip de 21 segundos. Fue creado usando algoritmos para manipular los diálogos de un video de siete minutos con una entrevista que Zuckerberg protagonizó en 2017 en la cadena CBS, y en la que hablaba sobre cómo Rusia interfirió a través de Facebook en las elecciones de EE.UU. Los autores del deepfake lo hicieron en respuesta a la negativa de Zuckerberg de retirar de Facebook unos videos manipulados de Nancy Pelosi, en los que se daba a entender que la congresista demócrata estaba ebria.

https://www.youtube.com/watch?v=cnUd0TpuoXI

"Las deepfakes son el área inmediata de preocupación para las campañas políticas", explica a La Tercera Paul Armstrong. "Algunos de los resultados son terribles y otros son muy convincentes y mejoran rápidamente. Tanto las redacciones como los grupos políticos están trabajando arduamente para minimizarlos", dice. Aparte de las deepfakes, Armstrong afirma que "los partidos también se están convirtiendo en expertos en el uso de bots para amplificar los mensajes y ahogar a la propia oposición gracias a la hiperfocalización y a la forma en que las plataformas muestran las tendencias". "Los cambios tecnológicos significan que los partidos políticos y los medios que los cubren nunca han tenido más dificultades para diferenciar los hechos de la ficción", destaca.

Pero un grupo de investigadores de dos universidades de California ya ha desarrollado una herramienta que analiza la forma de hablar y gesticular de las personas y reconoce si el video es real o está manipulado. El proyecto Protecting World Leaders Against Deepfakes ha sido financiado por Google y la Agencia de Proyectos de Investigación Avanzados de Defensa del Pentágono.

Anticipando el posible impacto político de las deepfakes, Texas aprobó en junio una ley "relativa a la creación de un delito de fabricación de videos engañosos con la intención de influir en el resultado de unas elecciones".

Tecnología y política

El escándalo de Cambridge Analytica

La consultora habría empleado información de 87 millones de usuarios de Facebook sin permiso. Con esos datos generó anuncios para favorecer las campañas de Donald Trump y del Brexit.

Los hologramas de los candidatos

El uso de hologramas irrumpió en la política en 2012, con el aspirante a premier de India Narendra Modi. En 2017 el turno fue para el candidato francés Jean-Luc Mélenchon.

Fake news en campaña india

Las noticias falsas aumentaron en un 40% durante las últimas elecciones presidenciales en India. WhatsApp, incluso, creó un número para autentificar mensajes.

El deepfake de Zuckerberg

En junio se viralizó un video con declaraciones manipuladas del fundador de Facebook. La grabación original en que se basó el clip era de una entrevista de 2017 a CBS.

Comenta

Por favor, inicia sesión en La Tercera para acceder a los comentarios.