Deepfakes: La nueva generación de las noticias falsas

Se trata de videos manipulados y alterados con sofisticados programas que ya están al alcance de cualquier persona. Sus primeras víctimas han sido celebridades, pero los analistas ya advierten que pronto se usarán para ensuciar campañas políticas, incriminar a personas en delitos o incluso iniciar una guerra. Es el primer atisbo, dicen, de un potencial apocalipsis de la desinformación.


Barack Obama está sentado en un elegante sillón y a sus espaldas se ve la bandera de Estados Unidos. El ex mandatario norteamericano, cuya chaqueta ostenta una pequeña chapa con el estandarte de su país, mira a la cámara y emite un mensaje sobre las temidas noticias falsas. “Estamos entrando en una era en la que nuestros enemigos pueden hacer parecer que cualquiera es capaz de decir cualquier cosa en cualquier momento, aun cuando esas personas nunca dirían esas frases”, dice Obama en un video de poco más de un minuto publicado en abril en YouTube.

Hasta ese momento su discurso parece normal y sensato, pero luego sus palabras se vuelven extrañas y hasta agresivas. “Por ejemplo, ellos podrían hacer que yo dijera cosas como, no sé, ¡Killmonger (el villano de la cinta Pantera Negra) tenía razón! (…) O que tal esto: Donald Trump es, simplemente, un total y completo imbécil”. El insulto contra el actual presidente estadounidense causó consternación y la grabación titulada “¡No creerán lo que Obama dice en este video!” se viralizó rápidamente en redes sociales, pero quienes lo vieron hasta el final se dieron cuenta que todo era un engaño.

A los treinta segundos, el registro -que ya tiene más de cuatro millones de reproducciones- revela que las palabras que salen de la boca de Obama en realidad son dichas por el director de cine Jordan Peele, cuya voz y boca fueron insertadas digitalmente en el rostro del ex mandatario. El realizador de la cinta de horror ¡Huye! (Get Out) creó el video junto al portal BuzzFeed usando un sencillo programa de origen anónimo llamado FakeApp y que está disponible gratis en internet. El objetivo del experimento era alertar al público sobre el siguiente paso en la evolución de las noticias falsas: videos manipulados por programas que están al alcance de cualquier persona y que tienen el poder de influir en el público con aseveraciones que jamás se dijeron o hechos que nunca ocurrieron.

“Esta es una época peligrosa. Al seguir adelante, necesitamos estar más vigilantes en torno a quién es el depositario de nuestra confianza en internet”, añade Peele en su personificación de Obama. Luego sus labios acoplados al rostro del ex presidente agregan con preocupación: “La manera en que nos movamos hacia delante en la era de la información será la diferencia entre sobrevivir o convertirnos en alguna clase de jodida distopia”.

El apocalipsis informativo

La preocupación por las informaciones falsas se activó hace dos años, debido al rol que jugaron en la victoria de Trump frente a Hillary Clinton. De hecho, una investigación del portal BuzzFeed estableció que en los meses previos a la elección, las 20 noticias falsas más populares sobre Clinton -como aquella que decía que le había vendido armas a los terroristas del Estado Islámico- tenían más comentarios, reacciones y “compartidos” en Facebook que las 20 crónicas informativas top de la red social (8,7 millones versus 7,3 millones).

La gravedad de este problema se hizo más evidente este año, luego de que una investigación norteamericana estableciera que los culpables de esta campaña fueron agentes de la inteligencia rusa que pretendían desestabilizar a Estados Unidos. ¿Su método? Crear cuentas fraudulentas en redes sociales, donde difundían contenidos pro-Trump y anti-Clinton totalmente falsos: sólo una de ellas, que se llamaba @ten_gop y operaba en Twitter, sumaba más de 100 mil seguidores.

El potencial de estas falacias para alterar procesos democráticos hizo, por ejemplo, que Francia presentara en marzo un proyecto de ley que dará a las autoridades el poder de eliminar el contenido falso difundido en redes sociales e incluso bloquear los sitios que lo publiquen. Sin embargo, los analistas temen que el video de Peele y BuzzFeed sea el atisbo de una nueva estirpe de noticias falsas mucho más perniciosa, una para la cual el mundo no está preparado y que podría convertir el dicho “una imagen vale más que mil palabras” en el título de una película de horror.

Aviv Ovadya, tecnólogo en jefe del Centro de Responsabilidad de Medios Sociales de la U. de Michigan e investigador del Centro Tow de Periodismo Digital de la U. de Columbia, es uno de esos expertos. En 2016 realizó una conferencia titulada “Infocalypse”, donde auguraba el apocalipsis de la desinformación. Dice que en ese entonces los empleados de empresas como Facebook -hoy sindicado como el gran medio de propagación de las noticias falsas- ignoraron sus advertencias sobre la inminente aparición de herramientas como FakeApp y su potencial para manipular la percepción de la realidad.

“¿Qué causa más daño a la civilización? ¿No creer en nada o que todos crean en mentiras? Tal vez lo averigüemos pronto si fracasamos en tomar medidas inmediatas que protejan nuestro ecosistema de información”, escribe Ovadya en una columna publicada en febrero en The Washington Post. Su predicción para lo que viene es ominosa: “Facebook y otros sitios similares han empezado a tomar en serio esta amenaza, pero la que vendrá, la distorsión de la realidad misma, se acerca rápidamente. Los avances en tecnologías de la comunicación e inteligencia artificial facilitan la creación de audio o videos con consecuencias potencialmente peligrosas, como hacer parecer que un líder mundial está ordenando un ataque nuclear o simular la voz de una pareja que pide por teléfono que le recuerden una clave bancaria”.

Ovadya dice a Tendencias que esta visión le quita el sueño: “Estoy sumamente preocupado por los audios y videos manipulados de líderes mundiales. También es espeluznante que este tipo de alteración sea usada para proteger a los corruptos o para instigar la violencia étnica”. Tal como señala Ovadya en su columna, hoy cualquier persona puede usar recursos para modificar videos que hasta hace poco sólo se usaban en Hollywood. Precisamente, FakeApp logra resultados tan convincentes como el del video de Obama porque usa inteligencia artificial para insertar las imágenes y también es sencillo de usar: una versión bastante simple del software que se publicó en la comunidad Reddit.com ya ha sido descargada más de 120 mil veces.

FakeApp requiere una gran cantidad de imágenes de la persona que el usuario quiere insertar en un video. Por eso las celebridades y personalidades públicas son los blancos naturales para la creación de “deepfakes”, es decir, videos falsos ultrarealistas fabricados con software dotado de inteligencia artificial. Hasta ahora las principales víctimas de estos usuarios han sido actrices y cantantes como Emma Stone y Ariana Grande: a fines de 2017 el sitio de tecnología Motherboard alertó que FakeApp estaba siendo usado para crear “deepfakes” con videos XXX donde se insertaban rostros de mujeres famosas. El portal para adultos Pornhub y Twitter prohibieron rápidamente los videos y Reddit cerró varios grupos dedicados a esta práctica, uno de los cuales tenía casi 100 mil miembros.

Para los investigadores esto es sólo el comienzo y no es difícil imaginarse que esta tecnología se use para ensuciar campañas políticas, incriminar a personas en delitos o desestabilizar elecciones. A fines de abril, un artículo del portal Vice ya planteaba que en el escenario actual la creación de un “deepfake” donde aparezca Donald Trump “admitiendo” que es un espía ruso parece totalmente plausible.

Esta posibilidad ya genera desconfianzas a nivel internacional: en abril el ejército israelí acusó a Hamas de alterar y manipular videos que mostraban a francotiradores disparándoles a manifestantes palestinos desarmados. “Una vez que la tecnología produzca material totalmente convincente, la tentación de producir videos falsos de líderes mundiales será imposible de resistir. Probablemente partirá con hombres jóvenes que pensarán que son astutos y que lo harán por diversión, pero la técnica pronto se la apropiarán aquellos con agendas más serias”, comenta a Tendencias Neil Dodgson, profesor de computación gráfica en la U. Victoria de Nueva Zelanda y miembro del grupo “Futuros digitales” de esa casa de estudios.

El experto advierte que los “deepfakes” se diseminarán “tal como lo hacen hoy las noticias falsas. Hay un viejo dicho que dice ‘Una mentira puede recorrer la mitad del mundo antes que la verdad se ponga las botas’”. Esa disputa entre realidad y ficción se hará más compleja debido al desarrollo de programas más sofisticados que FakeApp. Nvidia, empresa que diseña tarjetas gráficas para computadores, está elaborando un software capaz de generar fotos ultrarrealistas y convincentes de objetos, personas e incluso paisajes mediante la recopilación y procesamiento de miles de imágenes en internet. Además, Adobe tiene en carpeta a Voco –una especie de Photoshop para alterar audio- y Cloak, una herramienta que remueve objetos y personas de un video con sólo un par de clicks.

Peter Eckersley, científico informático en jefe de la Fundación Electronic Frontier y autor del reporte Uso malicioso de la inteligencia artificial, señala a Tendencias que la proliferación de este tipo de programas tendrá una consecuencia clara: “La erosión de la autenticidad nos obligará a tener que prestar mucha más atención a las cadenas de producción de los videos y a la verificación institucional”. Según el investigador, los “videos tipo ‘deepfake’ van a añadirle más combustible al fuego que ya ha sido provocado por las noticias y la propaganda fabricada”.

El contraataque

Frente a este peligro inminente, hay una reacción. La Agencia de Proyectos de Investigación Avanzados de Defensa de Estados Unidos (Darpa), organización que ayudó a dar forma a la actual internet, está desarrollando herramientas capaces de identificar fotos y videos manipulados. Investigadores de la U. Técnica de Munich, en Alemania, también crearon un algoritmo llamado XceptionNet que realiza la misma tarea.

Además, el Laboratorio de Medios de Nueva York, una organización que promueve la colaboración entre las compañías y académicos de la ciudad, organizó una conferencia para junio donde se explorarán “los peores escenarios” para el futuro de la tecnología y las noticias. El evento se llama “El show del horror de las noticias falsas” y es promovido como una “feria de la ciencia de las más terroríficas herramientas de propaganda, algunas reales y otras imaginarias, pero todas basadas en tecnologías plausibles”. Para Ovadya, estas instancias son necesarias: “Algunos expertos son conscientes y están preocupados por los desafíos éticos que implican todas estas nuevas tecnologías, pero otros hacen oídos sordos. Necesitamos crear una cultura de investigación responsable”.

Peter Eckersley agrega que siempre es importante pensar en el futuro, para así tener la oportunidad de evitar posibles perjuicios: “Los humanos son criaturas de tecnología. Prosperamos o fracasamos gracias a las máquinas, las culturas y los algoritmos que creamos. La crisis de las noticias falsas es una señal temprana de las consecuencias impredecibles y complejas de la inteligencia artificial, la cual por supuesto también genera enormes beneficios. Este es un campo donde la gente trata con todas sus fuerzas predecir el impacto de esta nueva tecnología, pero la realidad es que es algo extremadamente difícil”.

Seguir leyendo