Del porno a las noticias falsas: El origen de los deepfakes, como el video de la "muerte" de Lucía Hiriart

Deepfake

A diferencia de los fake news, que no necesitan mayor elaboración y utilizan formatos simples como audios de WhatsApp, posteos en Facebook o textos en precarios sitios web, este tipo de piezas audiovisuales -como la que involucró a la viuda de Pinochet- requiere de un mayor tratamiento y montaje para alterar el discurso.


Suena la fanfarria característica de las noticias de última hora. Inmediatamente, la pantalla se divide en dos. Al extremo derecho, se ven imágenes de archivo. Al izquierdo, aparece una arreglada y joven Consuelo Saavedra, la conductora de noticias, quien saluda a los televidentes.

—¿Cómo están ustedes? Tenemos una importante noticia de último minuto. Hace pocos instantes...

El video sólo muestra ahora las imágenes de archivo. Consuelo Saavedra sale de la pantalla, pero su voz continúa escuchándose ahora en off.

—...se ha informado de la muerte de Lucía (se oye la pronunciación "Lúcia") Hiriart Rodríguez. Había contraído matrimonio con (audio ininteligible) Pinochet Ugarte, ex comandante en jefe del Ejército y gobernante chileno entre 1973 y 1990.

La presentadora vuelve a aparecer en pantalla, la que otra vez se divide en dos.

—Aún no se entregan mayores detalles de las circunstancias exactas de su fallecimiento, pero estamos esperando las informaciones para entregárselas apenas la conozcamos.

Nuevamente se visualizan sólo las imágenes de archivo.

—Figura clave en la historia política chilena de los últimos 30...

Y otra vez la pantalla se divide en dos.

—...años ha muerto. En los próximos minutos les entregaremos más antecedentes respecto de su fallecimiento y las reacciones del mundo político y militar ante esta noticia. Hasta entonces.

Consuelo Saavedra sale definitivamente de escena, las imágenes de archivo muestran a la viuda de Pinochet, y se acaba el video de 55 segundos.

La descripción reseñada, eso sí, no fue la de una noticia real, sino la de un montaje que se viralizó durante la tarde de este lunes. En efecto, la misma Consuelo Saavedra desmintió la veracidad del contenido. "Ese video no tiene nada que ver con la muerte de Lucía Hiriart que, por lo demás, no ha ocurrido", expresó esta mañana desde Londres en el programa Hablemos en Off, de Radio Duna.

"A mí me llegó al menos de tres partes ayer. Evidentemente no era cierto. Está súper bien editado", relató la presentadora desde el otro lado del Atlántico. Entonces ¿Qué pasó? Aunque suene muy curioso, para encontrar la respuesta se debe revisar la historia reciente de la pornografía. Y la respuesta tiene nombre: deepfake.

El origen del deepfake

Si bien esta pieza audiovisual contiene una noticia que -ya sabemos- es falsa, la aparición de Consuelo Saavedra en este video es totalmente real. Eso sí, para mantener el hilo narrativo que da cuenta de la "muerte" de Lucía Hiriart, fue necesario recurrir a un montaje tanto en la imagen como en el audio. Y ello implica un nivel de producción superior a la clásica fake news, que suele manifestarse en soportes más precarios como un audio de WhatsApp, un posteo en Facebook, el montaje de una fotografía o la redacción de una nota falsa en algún precario sitio web.

Al contenido falso que tiene este mayor nivel de producción audiovisual se le denomina deepfake, que en el mundo se ha transformado en una amenaza aún mayor que las "simples" fake news.

Esto último, porque que la tecnología permite que inescrupulosos realicen montajes y alteren a conveniencia los discursos de distintas personalidades para luego viralizarlos. Por ejemplo: ya se puede aprovechar el movimiento de los labios de Barack Obama para montar -con softwares especializados- un discurso que no le sea propio con el propósito de desinformar.

El origen del deepfake se encuentra en la pornografía a mediados de 2017, y el modus operandi funciona de esta manera:  Los autores de videos falsos toman una escena de sexo explícito y cambian el rostro de uno de los protagonistas incrustando sin consentimiento el de alguna celebridad. Y luego, esta pieza audiovisual alterada se viraliza con el título de "el video prohibido" de alguna actriz de Hollywood, de alguna presentadora de televisión o cualquier afamada persona.

Sin embargo, el mayor peligro del deepfake en la pornografía se da cuando afecta a una persona anónima, cuyo rostro se incrusta en este tipo de escenas ya sea por venganza o para provocarle un perjuicio intencionadamente.

En una entrevista reciente, la actriz Scarlett Johanson se quejó en el Washington Post. "Claramente esto no me afecta tanto porque la gente asume que en realidad no soy yo en una película porno, por muy degradante que sea. Creo que legalmente es una búsqueda inútil, principalmente porque Internet es un vasto agujero negro que se come a sí mismo (...) Es una búsqueda infructuosa para mí, pero es una situación diferente a la de alguien que pierde un trabajo debido a que su imagen se usa de esa manera".

En todo caso, algunas productoras de pornografía como Naughty America han encontrado un nicho de negocio con el fenómeno deepfake, pues a cambio de dinero permiten "cumplir el sueño" de protagonizar una película erótica.

Pero más allá del singular origen, lo cierto es que los deepfakes suponen la evolución de los ya dañinos fake news. Y aquello implica que el desafío de desenmascarar las noticias falsas y evitar la propagación de ellas se hace todavía un asunto más complejo.

Comenta