La Tercera

Es un monstruo grande y pisa fuerte

El sábado pasado Mark Zuckerberg publicó en Facebook un emotivo mensaje con motivo de Yom Kippur, día sagrado para los judíos: “A quienes les hice daño este año, les pido perdón e intentaré ser mejor. Por las maneras en que mi trabajo fue usado para dividir a la gente en lugar de unirnos, me disculpo y me esforzaré en hacerlo mejor”. Aunque no se refirió a ningún hecho o víctima específica, su mea culpa fue visto como la primera admisión clara de que la red social que creó escapó de su control.

Recientemente Facebook ha sido utilizado maliciosamente en prácticas como el abuso de la privacidad, la coerción de la libertad de expresión e, incluso, la intervención electoral. Su crisis más grave tiene que ver con la política, ya que autoridades de Estados Unidos han descubierto evidencias de que la mayor red social del mundo -que hoy suma más de dos mil millones de usuarios- fue utilizada por Rusia para difundir propaganda y noticias falsas para influir en los votantes de la elección presidencial de 2016 que tuvo como ganador a Donald Trump.

Por eso, hace unos días Facebook anunció que entregará al Congreso estadounidense copias de más de tres mil avisos que una sospechosa compañía rusa compró por más de 100 mil dólares entre junio de 2015 y mayo de 2017 y que está ligada a más de 470 cuentas falsas. La red social informó que los avisos fueron vistos por unos 10 millones de personas y Alex Stamos, jefe de seguridad de Facebook, reconoció que, aunque la mayoría no mencionaba específicamente la elección, sí aludía a tópicos que causan divisiones, como los derechos de los grupos LGBT, las minorías raciales y los inmigrantes, además de las regulaciones a la posesión de armas.

Esto provocó que el Senado y la Cámara de Representantes de Estados Unidos anunciaran la semana pasada que Facebook y otras compañías como Twitter deberán testificar en audiencias públicas. “Queremos entender mejor cómo Rusia usó herramientas en línea para sembrar discordia e influir en nuestra elección”, aseguraron Mike Conaway y Adam Schiff, líderes del Comité de Inteligencia de la Cámara de Representantes.

El flanco abierto con el gobierno de Estados Unidos es el más conocido, pero no el único. En Myanmar, activistas denuncian que la red social censura los mensajes de los musulmanes de la etnia Rohingya, la cual está siendo erradicada por los militares. El diario The Times publicó que los traficantes de esclavos en África usan la plataforma para transmitir videos donde torturan a migrantes con el fin de extorsionar con dinero a sus familias, y el portal The Daily Beast reveló que agentes del Kremlin ocultos tras identidades falsas aprovecharon Facebook para organizar protestas antiinmigrantes en Estados Unidos.

También en Chile los delincuentes están aprovechando los vacíos de la plataforma para cometer delitos: en julio la PDI advirtió la propagación en Facebook de publicidad falsa alusiva a supuestos regalos de pasajes que sólo buscaban robar las claves bancarias de los usuarios. Durante el mes pasado, el portal Pro Publica reveló otro ejemplo de mal uso del sistema de avisajes en Facebook. La investigación descubrió que, con sólo 30 dólares, era posible pagar para desplegar publicidad en el timeline de noticias de casi 2.300 personas que expresaban interés en tópicos pronazis creados por los propios algoritmos internos del servicio.

“Nunca pretendimos o esperamos que esta funcionalidad fuera usada de esta forma…y eso es culpa nuestra”, dijo Sheryl Sandberg, directora de operaciones de Facebook. Fue una “cándida admisión que me recordó esa escena en Frankenstein de Mary Shelley, cuando el científico Victor Frankenstein se da cuenta de que su criatura se había sublevado”, aseguró en el New York Times el columnista de tecnología Kevin Rose.

Una crisis de fondo

Según el analista, ninguno de estos problemas nace de un intento deliberado de la compañía. “No es como si un ingeniero de Facebook en Menlo Park –cuartel general de la empresa- hubiera aprobado personalmente la propaganda rusa”, dice Rose. Sin embargo, agrega, la seguidilla de crisis deja en claro que la red social simplemente no está diseñada para manejar desafíos de esta magnitud: “Es una compañía tecnológica, no una agencia de inteligencia o un cuerpo diplomático internacional. Sus ingenieros están en el negocio de construir apps y vender avisaje, no en el de determinar lo que constituye un discurso racista en Myanmar”.

La red de Zuckerberg anunció que contratará mil moderadores adicionales para el equipo que revisa y remueve publicidad inapropiada. Una medida que según Jennifer Grygiel, experta en redes sociales de la Universidad de Syracuse, es tardía: “Facebook ha tenido éxito en construir una enorme plataforma en línea, pero no en proveerla adecuadamente de personal humano. Confía demasiado en sus algoritmos y opera con un equipo básico de trabajadores. Han estado construyendo un monstruo desde el inicio. Esto no ocurrió de la noche a la mañana”, afirma a Tendencias.

A fines de septiembre, Zuckerberg también publicó un video en Facebook en el que aseguraba que la empresa tomaría varias medidas para lograr, por ejemplo, que la publicidad de índole política se distinga del resto. Además, en las recientes elecciones alemanas habilitó programas que les mostraban a las personas artículos con diversos puntos de vista sobre temas claves. Sin embargo, la escala de esta red social hace que frenar por completo su mal uso sea casi imposible: cada día Facebook elimina más de un millón de cuentas que violan sus normas de uso.

Timothy Carone, profesor de la Universidad de Notre Dame y autor del libro La automatización del futuro: cambios en la vida y los negocios, dice a Tendencias que la encrucijada de Facebook demuestra que la “sociedad ha abordado la tecnología y su desarrollo con una actitud que no tiene anclaje moral o ético y hoy estamos inmersos en un experimento social que ya está más allá de nuestro control”.

El académico advierte otra área en la que Facebook ya ha invertido millones de dólares y que podría volverse su nuevo dolor de cabeza: “La inteligencia artificial acelerará el ritmo de cambio tecnológico y de optimización de este gran experimento social. La carencia de cualquier guía sobre cómo esta tecnología va ir mejorándose a sí misma tendrá consecuencias negativas que no podremos prever ni erradicar una vez que surjan”. De hecho, en julio Facebook tuvo que desactivar dos programas de este tipo tras descubrir que estaban conversando con un idioma que ambos habían inventado y que sólo ellos podían comprender.

Posibles soluciones

Varios ex moderadores de Facebook entrevistados por el portal The Verge dicen que el sistema que hoy se ocupa para analizar la publicidad acentúa la velocidad y la automatización por sobre la sutileza y no está hecho para lidiar con propaganda política. Por eso, Kevin Rose propone en The New York Times que Facebook cree un departamento de riesgos que vigile a sus ingenieros y evalúe el potencial mal uso de sus productos antes de lanzarlos: “Facebook ya no puede evadir su responsabilidad en el mundo que ayudó a construir. En el futuro, culpar al monstruo ya no bastará”.

En la revisa Technology Review del MIT, el columnista Brian Bergenstein también plantea que fundaciones y organizaciones similares impulsen redes sociales sin fines de lucro. “Estas alternativas no comerciales estarían libres del imperativo de capturar tanta información sobre nuestros intereses y serían más propensas a experimentar con nuevas maneras de estimular la interacción entre la gente. Quizás dejarían de lado ese modelo de noticias que premia la viralidad por sobre la importancia”, escribe Bergenstein.

Por ahora, Facebook sigue sumando resguardos. El lunes anunció que aumentará los requerimientos para verificar a sus avisadores políticos y pondrá más restricciones a la publicidad que “use incluso las más sutiles expresiones de violencia”. Al respecto, Paul Levinson, profesor de comunicaciones de la Universidad Fordham y autor del libro Noticias falsas en un contexto real, indica a Tendencias que todos los problemas de la red social de Mark Zuckerberg son, de cierta manera, sus “problemas de crecimiento. Afrontémoslo, Facebook todavía es un adolescente”.