“La censura ocurre en todas partes, pero en las redes sociales pasa más, especialmente a las mujeres negras y gordas como yo”, dijo hace poco en una entrevista al medio feminista Freeda, la modelo de talla grande Nyome Nicholas-Williams. La frase surge después de que en junio de este año publicara en Instagram una foto artística en topless en la que tapa sus pezones con los brazos. Hasta ahí todo bien, pero la red social decidió censurarla y la eliminó rápidamente.

El hecho no pasó desapercibido. Muchos de los seguidores de Nicholas-Williams –que hasta ahora tiene 74 mil– la apoyaron y usaron el hashtag #IWantToSeeNyome (quiero ver a Nyome) para repostear su foto y subir algunos tributos artísticos y publicaciones de mujeres de color posando en sus propias versiones. Y el resultado fue que muchas de esas imágenes también fueron censuradas. Según cuenta un artículo de The Guardian, el incidente dio lugar a una petición de Change.org que ha acumulado más de 20.000 firmas en protesta a lo que se refiere “censura perjudicial y claramente motivada por motivos raciales de Instagram” y con el objetivo de “mostrar a todas las personas de todos los tamaños y etnias”.

El algoritmo de Instagram es un entramado difícil de entender para los expertos. Lo que se sabe es que las imágenes que infringen las pautas de la comunidad se marcan mediante una combinación de informes manuales –tiene más de 15 mil empleados que trabajan en todo el mundo revisando las publicaciones y buscando material prohibido– y tecnología de inteligencia artificial. Cali Bustos, directora estratégica de Nativo Digital Lab (@nativodigitallab) cuenta que Instagram nunca ha declarado cómo funciona este tipo de censura, y explica que seguramente esto tiene que ver con que es incorrecta. “Hay muchos ejercicios que se han hecho para ver cómo opera el algoritmo y, por ejemplo, se han publicado fotos de mujeres desnudas de torso a las que les pegan pezones masculinos y en ese caso no se censura”, dice. “Dentro de sus normas hablan de buen comportamiento y hay un tema de protección infantil, porque es una plataforma a la que legalmente se puede acceder desde los 13 años, pero si se cambia la fecha de nacimiento, da lo mismo. La idea entonces era que no se convirtiera en una red de “peligro” para los menores, pero terminó siendo bastante discriminatoria para los cuerpos, especialmente de las mujeres y sobre todo de aquellos que se salen de la norma o del estereotipo de lo “lindo”, como es el caso de los cuerpos gordos y de color”, agrega.

En junio, cuando ocurrió lo de Nicholas-Williams, el director ejecutivo de Instagram Adam Mosseri reconoció públicamente la necesidad de que la red social pusiera atención en el “sesgo algorítmico”, así como la verificación y la distribución de contenido. “Nuestro enfoque comenzará con la comunidad negra, pero también vamos a ver cómo podemos servir mejor a otros grupos subrepresentados”, dijo. Pero hace algunas semanas, otro episodio puso en jaque a la compañía: La comediante australiana Celeste Barber publicó una de sus típicas parodias en las que imita poses de modelos. Esta vez eligió una publicación de la ex modelo de Victoria’s Secret, Candice Swanepoel, en la que aparece de perfil tapándose un pecho desnudo.

Como suele ocurrir con las imitaciones de Barber, ambas fotos revelaban exactamente las mismas partes del cuerpo de cada mujer, sin embargo, Instagram no permitió que la foto de Barber fuera compartida por sus seguidores, notificándoles porque dicha imagen “va en contra de las pautas de nuestra comunidad sobre desnudez o actividad sexual”. La publicación de Swanepoel, en cambio, no se informó y la comediante escribió en su cuenta: “Hola Instagram, solucionen sus estándares de vergüenza corporal, chicos. Es 2020. Póngase al día”, compartiendo la captura de pantalla de un fan que muestra el rechazo de la publicación de Instagram.

En ambos casos sus protagonistas han dicho que Instagram se ha disculpado diciendo que sus imágenes fueron censuradas por error, pero Cali Bustos cuenta que esto pasa muy seguido. “Bajan muchas imágenes que, según su criterio, podrían no gustarle a los usuarios y que tienen que ver con estereotipos sobre lo que se considera bello”, dice. “Cuando partió esta red social era una aplicación que privilegiaba el contenido de calidad donde la belleza, los colores y la profundidad eran importantes, porque el objetivo era ser una plataforma donde se pudiese mostrar un trabajo fotográfico más profesional que en las otras redes como Facebook o Twitter”, agrega. Pero actualmente no es así, y cuando se bajan imágenes como la de Celeste Barber, es difícil pensar que no se trata de una discriminación hacia un tipo de cuerpo, ya que son dos fotos prácticamente idénticas, pero con cuerpos distintos.

Para Cali también hay aquí un reflejo de lo que ocurre en la sociedad. “De lo poco que se conoce del algoritmo de Instagram se sabe que un contenido que recibe muchas denuncias es bajado inmediatamente y luego, a través de la inteligencia artificial, detectan qué imágenes similares también deben ser censuradas”, explica. “Las audiencias a veces se plantean como liberales, pero cuando algo no les gusta, la denuncia va, la gente se dedica a eso. Y si pensamos en este mismo ejemplo, pero fuera de las redes, si estas dos mujeres se mostraran desnudas en la calle, te puedo asegurar que la gente en su mayoría va a creer que la modelo es bella y que está haciendo algo precioso y hasta artístico y que el desnudo de la otra chica, con mayor peso, se tomaría como algo contestatario o incluso podrían calificarlo de mal gusto”, dice.

Volviendo a Instagram. Lo que han planteado expertos es que al menos en tres situaciones, la red está discriminando: a cuerpos gordos, personas de color y mujeres. Y es importante que esto se sepa porque en un mundo en el que las redes se han masificado tan profundamente, es indispensable que haya espacio para todas y todos. “Son normas que segregan y marginan. Porque te dicen que no puedes mostrar cuerpos, pero hay cuerpos que sí se están mostrando y otros que no. Y en eso claramente hay una decisión manejada”, concluye Bustos.