Entre finales de diciembre y principios de enero, X, la red social propiedad de Elon Musk, presentó una ola de imágenes sexualizadas generadas con Grok, el chatbot de inteligencia artificial (IA) creado por el magnate de la tecnología que puede utilizarse a través de la mencionada plataforma.

En las imágenes figuraron principalmente mujeres y menores de edad.

La situación desencadenó intensos cuestionamientos por parte de las víctimas y sus familiares, así como de funcionarios de distintos países y organizaciones no gubernamentales.

El chatbot, en respuesta a las solicitudes de usuarios, ha creado fotos en las que se ve a personas sin ropa, vestidas con prendas que dejan ver gran parte de su cuerpo y/o posando de diferentes maneras.

Mientras algunas de las víctimas han criticado que Grok permita la creación y alteración de imágenes con estos fines, otras han exigido que se prohíba esta tecnología y se retiren las fotos.

Otras han amenazado con emprender acciones legales, a raíz de los deepfakes que se han creado con el chatbot y compartido a través de la red social.

A grandes rasgos, los deepfakes consisten en un video, una imagen o un audio que ha sido creado, distorsionado o modificado digitalmente para simular que un individuo está haciendo una acción que no hizo realmente.

Con los acelerados avances de la IA, algunas personas han recurrido a esta tecnología para generar contenido pornográfico o incluso realizar extorsiones, lo que ha despertado preocupación entre especialistas en ciberseguridad y funcionarios de distintos gobiernos.

El chatbot de Grok puede utilizarse a través de una aplicación, un sitio web y una cuenta en X, la red social que antes de ser adquirida por Musk en 2022 se llamaba Twitter.

En esta última, los usuarios pueden hacer sus solicitudes a Grok en publicaciones públicas, para que luego sean respondidas por el chatbot.

Pese a que el sistema cuenta con medidas de seguridad que impiden la generación de imágenes de desnudos completos, algunos usuarios de X han encontrado formas de generar contenido sexualmente explícito a través de ciertas directrices.

Cómo respondió Grok tras las cuestionadas imágenes generadas con su IA

La noche del jueves 8 de enero, la cuenta de Grok en X comenzó a limitar las solicitudes de imágenes de IA a los suscriptores del sitio que pagan por ciertas funciones premium, según informaciones rescatadas por el New York Times.

De acuerdo al chatbot de IA, el cambio ocurrió tras una “reacción negativa por su capacidad para crear deepfakes sexualizados sin consentimiento”.

Sin embargo, agregó, los usuarios pueden “suscribirse o cambiar al sitio independiente de Grok para obtener funciones similares”.

En diciembre del año pasado, Musk pidió a Grok que creara una imagen de él mismo en bikini, la cual compartió en su cuenta de X.

De la misma manera, en 2024 añadió chatbots sexualmente explícitos a Grok, lo que posicionó a su firma de IA, xAI, como la primera gran empresa de este tipo en hacerlo.

En medio de las críticas, Musk anunció el sábado que las cuentas que intenten usar Grok para crear imágenes de niños desnudos sufrirán consecuencias.

X afirmó a través de un comunicado que eliminará el contenido ilegal que muestre a menores y suspenderá permanentemente a las cuentas que soliciten a Grok la creación de imágenes de ese tipo.

Las reacciones tras las cuestionadas imágenes generadas con la IA de Grok

La posesión o el intercambio de imágenes sexuales de menores es ilegal en muchos países. Algunos también prohíben las imágenes sexuales de menores generadas por IA.

Estados Unidos y Reino Unido, entre otros países, han promulgado leyes contra el intercambio de imágenes de desnudos no consensuados, usualmente denominadas como “pornovenganza”.

Según las informaciones reunidas por el citado periódico, un funcionario de Brasil solicitó el lunes de la semana pasada la prohibición de X hasta que el país pueda investigar el aumento de imágenes sexualizadas.

El sábado, reguladores de India exigieron que X y xAI tomen medidas para prevenir el uso indebido de su tecnología.

Esa misma semana, dos legisladores de Francia anunciaron que habían denunciado a X ante la fiscalía de París.

La Comisión Europea afirmó que estaba investigando la situación.

En Estados Unidos, los senadores Ron Wyden (Oregon), Ed Markey (Massachusetts) y Ben Ray Luján (Nuevo México) enviaron una carta en la que solicitaron a Apple y Google que eliminen X y Grok de sus tiendas de aplicaciones.

El primer ministro británico, Keir Starmer, declaró en una entrevista la semana pasada que las imágenes son “repugnantes” y no serán “toleradas”.

Agregó que solicitó al regulador de Internet británico que se consideraran “todas las opciones” como respuesta.

Un portavoz de Starmer manifestó, según rescata el Times, que limitar la creación de imágenes a los suscriptores de X “no es una solución”.

“Simplemente convierte una función de IA que permite la creación de imágenes ilegales en un servicio premium”.