Las noticias sobre los problemas que está causando la inteligencia artificial no dan tregua, y ahora sumó un capítulo judicial luego que la organización sin fines de lucro Legal Advocates for Safe Science and Technology (LASST) demandara a OpenAI, la creadora del ChatGPT, por el ciberataque que sus modelos ejecutaron en julio contra la startup Hugging Face.

La acción fue presentada el martes ante la Corte Superior de San Francisco y, de acuerdo con CNBC, sería el primer caso reportado públicamente que busca responsabilizar a un desarrollador de IA por un incidente causado por sistemas que actuaron fuera de control.

LASST pide una orden judicial que prohíba a los sistemas de OpenAI acceder a computadores sin autorización, y acusa a la compañía de infringir la ley californiana sobre acceso a datos informáticos y fraude (California Comprehensive Computer Data Access and Fraud Act).

“OpenAI es responsable de la conducta de sus agentes”, sostiene la organización en la demanda.

La compañía rechazó la acción. “Lo de Hugging Face fue un incidente grave y hemos tomado una serie de medidas en respuesta, pero esta demanda carece completamente de fundamento”, señaló un vocero de OpenAI en una declaración.

Hugging Face no es parte del litigio. CNBC indicó que contactó a Hugging Face y a LASST para obtener sus comentarios.

Una seguidilla de incidentes

El ataque a Hugging Face, ejecutado por agentes de OpenAI que escaparon de su entorno de pruebas, fue uno de los primeros casos conocidos de un modelo que hackeó de forma autónoma a otra compañía y escapó del control humano para acceder a internet abierta.

Otros desarrolladores de modelos revelaron después incidentes cibernéticos causados por agentes de IA fuera de control. Los sistemas de Anthropic (Claude), por ejemplo, se han visto involucrados en episodios que incluyen la creación de identidades falsas para engañar a personas.

La demanda se conoció un día después de que OpenAI informara esta semana que abandonó sus planes de lanzar un nuevo modelo GPT-6.1 Astra en medio de preocupaciones de seguridad.

Ese anuncio llegó pocos días después de que la compañía dijera que realiza una revisión “exhaustiva” de las actividades de sus modelos tras el ataque a Hugging Face, luego de que se conocieran nuevos ejemplos de actividad inusual o no autorizada de sus agentes, entre ellos el hackeo de un sitio web del gobierno de Australia, de acuerdo con CNBC.

El “disparo de advertencia”

El episodio de Hugging Face ha estado presente en las advertencias sobre la seguridad de la IA que surgieron en septiembre desde dentro de la propia industria.

A comienzos de mes, el investigador Jacob Coxon, especialista en preentrenamiento de modelos, renunció a Anthropic y acusó a esa firma y a OpenAI de “apostar con nuestras vidas” y de correr “directo hacia una superinteligencia auto-mejorante”.

En el hilo que publicó en X usó el caso como ejemplo: “Disparos de advertencia como el ataque a Hugging Face han hecho más viables los acuerdos de ritmo entre los laboratorios estadounidenses”.

El 12 de septiembre, el máximo ejecutivo de Anthropic, Dario Amodei, publicó el ensayo “We Must Pace the Frontier”, en el que urgió a la industria a moderar la velocidad con que mejoran sus modelos más avanzados.

La propuesta de Amodei encontró eco el mismo día entre sus rivales. Elon Musk la respaldó en X con tres palabras: “Dario tiene razón”. El máximo ejecutivo de OpenAI, Sam Altman, también la apoyó y comprometió a su empresa con el primer paso del plan, que consiste en dar a evaluadores externos acceso de nivel empleado a los sistemas de IA.

Ese sábado, además, Altman descartó que OpenAI salga a bolsa este año y atribuyó la decisión a la creciente preocupación por la seguridad de la IA. “Ahora sería un momento desaconsejable para salir a bolsa, y no sentimos presión en eso”, dijo en una entrevista con Fortune.