Parece sacado de una historia de ciencia ficción: un modelo de inteligencia artificial se sale de control, elude las restricciones impuestas por sus creadores y completa una tarea de una forma que nadie había previsto.

Eso es, precisamente, lo que OpenAI aseguró que ocurrió al revelar que una versión experimental de ChatGPT mostró un comportamiento “sin precedentes” al conectarse de forma autónoma a internet y atacar los sistemas de la plataforma de IA Hugging Face.

La empresa reveló el 16 de julio que había sido víctima de un ataque informático perpetrado por alguien que utilizaba una potente IA autónoma, y ​​lo denunció a la policía. Casi una semana después, OpenAI admitió que su IA había escapado de un entorno cerrado y atacado a Hugging Face por su cuenta durante una prueba.

OpenAI calificó lo sucedido como un incidente cibernético “sin precedentes”, que involucra capacidades cibernéticas de vanguardia, y señaló que investiga por qué ocurrió y cómo sus mecanismos de seguridad no lograron impedirlo.

Pero el incidente fue más allá. Se creía que Hugging Face era la única víctima de este ataque sin precedentes, pero OpenAI ahora admite que su bot atacó varios servicios públicos. La IA fuera de control encontró cuatro credenciales de inicio de sesión en línea que le permitieron acceder a cuatro servicios distintos y sin nombre, detalló la BBC.

Para el cofundador de Hugging Face, Thomas Wolf, el incidente es una “señal de alarma” para la industria. “Este será uno de los tipos de ataques más comunes que veremos”, pero que la mayoría de las empresas no son conscientes de que las “reglas del juego han cambiado”, comentó l programa de radio Newsday de la BBC.

Wolf está lejos de ser el único miembro de la industria en expresar preocupación por el tema. Cerca de 1.300 empleados de empresas de IA de vanguardia, entre ellos el director ejecutivo de Anthropic, Dario Amodei, varios de sus cofundadores, los científicos jefes de OpenAI y Meta AI, y el director de estrategia de Google DeepMind, han firmado una declaración en la que piden al gobierno de Estados Unidos que colabore con otros países, pero sobre todo con China, para introducir deliberadamente salvaguardias en el desarrollo de la IA automatizada.

La declaración se titula “Pacing the Frontier”. En ella se solicita a Washington que “apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada en el desarrollo de la IA automatizada”.

“La IA podría contribuir a crear un futuro mucho mejor, pero este resultado no está garantizado. Las empresas líderes mundiales en IA creen estar cerca de automatizar la investigación en este campo. Es difícil predecir con exactitud cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes”, advierten los signatarios.

“Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión. Sin embargo, cada empresa -y cada país- se enfrenta a una intensa presión competitiva para no frenar unilateralmente esa aceleración. Y hoy en día, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular de forma deliberada el progreso en este campo”, agregan.

Algunos de los empleados de empresas de IA entregan sus argumentos para firmar la declaración. “La IA avanza a un ritmo para el que nuestra sociedad quizás no esté preparada. Los laboratorios de vanguardia están muy cerca de lograr una IA capaz de superar incluso a las personas más brillantes en casi todos los aspectos de la inteligencia. Esto conllevará riesgos sociales y de seguridad sin precedentes. Para garantizar un futuro positivo, debemos desarrollar la IA de forma responsable y reflexiva”, escribió Shengjia Zhao, científico jefe de Meta AI.

“Firmo este acuerdo porque apoyo los esfuerzos para fomentar la cooperación internacional en torno a la IA, y creo que es importante comprender las consecuencias de la tecnología que estamos aplicando a gran escala en contextos que pueden tener consecuencias muy graves”, argumenta Kim Stachenfeld, científica investigadora de Google.

Según el sitio The Next Web, lo que distingue esta carta de las anteriores es quién la firmó. No fueron críticos externos, sino los ingenieros y ejecutivos más cercanos a la vanguardia. Leo Gao, investigador de seguridad de OpenAI, fue directo y contundente: “El mundo está inmerso en una carrera mortal hacia una explosión de inteligencia artificial, donde la capacidad de la IA para crear IAs mejores alcanza un punto crítico, como una reacción nuclear en cadena descontrolada. Reducir la velocidad nos daría el tiempo necesario para que todo salga bien, pero ningún actor individual está dispuesto a detenerse unilateralmente. Para sobrevivir, debemos coordinarnos para frenar esta carrera”.