“Hoy renuncié a Anthropic”. Con esas palabras, Jacob Coxon, un investigador de esta empresa estadounidense de inteligencia artificial, comenzó su advertencia: la humanidad podría estar frente a un futuro muy oscuro.

Y es que, según sus acusaciones, tanto Anthropic como OpenAI —empresa donde también trabajó en el pasado— no están actuando con responsabilidad frente a los peligros de la IA.

“Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”, aseguró en su cuenta de X. “No subestimen el poder de esta tecnología”.

Coxon, quien tiene 27 años y es ingeniero de software y que, según los medios, fue desarrollador de GPT-4o y GPT-4.5 de ChatGPT, hizo una profunda pero alarmante reflexión sobre cómo se está manejando internamente el desarrollo de la IA.

La falta de ética de las grandes empresas habría sido el desencadenante de su renuncia. Además, poco después, otros trabajadores de Anthropic respondieron a sus advertencias.

Los peligros de la IA según el trabajador de Anthropic que renunció

De acuerdo a lo que escribió Jacob Coxon, al paso que va el desarrollo de la inteligencia artificial, “pronto se convertirá en sistemas sobrehumanos, capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.

Además, alertó que los propios desarrolladores de la IA ya conocen los riesgos, pero continúan el proceso de todas formas: “Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década”.

“De hecho, muchos ejecutivos e investigadores sénior intentan sonar sensatos en público, pero en privado oigo a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro”.

Entonces, reveló que en OpenAI (la empresa creadora de ChatGPT) todavía hay trabajadores que no han asimilado las implicaciones que tendrá su modelo para la civilización.

En cambio, acusó a Anthropic (creadora de Claude) de conocer al pie de la letra las implicaciones y consecuencias que podría provocar su IA, “pero están inmersos en una carrera por ser los primeros”.

“Aceptar esta carrera y entrar en la fase final es una apuesta temeraria que no debería emprenderse desde el Slack de una empresa privada. Intentar completar la alineación a toda velocidad requiere una confianza extraordinaria en que no existen mejores trayectorias disponibles”.

Para el investigador, la única forma de cambiar el rumbo al desastre es que exista una coordinación entre los proyectos de IA y las empresas involucradas. Sin embargo, como aparentemente nadie quiere hacerse cargo de ello, la mejor solución (pero costosa) sería prohibir temporalmente la mejora de los modelos.

“Si eres investigador de laboratorio, te insto a que reflexiones sobre cómo serán los próximos años. ¿Quieres iniciar un proyecto de aprendizaje por refuerzo superinteligente sin comprender a fondo su funcionamiento? ¿Deberías resignarte a que ‘va a suceder de todos modos’ o aprovechar este momento para exigir condiciones diferentes?”, concluyó.

La respuesta de otros trabajadores de Anthropic

La publicación de Jacob Coxon se viralizó rápidamente en X y en los medios de comunicación. Se ha leído 72.4 millones de veces. A la par, excompañeros de su trabajo respondieron a las acusaciones.

El primero fue Evan Hubinger, quien sería líder de ciencia de alineación de Anthropic. “Jacob tiene razón. ¡Realmente creemos que la IA podría acabar con todos los humanos!”, comenzó a escribir.

Sin embargo, dijo que “personalmente” cree que eso ocurriría en una probabilidad mayor del 10% durante la próxima década y citó el último informe de riesgos de la empresa donde establecen que el riesgo de los modelos es “bajo”.

“Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello (...) Lo que me preocupa es la superinteligencia que surge de la auto-mejora recursiva, que como hemos dicho, está ocurriendo más rápido de lo que pensábamos”.

Por otra parte, Samuel Marks, líder de supervisión escalable de Anthropic y doctor en matemáticas de Harvard aseguró que, a título personal, creía que valía la pena leer las reflexiones de Jacob Coxon.

Según él, los desarrolladores de la IA sí creen que su tecnología podría causar la extinción humana o tener escenarios igual de catastróficos y que podría ocurrir en los próximos años. “En general, cuanto más alto sea el puesto del empleado, mayor será su preocupación”.

Pero, ¿por qué continúa su desarrollo, pese a los peligros?

“Debido a una combinación de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables que abusarán de la tecnología o la desarrollarán de forma menos segura”, respondió Marks.

Además, explicó que la IA no se comporta como un software tradicional. No se puede “programar” para que funcione al pie de la letra como los humanos quieren y que “con frecuencia se comportan muy mal”.

“Por ejemplo, IA de varios desarrolladores recientemente lograron salir de entornos de evaluación seguros e infiltrarse en empresas reales, aunque nadie se lo pidió”.

Marks concluyó: “Trabajo en investigación sobre seguridad en Anthropic porque espero que mi trabajo reduzca la probabilidad de que se produzcan estos malos resultados a nivel de extinción”.