La carrera de las grandes compañías tecnológicas por construir sistemas de inteligencia artificial cada vez más poderosos enfrenta una nueva advertencia desde dentro de la propia industria.

Jacob Coxon, investigador de 27 años que trabajó durante los últimos tres años en OpenAI y Anthropic, anunció su renuncia a esta última compañía y su alejamiento de la industria de la inteligencia artificial debido a sus temores sobre el rumbo que está tomando el desarrollo de la tecnología.

Según informó The Wall Street Journal, Coxon considera que la competencia entre los principales laboratorios está empujando a las empresas hacia la creación de sistemas capaces de mejorar sus propias capacidades, sin que exista todavía una forma garantizada de mantenerlos bajo control.

“Ninguna de las dos compañías está actuando responsablemente”, escribió el investigador en X, en referencia a OpenAI y Anthropic.

A su juicio, ambas están avanzando hacia una “superinteligencia capaz de auto-mejorarse” y, con ello, “apostando con nuestras vidas”.

El temor a una inteligencia capaz de mejorarse sola

El concepto que preocupa a Coxon es el de superinteligencia artificial: sistemas que eventualmente podrían superar las capacidades humanas en prácticamente todas las áreas y utilizar sus propias habilidades para acelerar todavía más su desarrollo.

La preocupación radica especialmente en la llamada automejora recursiva. En un escenario hipotético, una inteligencia artificial suficientemente avanzada podría contribuir a diseñar versiones mejores de sí misma, generando una cadena de avances cuya velocidad resultaría difícil de anticipar o controlar.

Coxon aseguró al Wall Street Journal que considera posible que algunos de los escenarios más agresivos comiencen a materializarse mucho antes de terminar la década.

El investigador incluso planteó que, hacia fines de 2027, los sistemas podrían alcanzar niveles que hagan significativamente más difícil mantener su comportamiento bajo supervisión humana.

El científico llegó a Anthropic precisamente atraído por la reputación de la compañía en materia de seguridad. La empresa, fundada en 2021 por antiguos integrantes de OpenAI, ha situado el desarrollo responsable de la inteligencia artificial como uno de sus principales argumentos diferenciadores.

Coxon reconoce que los esfuerzos de seguridad dentro de Anthropic son genuinos. Su problema, asegura, es otro: incluso una empresa preocupada por los riesgos enfrenta incentivos para acelerar cuando compite con OpenAI, Google y compañías chinas por desarrollar los sistemas más poderosos.

La inquietante respuesta de otro investigador de Anthropic

Las declaraciones de Coxon adquirieron todavía más relevancia después de que Evan Hubinger, responsable de Alignment Science en Anthropic, respaldara públicamente parte de su diagnóstico.

Hubinger aseguró que considera superior al 10% la posibilidad de que una inteligencia artificial provoque la extinción de la humanidad durante la próxima década.

También reconoció que Anthropic todavía no dispone de un plan definitivo para resolver el problema de cómo garantizar que una inteligencia superior mantenga objetivos compatibles con los intereses humanos.