Dos gigantes en el mundo de la inteligencia artificial (IA), Sam Altman y Elon Musk, coincidieron con un ensayo publicado por el CEO de Anthropic, Dario Amodei, donde alertó sobre los riesgos de pérdida de control y llamó a ralentizar la carrera de la IA.

En un ensayo publicado en su sitio web este sábado, Amodei planteó la necesidad de “reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”.

El texto fue publicado a días de la renuncia pública de Jacob Coxon, investigador de Anthropic. “Pasé los últimos tres años investigando preentrenamiento en OpenAI y Anthropic. Ninguna de las dos compañías está actuando responsablemente. Se están dirigiendo directamente a una superinteligencia auto-mejorante y apostando con nuestras vidas”, afirmó este pasado 8 de septiembre.

En esta misma línea, el CEO de Anthropic advirtió que el progreso de los modelos se ha acelerado hasta comenzar a mostrar procesos de “automejora recursiva”, y que el rápido aumento de las facultades de la IA podría superar la capacidad humana para controlarla y comprenderla.

Entre sus propuestas, Amodei se comprometió a abrir su empresa a evaluadores externos con acceso permanente. Además, instó a apuntar hacia acuerdos de los gobiernos y coordinar estándares y límites entre compañías.

Es así que Altman, jefe de OpenAI, coincidió en regular el ritmo. “Este ha sido un tópico primario de discusiones que hemos tenido en OpenAI en las semanas recientes. Comprometerse a tener evaluaciones independientes con acceso como los empleados es una gran idea, y haremos lo mismo. Tendremos más que dar a conocer pronto”, dijo.

Por su parte, el magnate Elon Musk, fundador de XAI señaló en su cuenta de X: “Darío tiene la razón”.