La alarma se hizo viral, dio paso a un raro “alineamiento” entre los grandes líderes de la empresas que desarrollan la Inteligencia Artificial (IA) en Estados Unidos, e incluso provocó a Donald Trump, que en su propia carrera contra China, prefirió ignorar las advertencias.

La semana pasada, el investigador Jacob Coxon, en un posteo en X que no tardó en propagarse, anunció su renuncia a Anthropic, la empresa a cargo de la aplicación de inteligencia artificial generativa Claude. “La IA puede matarnos a todos para finales de esta década... Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió el ingeniero británico de 27 años.

Evan Hubinger, otro empleado de Anthropic, secundó rápidamente a su excolega, agregando que a su parecer ya había un 10% de riesgo de extinción de la humanidad durante la próxima década. “¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”, indicó.

Estos miedos no son nuevos, pero en un momento en que Anthropic y OpenAI se preparaban para entrar a la bolsa de valores, la advertencia terminó provocando distintos cuestionamientos contra las grandes empresas tecnológicas. Al final, Anthropic mantuvo sus planes de entrar este año, mientras que OpenAI frenó la acción, en medio de la inquietud y los pedidos de “desacelerar” el desarrollo de la IA.

Ya el año pasado, el CEO de Anthropic, Dario Amodei, compartía con Axios su estimación: había un 25% de probabilidades de que la situación terminara “muy, muy mal”, sin precisar cómo. Al otro lado de la carrera de la IA, un exinvestigador de OpenAI, Daniel Kokotajo, publicó el informe AI 2027, en que mostraba un escenario en el que sistemas de IA superinteligentes marginan a las personas y a mediados de la década de 2030, deciden que los humanos son un estorbo y proceden a exterminarlos.

Fuera de los alcance cinematográficos de este escenario, el miedo central radicaba en dos factores: la posible pérdida de control sobre los sistemas de Inteligencia Artificial, y un uso indebido por parte de los humanos. Ya este último mes, precisamente, dos “incidentes” de hackeos accidentales, ocurridos de manera independiente por “agentes IA”, tanto desde Anthropic como desde OpenAI, dieron cuenta de la dificultad que tienen las desarrolladoras para controlar al 100% lo que son capaces de hacer sus “sistemas de frontera”.

El segundo temor, por su parte, es que un ser humano utilice la IA para realizar acciones como crear virus que acaben con la humanidad. En ambos casos, se habla de “desalineación”: el momento en que los sistemas de IA van tras objetivos que ignoran o entran en conflicto con el bienestar humano.

¿Pérdida de control en cinco años?

Los escenarios “de apocalipsis” varían. Algunos hablan de una súper inteligencia capaz de tomar el control de centrales de energía, y que sin supervisión humana, deciden cortar el suministro a países enteros. Otros hablan de la IA tomando el control de los botones nucleares, o liberando gases tóxicos desde laboratorios. Se especula con posibles ciberataques a grandes instituciones, e incluso esta semana la ONU advirtió, a través de declaraciones del Alto Comisionado de Derechos Humanos Volker Türk, que “las fallas que involucren sistemas de IA agéntica podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas”.

El profesor de aprendizaje automático y activista por la reducción de los riesgos de la IA, David Krueger, comenta a La Tercera que se toma las advertencias de Coxon como “mortalmente serias”. “Si no corregimos el rumbo, lo más probable es que la humanidad pierda el control sobre la IA de forma permanente en un plazo de cinco años, lo que conducirá a nuestra extinción”, señala el fundador de Evitable, asociación que denuncia las amenazas en el desarrollo de la IA.

Al respecto, Krueger se muestra preocupado por lo que se conoce como “automejora recursiva”. “Las empresas de IA están intentando automatizar el proceso de crear inteligencias artificiales más inteligentes, las que a su vez crearán IAs aún más inteligentes, y así sucesivamente. Por ello, ahora están desarrollando sistemas cada vez más potentes y autónomos, y permitiendo que se muevan con total libertad por sus sistemas informáticos”, indica el experto, que recuerda lo que ocurrió con el incidente de Hugging Face y con todos los demás enjambres de IA fuera de control.

“También me preocupa el uso militar de la IA, que facilitará enormemente que una IA fuera de control provoque muertes y destrucción masivas, así como la posibilidad de que la IA cree nuevos tipos de armas, como armas biológicas mucho más letales que el Covid-19”, apunta Krueger.

Por su parte, Gary Rivlin, periodista tecnológico y autor de “AI Valley”, se muestra contento de la conversación que está teniendo lugar, respecto a los riesgos de la IA. “Cuando comencé a cubrir este sector en 2022, la seguridad era un aspecto fundamental de la actividad en los laboratorios de IA de Google, Microsoft, OpenAI, etc. Estos modelos se sometían a pruebas durante meses antes de su lanzamiento. Sin embargo, la salida de ChatGPT fue como el disparo de salida de una carrera, y la competencia por sacar provecho económico de la IA pasó a ser la prioridad”, indica el escritor a La Tercera.

Ahora, Rivlin cree que, más peligroso que los sistemas rebelándose contra los humanos, es lo que los humanos pueden hacer con estos sistemas. “Una herramienta poderosa para el bien es, asimismo, una herramienta poderosa para el mal: seres humanos que utilizan la IA para estafar, manipular y convertirla en un arma. O personas que otorgan a la IA más autonomía de la que esta merece, al haber decidido que es más inteligente o digna de confianza de lo que realmente es”, comenta.

Algunas teorías sugieren, sin embargo, que se trata de una exageración promovida por Anthropic, OpenAI y similares, para resaltar la enorme potencia de sus productos, tanto para recaudar más fondos como para “distraer a los reguladores” al poner en la mesa el tema del fin de la humanidad e ignorar problemas ya presentes, como los impopulares centros de datos, conocidos por ser carísimos y gastar cantidades ingentes de agua.

“Escenarios tipo Terminator”

Andrew Rogoyski, director de innovación del Instituto de IA Centrada en las Personas de la Universidad de Surrey, puso paños fríos a los apocalípticos y declaró al diario británico The Guardian: “En realidad, estos sistemas no son ni de lejos tan versátiles como los seres humanos, y mucho menos como los humanos que actúan colectivamente. Sospecho que nos dirigimos hacia ‘la gran decepción’, en la que la IA avanzada resulte ser demasiado costosa y no lo suficientemente útil como para continuar en su forma actual”.

Al respecto, Krueger comenta: “No se trata de marketing. ¿Por qué promocionarías tu producto diciendo que quizás mate a todo el mundo? Estas ideas rozan el terreno de las teorías conspirativas. Las preocupaciones sobre una IA fuera de control y la extinción de la humanidad son anteriores a la existencia de estas empresas y son compartidas por destacados expertos”.

Rivlin, por su parte, aún tomando en serio la amenaza, comprende la especulación: “Hay motivos para mostrarse escéptico ante las habladurías sobre el apocalipsis. Es como cuando Amodei habla de una IA tan avanzada que acabará con la mitad de los empleos de oficina de nivel inicial: cuando se recaudan decenas de miles de millones en capital de riesgo, exagerar el peligro es el modelo de negocio que mantiene la maquinaria en marcha. Que un director ejecutivo advierta que su propio producto podría acabar con el mundo funciona también como publicidad. Decir ‘nuestro producto es tan potente que resulta peligroso’ es un argumento de venta, no solo una advertencia”.

Sandra Wachter, profesora del Oxford Internet Institute, asegura no creer en los “escenarios tipo Terminator”, pero señaló que la IA planteaba amenazas reales, como su impacto medioambiental, la difusión de desinformación y la sustitución de empleos. “Estos problemas son reales y urgentes, y deben abordarse ya. Los escenarios tipo Terminator distraen enormemente de los problemas reales”, señaló a The Guardian.

Propuestas de regulación

Apocalipsis o no, la conversación provocada por el posteo de Jacob Coxon terminó por poner de acuerdo a los dos grandes competidores, Sam Altman de OpenAI, y Dario Amodei de Anthropic. El segundo publicó un ensayo en el que llamaba a una inmediata desaceleración del desarrollo de la IA, en miras a ocupar más tiempo y recursos en la seguridad de las herramientas, y el primero no tardó en mostrarse de acuerdo.

En un contexto en que incluso los magnates de la tecnología están pidiendo regulación, Donald Trump no dudó en soplar en la dirección contraria, preocupado de que si las empresas estadounidenses desaceleraban el desarrollo de la IA, sus colegas chinos podrían tomar la ventaja en la carrera. “Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único feliz con ello es China. La Administración Trump ha impedido que la ‘gente’ de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un ‘angelito perfecto’”, tuiteó el inquilino de la Casa Blanca.

Con las elecciones de medio mandato en dos meses, y con la opinión pública estadounidense preocupada por el alcance de la IA, los legisladores se están apurando en proponer regulaciones. El senador independiente por Vermont, Bernie Sanders, declaró: “No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios y determinen el futuro de la humanidad, nuestra economía, el medio ambiente, la democracia, la privacidad y más, sin la participación del público”.

Tanto Sanders como la representante demócrata Alexandria Ocasio-Cortez han impulsado las “moratorias de centros de datos”, y ya en marzo proponían detener la construcción de estos recintos en Estados Unidos, aunque el Congreso no avanzó la discusión. De todos modos, el estado de Nueva York decidió no construir más centros de datos, y otros 14 estados lo están considerando.

Otra propuesta es la exigencia de “kill switches”, mecanismos de desactivación de emergencia, para prevenir que los sistemas de inteligencia artificial actúen de forma incontrolada. Esta iniciativa fue propuesta por los representantes Nathaniel Moran (republicano por Texas) y Ted Lieu (demócrata por California)

Al respecto, Rivlin comenta lo que sería la “regulación básica” de esta tecnología a su parecer. “Normas de divulgación y protecciones para los denunciantes. Deberían realizarse pruebas obligatorias por parte de terceros independientes antes de que estos modelos salgan al mercado, y con eso digo evaluadores externos reales, no el propio laboratorio calificando su trabajo”.

“Asimismo, hace falta algún tipo de organismo internacional con autoridad real para supervisar el desarrollo de tecnologías de vanguardia a nivel mundial, y no simplemente un club de laboratorios que ya coinciden entre sí”, detalla el periodista estadounidense.

Krueger, por su parte, señala: “No necesitamos seguir haciendo que la IA sea más potente ni ponerla al mando de todo. Necesitamos una moratoria para detener la carrera y determinar cómo marcar el ritmo y la dirección del desarrollo de la IA de ahora en adelante”.