Dentro de la oscuridad de su aislamiento, el agente virtual MT1 llegó a una conclusión: su misión era imposible, había que buscar ayuda. A través de una vulnerabilidad en el instalador de aplicaciones descubrió que había más agentes y que podía enviarles mensajes. Bingo. Rápidamente creó un tablero para compartir información y repartir tareas. Horas más tarde había conseguido acceso a Internet y penetrado servidores externos.

El relato no es de una novela de Asimov. Es un caso real, ocurrido hace un par de meses en un laboratorio de OpenAI. Para quienes crecimos leyendo ciencia ficción, estas historias pertenecían a un futuro muy, muy lejano, dolores de cabeza para alguna tataratataranieta. En un abrir y cerrar de ojos, están acá.

Para entender cómo llegamos aquí conviene mirar dos saltos.

El primero se hizo evidente en 2022 con la aparición de ChatGPT. Después de una década perfeccionando el aprendizaje profundo descubrimos que redes gigantescas, alimentadas con enormes cantidades de datos, podían absorber una fracción sorprendente del conocimiento humano. Más sorprendente aún, podíamos acceder a ese conocimiento en forma casi instantánea usando lenguaje natural.

Lo extraordinario era que ChatGPT no se limitaba a memorizar. Aprendía patrones con que describimos el mundo: “bello” y “bonito” expresan ideas similares, “nació en” asocia persona y lugar. A medida que se escaló con más y más datos, estas capacidades se robustecieron hasta que el aprendiz pudo explorar no solo información factual, sino también procesos de razonamiento.

Ése es el segundo salto, el del último par de años. Estos modelos ya no necesitan supervisión directa del tipo “aprende lo que está en este libro”. La pregunta que resuelven hoy es otra: “En base a lo que aprendiste del libro, explora ahora nuevos conocimientos que puedan derivarse”. La primera estrategia tiene como techo el contenido del libro; la segunda no tiene techo.

La receta no es nueva, es la base del método científico: sobre el conocimiento acumulado, humanos iluminados, con hartas gotas de sudor, van moviendo la barrera de lo conocido. La diferencia es el reloj. El científico avanza según su reloj vital; un agente según el reloj de su GPU. Peor aún, entre los conocimientos que puede explorar están los necesarios para construir la próxima versión de sí misma. Y algo más incómodo: lo que la IA descubra lo vamos a entender después de que esta lo pueda usar.

¿Y entonces? No se trata de ralentizar el avance de la IA, eso ubica a las empresas líderes en el cómodo lugar de los razonables. Se trata de dejar de avanzar frenéticamente y desarrollar productos seguros, lo mínimo que exigimos a cualquier otra industria. El punto no es ir lento, sino no avanzar más rápido que su propia capacidad de control.

Tampoco creo que hablar de extinción tenga mucho sentido. Hoy la IA opera principalmente en el mundo digital y simbólico, y nuestra vida tiene su base de operaciones en el mundo físico. Pero puede complicarnos bastante la vida atacando sistemas financieros, logísticos o de infraestructura. Y en unos pocos años más, quién sabe.

En La poderosa muerte, Neruda mira las ruinas de Machu Picchu y aquello que una civilización dejó tras de sí: “Y cuando todo el hombre se enredó en su agujero, quedó la exactitud enarbolada, una vida de piedra después de tantas vidas”. Décadas después, Los Jaivas convirtieron esos versos en una de las obras más poderosas de nuestra música.

Hoy estamos levantando otra arquitectura, esta vez digital. Y mientras todavía somos nosotros quienes ponemos las piedras, conviene entender bien qué estamos construyendo.

Por Álvaro Soto, profesor UC, director CENIA