SEÑOR DIRECTOR:

Durante años, la inteligencia artificial (IA) avanzó bajo una convicción sencilla: cuanto más rápido, mejor. Ahora, quienes encabezan esa carrera comienzan a pedir reglas para saber cuándo convendría disminuir la velocidad.

OpenAI propuso que EE.UU. lidere un acuerdo internacional sobre seguridad en IA. La preocupación se concentra especialmente en sistemas capaces de participar en su propio perfeccionamiento: máquinas que podrían ayudar a construir otras mejores que ellas mismas.

La petición tiene algo paradójico. Las empresas con la tecnología más avanzada piden a los estados establecer límites que ellas mismas podrían imponerse. Pero quizá no haya tanta contradicción. Una compañía que avanza más lentamente corre el riesgo de que otra no lo haga. Y un país que contiene a sus empresas puede temer que otro aproveche la pausa. Todos tienen razones para continuar, aun cuando podrían preferir que el conjunto disminuya la velocidad.

Es un viejo problema humano instalado en una tecnología nueva. Por eso, la discusión sobre IA deja de ser solo tecnológica. Cuando un sistema puede afectar la ciberseguridad, infraestructura crítica, investigación científica o capacidades militares, su desarrollo se parece menos al lanzamiento de una aplicación y más a un asunto de seguridad internacional.

El problema es que acordar reglas requiere algo escaso entre potencias que compiten: confianza. Mientras EE.UU. y China desconfían de que el otro cumpla eventuales límites, las empresas continúan entrenando modelos.

Quizás el verdadero desafío de la IA no sea conseguir que las máquinas se comporten como esperamos. Antes tendremos que conseguir que los seres humanos lo hagamos.

Luciano Ahumada

Decano (i) Fac. de Ingeniería y Ciencias UDP