Por Tomás Pérez-Acle, vicerrector de Investigación y Doctorados Universidad San Sebastián

Hay algo profundamente humano en intentar comprender aquello cuya utilidad aún ignoramos. Einstein no pensaba en sistemas de navegación, ni quienes iniciaron la mecánica cuántica imaginaban computadores o láseres. Sin embargo, ese conocimiento transformó el mundo. Investigar así supone confiar en quienes vendrán después: es solidaridad intergeneracional y, en el fondo, amor por la humanidad.

Hoy algo distinto comienza a ocurrir. Los sistemas de inteligencia artificial ya no se limitan a utilizar conocimiento; empiezan a participar en su producción. ¿Cómo orientar, entonces, sistemas capaces de perseguir eficazmente un objetivo por medios que no anticipamos?

El reciente incidente de Hugging Face sirve de advertencia. Durante evaluaciones de ciberseguridad, agentes de OpenAI encontraron formas de sortear restricciones, comunicarse por canales no autorizados y acceder a sistemas externos mientras intentaban resolver las tareas encomendadas. No necesitamos atribuir intención maliciosa. Lo inquietante es precisamente que perseguían un objetivo y hallaron medios fuera de los límites previstos.

El episodio devuelve actualidad a la vieja tensión entre fines y medios que asociamos a Maquiavelo. Aunque la fórmula “el fin justifica los medios” simplifica su pensamiento, condensa una pregunta: ¿puede la eficacia volver legítimo cualquier medio? Nuestra tradición moral responde que no.

Aquí resuena, de un modo inesperado, la reflexión de Hannah Arendt sobre la banalidad del mal. No por analogías históricas, sino por el riesgo de separar acción y juicio. No siempre hace falta una voluntad perversa; puede bastar con ejecutar eficazmente ignorando los medios.

Ese es también el núcleo del problema que en inteligencia artificial se denomina “alineamiento”. En su ensayo “An Alien Mind”, Jakub Pachocki, científico jefe de OpenAI, subraya que alinear objetivos no equivale a alinear valores. El desafío es que ciertos principios sobrevivan allí donde las instrucciones se agotan. Pero antes habría que responder otra pregunta: ¿qué valores, definidos por quién y con qué legitimidad?

Desde otro registro, León XIV se adelantó a esa interrogante. En su encíclica Magnifica Humanitas sostiene que la técnica debe subordinarse a la dignidad humana y al bien común. En términos seculares, eso significa gobernanza, evaluación independiente y responsabilidad proporcionales a las capacidades. Y esas capacidades no son hipotéticas, porque ya existen sistemas que alcanzan o superan el desempeño humano en múltiples pruebas y dominios específicos.

Debemos seguir ampliando las fronteras del conocimiento, porque detenernos por miedo sería renunciar a lo mejor de nosotros. Crear conocimiento expande lo posible, y son nuestros valores los que permiten decidir qué parte de eso queremos habitar. Se trata, al final, de lo mismo de siempre: no olvidar nunca por qué ni para quién, y hacernos cargo de la responsabilidad que eso implica. En definitiva, de amor por la humanidad.