SEÑOR DIRECTOR:

Ahora que la IA es un asistente habitual de muchos investigadores e investigadoras, surgen varias preguntas difíciles de abordar: ¿Reemplaza la IA al científico? ¿Le permite hacerse preguntas antes imposibles? Incluso, quizás, ¿puede descubrir algo que un humano no habría imaginado? Y, cómo no, ¿quién responde cuando la IA se equivoca?

La primera pregunta creo que está mal planteada. El modelo no decide qué investigar, ni interpreta por qué algo importa. Eso sigue siendo trabajo humano. Lo que cambió es cómo generamos las hipótesis, los compuestos o las estructuras posibles de cierto material. Antes, explorar ese espacio tomaba años de trabajo experimental y hoy puede tomar tan solo minutos. La pregunta relevante no es si la máquina reemplaza al científico, sino qué hacemos con la avalancha de posibilidades que ahora produce.

¿Puede descubrir algo que un ser humano no habría imaginado? En cierto sentido sí, porque puede generar combinaciones que ningún humano habría propuesto, dado que explora espacios mucho más grandes que los que abarca una persona. Pero imaginar no es lo mismo que descubrir. Una hipótesis generada por un modelo sigue siendo solo eso hasta que se somete a la experimentación en la disciplina en la que se desarrolla. En un caso reciente, una IA “encontró” millones de materiales nuevos y resultó que la mayoría de ellos no eran tal. La máquina no mintió: encontró patrones que, en la mayoría de los casos, no eran descubrimientos.

Y ahí pasamos a la última pregunta. Si un algoritmo se equivoca, ¿quién responde? No hay realmente un consenso, pero al menos en el mundo científico la responsabilidad recae en quien firma el paper. Instituciones, revistas y empresas que construyen estos modelos todavía no se han puesto de acuerdo sobre quién asume el costo cuando algo sale mal, pero sí se espera que el investigador se haga responsable de la información que comparte con la comunidad.

Lo que estas tres preguntas tienen en común es que ninguna se resuelve mejorando la máquina. Se resuelven construyendo hábitos de verificación, estándares de reporte, reglas claras de responsabilidad que hoy no existen, o que son muy variables.

El problema no es que la IA se equivoque, también les ocurre a los científicos. El problema es que todavía no le exigimos el mismo estándar de prueba que a cualquier otro método.

Elise Servajean

Directora de ADA - Plataforma de Investigación Acelerada con IA de la Universidad Andrés Bello