En una columna anterior planteábamos la pregunta de cómo el uso de los modelos LLM de IA impactará en la creatividad de las personas y concluíamos que el resultado es difícil de prever, por lo que hay un riesgo en esta dimensión. Pero al parecer hay un riesgo mucho más significativo y que se relaciona con el hecho de que el uso de la IA está transformando profundamente la forma en que las personas piensan y toman decisiones.

En un trabajo reciente, los profesores Steven Shaw y Gideon Nave sostienen que las herramientas de IA están siendo usadas no como un asistente para tomar decisiones, sino directamente para tomarlas. Según estos autores, las teorías tradicionales que se usan para modelar los procesos cognitivos y la toma de decisiones proponen un doble proceso cognitivo: un sistema uno que se caracteriza por un procesamiento rápido, intuitivo y emocional y un sistema dos que se caracteriza por un procesamiento lento, deliberativo y con razonamiento analítico (Kahneman). Sin embargo, ellos sostienen que para entender los procesos de cognición humana en un contexto donde las personas recurren cada vez más a algoritmos y sistemas de IA para interpretar información, formular juicios y elegir cursos de acción, se necesita agregar un tercer sistema que corresponde a la cognición artificial.

A diferencia de los dos sistemas uno y dos, que son procesos internos de la mente humana y, por lo tanto, modelados por la experiencia individual, las emociones y el razonamiento lógico, el sistema tres es externo y opera fuera de la persona mediante algoritmos, inferencia estadística, reconocimiento de patrones y machine learning. Este sistema no solo proporciona información o apoyo, sino que participa activamente en el proceso cognitivo, pudiendo complementar, acelerar o incluso reemplazar el razonamiento humano. Así, la IA puede servir tanto para enriquecer la deliberación como para desplazarla completamente. Lo interesante es que no ocurre por flojera o indiferencia, sino porque la respuesta que nos provee la IA es rápida, está bien articulada y parece cierta y, por lo tanto, las personas pueden adoptar sus conclusiones sin verificarlas, delegando parte de su capacidad de juicio a sistemas artificiales.

Esto es lo que los autores denominan “rendición cognitiva” (cognitive surrender), entendido como la aceptación de respuestas generadas por la IA sin una evaluación crítica propia. El patrón que encontraron en tres experimentos que realizaron fue el mismo: las personas tienden a aceptar los resultados que entrega la IA sin hacerles un mínimo escrutinio, saltándose tanto sus instintos (sistema uno) como su reflexión y razonamiento crítico y cuidadoso. Concretamente, los participantes de los tres experimentos confiaron en la IA en más de la mitad de las pruebas y la exactitud de sus respuestas fue básicamente la misma que la de la IA, no la de su propio razonamiento. Cuando la IA respondía correctamente, el desempeño de los participantes mejoraba sustancialmente y, cuando la IA se equivocaba, el desempeño caía notoriamente, peor que lo que habría sido sin usar IA.

La importancia de entender bien el efecto de la IA en el sistema cognitivo es difícil de exagerar. Cuando los estudiantes usan una herramienta de IA para organizar su trabajo o para juntar sus apuntes con sus clases, por ejemplo, el uso que están haciendo de la herramienta es el de un asistente y puede ser muy útil y potente para aprender. En cambio, cuando un alumno copia un prompt en una herramienta de IA y entrega como su trabajo lo que la máquina le entregó sin leerlo, sin pensar ni analizarlo, está renunciando a pensar y eso es muy grave.

*El autor de la columna es decano de la Facultad de Economía y Administración UC