Steven D. Shaw, académico e investigador de la Wharton School de la Universidad de Pensilvania, se ha dedicado a pensar y examinar cómo las innovaciones tecnológicas, desde la inteligencia artificial hasta la genómica, transforman la psicología y la sociedad contemporánea. Su último paper ha causado sensación: se trata de la “rendición cognitiva” a causa del uso de la IA. Artículos en Time, The Economist, The New York Times, Forbes, la BBC, The Wall Street Journal, el Financial Times y Vox, han dado cuenta del concepto acuñado por Shaw.

Basándose en un experimento -que hizo junto a Gideon Nave-, este académico estableció la tendencia humana a prescindir del raciocinio propio y rendirse a lo que la IA afirma como correcto. Un cambio en el paradigma de conocimiento y pensamiento humanos de grandes consecuencias en la toma de decisiones y la cognición, dice por Zoom a La Tercera.

¿Cómo la IA está transformando la intuición y el razonamiento humano?

Durante mucho tiempo empleamos el modelo (de pensamiento) de Daniel Kahneman, de doble proceso: el sistema uno, de pensamiento rápido; el sistema dos, pensamiento lento, donde aplicamos el pensamiento crítico o creativo. Este es, pues, el proceso dual: intuición y razonamiento. Pero con el auge de la IA en la sociedad y la omnipresencia de su acceso, ahora contamos con la cognición artificial: cogniciones creadas por la IA, y podemos interactuar con ellas y delegar diferentes procesos a estas cogniciones artificiales. En nuestro paper afirmamos, en términos generales, que la presencia de la IA en nuestra toma de decisiones es tan poderosa que ahora la definimos como un tercer sistema: el sistema tres de cognición artificial. Así que ahora tenemos el uno, rápido, un sistema dos, lento, y un sistema tres, de cognición artificial.

Y esto nos lleva a este concepto que desarrollaron, la rendición cognitiva.

Desde hace mucho tiempo, hemos contado con herramientas que nos permiten delegar y automatizar ciertas tareas cognitivas, como calculadoras o buscadores web. Pero la IA es diferente: puede generar estas capacidades cognitivas artificiales y ofrecernos respuestas con gran facilidad para una amplia gama de tareas. Y podemos obtener respuestas y elegir seguirlas cuando queramos. La IA es muy buena en muchas tareas estructuradas, ¿verdad? Pero hay cosas en la vida que no siempre tienen una respuesta correcta o incorrecta. La rendición cognitiva consiste, esencialmente, la idea en que ahora podemos delegar el proceso de pensamiento en la IA, es decir, adoptar esas respuestas como propias y seguirlas. Así pues, se trata de la entrega de la cognición a la IA, su adopción y seguimirnto. Pero lo que ocurre en esta entrega cognitiva es que la capacidad de decisión, el centro de control del pensamiento, ya no reside en el cerebro. Se encuentra en estas capacidades cognitivas artificiales. Y eso tiene consecuencias bastante serias

¿Por qué?

Porque para participar en el pensamiento creativo o crítico tenemos que, como un músculo, ejercitar o usar esos componentes de nuestro cerebro y pensar con detenimiento. Y desarrollarlos, por ejemplo, a través de nuestra educación. Y si caemos repetidamente en la negligencia cognitiva ya no estamos ejercitando ese sistema dos, porque está desactivado en el sistema tres. Las primeras investigaciones indican que la rendición cognitiva puede llevar a la pérdida de habilidades, como la de los médicos que pierden su capacidad para diagnosticar el cáncer. Se trata de una situación extrema en la que la IA es tan poderosa, que delegar esa habilidad a la IA supone la pérdida de la capacidad humana. Y en el ámbito educativo, si nos entregamos a la rendición cognitiva durante el proceso de aprendizaje, ¿quién aprende realmente? La IA es la que aprende, y puede que salgamos de este proceso sin esas capacidades cognitivas en absoluto.

Sobre los mayores riesgos de la IA, en general se piensa que puede volverse tan poderosa que haga cosas por sí sola, sin control humano. Pero lo que se demuestra en este trabajo es que el riesgo es de perder capacidades humanas por el uso.

Bueno, la singularidad podría llegar de todos modos, creo que sigue siendo muy posible que la IA se vuelva tan poderosa que, en cierto modo, tome sus propios medios. Pero creo que lo que se ha subestimado, y lo que nuestro paper comienza a mostrar, es este lado humano de interactuar repetidamente con la IA, y tener una tecnología que hemos entrenado y creado para que sea tan similar y tan buena en muchos de los procesos de pensamiento a los que estamos tan acostumbrados. Así pues, creo que una consecuencia imprevista de esta tecnología es el efecto que tendrá en nuestros propios cerebros. Siempre se había pensado en humanos contra máquinas, y luego en estas máquinas como entidades separadas. Pero en realidad, la interacción humano-computadora, la conexión entre ambas, la delegación dinámica y cómo la externalización cambia nuestra forma de pensar, también son una parte importante de toda esta historia.

Se sabe que el chat GPT y los demás LLM cometen errores y “alucinan”. ¿Cómo es posible que la gente lo use para tomar definiciones sin dudar, como muestra en su investigación?

Bueno, creo que parte del problema es que la precisión de la IA es diferente para una variedad de dominios diferentes. Entonces, si preguntas en dominios muy estructurados, como en algún tipo de análisis de datos o problemas matemáticos o cosas de este tipo, la IA va a dar esas respuestas correctas con tasas muy, muy altas. Si estás interactuando con la IA en tu trabajo, y estás haciendo muchas tareas estructuradas, o estás pidiendo consejo a GPT para cosas donde hay una verdad fundamental, vas desarrollando esta confianza en la IA o en el chatbot que prefieras. Y luego puede ser fácil trasladar esa confianza a otros ámbitos donde la precisión de la IA ya no es tan buena. Has desarrollado esta confianza, has seguido las instrucciones de la IA para tareas específicas y piensas: “Bueno, me va muy bien en el trabajo gracias a seguir estas indicaciones”. Y entonces algunas personas podrían recurrir a la IA para la salud mental o para sus proyectos creativos, como escribir, componer música o cosas por el estilo, donde no necesariamente hay una respuesta estructurada o correcta, y la precisión no es tal, pero la seguimos igual.

¿Y qué opina del efecto emocional de la tendencia aduladora o sicofántica de la IA con los humanos?

Creo que es uno de los mayores riesgos actuales de la implementación de los LLM. La adulación o sicofancia es bastante peligrosa porque puede atraer a los usuarios, tiene ciertas propiedades adictivas. Si recibes excelentes respuestas en muchas tareas estructuradas, te va bien en el trabajo y recibes mucha retroalimentación positiva, en muchos sentidos te estás reforzando y aprendiendo a depender cada vez más de esa tecnología. Así que creo que debemos ser muy conscientes y cuidadosos con la adulación que se está produciendo, y tener conciencia es probablemente el primer paso, pero definitivamente no es el último. Creo que tendremos que ver cómo se modifican estos elementos de diseño de la tecnología para, esperemos, beneficiar a la humanidad en lugar de promover intereses comerciales o la naturaleza capitalista de las empresas que la desarrollan.

Usted ha dicho que esto es solo el comienzo de la era de la IA. ¿Cómo imagina los próximos tres, cinco o 10 años?

El sistema tres (de cognición) llegó para quedarse. La IA llegó para quedarse. Ahora es omnipresente en la sociedad. Todo el mundo lo usa para todo tipo de cosas. Podemos ver en nuestros experimentos, en nuestras vidas, en nosotros mismos, que esta rendición cognitiva está ocurriendo. Y a menudo pienso que esto está sucediendo a pesar de que todavía existe bastante fricción entre los dispositivos que usamos para interactuar con el sistema tres y nuestros propios sistemas cognitivos: tenemos que sacar nuestro teléfono y escribir en él. Pero la fricción entre nuestros cerebros y el sistema tres disminuirá a medida que estas interacciones humano-computadora (HCI) se desarrollen. Así que la siguiente etapa, al parecer, podría ser algo como gafas con IA. Y en lugar de sacar el teléfono para escribir o hablar, estas gafas ya estarían preprocesando la información y utilizando IA para procesarla desde fuera. Y luego, el interior de las gafas, te ofrecerá información o imágenes que puedes seguir. Así que, con la menor distancia física entre nuestros sistemas cognitivos internos y las cogniciones artificiales, las opciones para delegar componentes específicos del pensamiento, o rendirse, se vuelven cada vez más accesibles y atractivas.

Entonces, ¿qué sigue?

Dependerá mucho de cómo decidamos integrar estas tecnologías en la sociedad. Pero al menos gran parte de la evidencia inicial muestra que si permitimos que los LLM se integren y se reduzca aún más la distancia entre nuestros cerebros, ellos y nuestras vidas, la rendición cognitiva puede volverse cada vez más posible y atractiva. Por lo tanto, creo que debemos intentar desarrollar políticas y reflexionar detenidamente sobre cómo incorporar estas tecnologías antes de que sea demasiado tarde.

¿Qué medidas prácticas hay que tomar? ¿Cree que tenemos que tener una especie de actitud de resistencia?

Sí. O sea, no recurras automáticamente a la IA en una amplia gama de tareas diferentes. Creo que el ejemplo del GPS es muy bueno. A veces no pensamos con detenimiento en qué dirección vamos. Pero la pregunta es: si el GPS realmente te va a desviar del camino, ¿seguirás siguiéndolo? ¿O es que no sabes adónde vas cuando lo usas? Y si estás bastante seguro de que deberíamos ir recto, bueno, elige ir recto, elige ir por tu propio camino… Así que tal vez sea una metáfora de cómo tenemos que incorporar controles y equilibrios en nuestros sistemas LLM.

¿Es un ejemplo de rendición cognitiva, por ejemplo, esta tendencia actual de no leer textos o libros completos, sino que solo fragmentos o resúmenes de LLM?

Cuando pones el libro completo en tu chat GPT y en lugar de leer el libro, solo lees el resumen de la IA, estás anulando tu capacidad de pensar críticamente y generar tus propias ideas sobre ese contenido original (...). Y así ni siquiera te das la oportunidad de tener tus propias intuiciones, pensamientos o reflexiones sobre ese contenido, sobre el cual podrías tener tu propia perspectiva única, basada en tu experiencia de vida y en todo lo que crees, tu moral, tus valores, tu identidad. Cuando haces esa primera lectura con un LLM, es como si lo vieras desde la perspectiva de su historia de vida, que en realidad no es una historia de vida. Por lo tanto, existen indicios de homogeneización del pensamiento como resultado de ello, ya que al usar un LLM, básicamente estás vinculando tu forma de pensar a la del propio programa. Limitas tu capacidad de pensamiento crítico y tu capacidad de reflexionar sobre todas esas ideas únicas y maravillosas que podrías haber tenido si hubieras leído el libro por ti mismo.

¿Para qué tipo de cosas nunca usaría la IA, específicamente para protegerse de perder sus capacidades de pensamiento?

Soy un gran aficionado al cine, veo muchas películas, y jamás vería un resumen. Ni siquiera me gusta ver trailers porque entiendo que nuestras expectativas influyen en nuestras experiencias. Por eso, prefiero ir al cine, ver una película por primera vez, comprenderla desde mi propia perspectiva, reflexionar sobre ella con detenimiento, analizarla críticamente y conectar con ella. Lo mismo ocurre con la música que hago como hobby, Podría delegar parte de ese proceso a la IA, pero perdería algo fundamental para mi identidad y mi humanidad. Y no quiero eso. Cada decisión que tomo en mi música es lo que la hace mía. Cada perilla que giro, la elección del micrófono, la distancia del micrófono al amplificador, todas estas cosas son mi huella digital en esa obra de arte que es mi trabajo, mi sentido de identidad. Por lo tanto, no permitiría su uso en esos ámbitos, y animaría a otros a reflexionar cuidadosamente sobre en qué ámbitos es útil y en cuáles es contraproducente usar la IA, en lugar de usarla indiscriminadamente para todo tipo de cosas.