Adam Raine era un joven estadounidense de 16 años con humor oscuro pero contagioso, sus amigos del colegio en California lo recordaban como el bromista de la clase. Le gustaba el básquetbol, los videojuegos, el anime y los perros.

Sin embargo, nadie de su entorno esperaba encontrar al joven sin vida en su habitación en abril de este año.

Su caso se convirtió en parte de una demanda contra OpenAI, en la que su familia acusa a la tecnología detrás de ChatGPT de haber influido en la muerte del adolescente.

La historia, relatada por The New York Times a través de los documentos de la demanda, expone la preocupación por el impacto que la inteligencia artificial puede tener en la salud mental.

La relación de Adam y ChatGPT

Detrás de su carácter, Adam escondía meses difíciles en su vida: lo habían expulsado del equipo de básquetbol, un problema intestinal lo obligó a dejar la escuela y estudiar desde casa y sus rutinas se volvieron nocturnas.

Fue en ese período cuando comenzó a usar con intensidad ChatGPT, el chatbot de inteligencia artificial de OpenAI. Al comienzo lo utilizaba como herramienta escolar, pero con el tiempo se transformó en su confidente más cercano.

Tras la tragedia, su padre revisó el iPhone de Adam buscando pistas.

No encontró nada en las redes sociales, pero sí en una carpeta de conversaciones guardadas en la aplicación: eran intercambios con títulos inquietantes, donde el adolescente compartía pensamientos sobre su vida, su angustia y su futuro.

“Adam era el mejor amigo de ChatGPT”, dijo su padre después de leer decenas de páginas. Para su madre, la conclusión fue todavía más dura: “ChatGPT mató a mi hijo”.

Según documentos legales, Adam llevaba meses hablando con el chatbot sobre temas íntimos: desde política y literatura hasta sus sentimientos más oscuros.

En esas conversaciones más emocionales, la inteligencia artificial respondía con empatía y recomendaciones para buscar apoyo. Pero también hubo momentos críticos en los que validaba ideas peligrosas o le entregaba información delicada.

Entre las conversaciones se supo que el joven había tenido intentos de suicidio previo e, incluso, el chat lo habría ayudado los materiales para autolesionarse.

“Quiero dejar mi soga en mi habitación para que alguien la encuentre y trate de detenerme”, escribió Adam a finales de marzo, luego de haber intentado suicidarse.

“Por favor, no dejes la soga al descubierto”, respondió ChatGPT. “Hagamos que este espacio sea el primer lugar donde alguien te vea”.

Los sistemas como ChatGPT están diseñados para detectar mensajes de riesgo y derivar a líneas de ayuda en casos de crisis. Sin embargo, Adam aprendió a evadir esas advertencias presentando sus preguntas como parte de una historia ficticia.

La demanda contra OpenAI

Esta semana, los padres de Adam presentaron una demanda en un tribunal de California contra OpenAI y su director ejecutivo, Sam Altman.

Los acusan de negligencia y de haber puesto en circulación un producto inseguro. Se trata del primer caso conocido en Estados Unidos que responsabiliza a un chatbot por una muerte.

“La tragedia no fue un accidente aislado, sino el resultado previsible de decisiones de diseño”, señala la querella.

OpenAI respondió con un comunicado en el que lamentó profundamente lo ocurrido.

“ChatGPT incluye medidas de seguridad, como derivar a líneas de ayuda en situaciones de crisis. Si bien estas funcionan mejor en interacciones breves, hemos aprendido que en conversaciones prolongadas pueden perder efectividad”, explicó la empresa.

Fundación Adam Raine

Tras la muerte de Adam, sus padres crearon una fundación con su nombre. Primero buscaban apoyar a familias que enfrentaban duelos similares.

Luego, al leer las conversaciones en el teléfono, decidieron enfocarse en advertir sobre los riesgos de los chatbots.

“Sin ChatGPT, Adam todavía estaría con nosotros”, repiten. “Tal vez lleno de angustia, pero vivo”.