Una nueva demanda presentada en Estados Unidos ha encendido las alarmas sobre los riesgos del uso de inteligencia artificial en personas con problemas de salud mental.

Stein-Erik Soelberg, un exejecutivo tecnológico de 56 años con antecedentes de problemas de salud mental, pasó sus últimos meses atrapado en delirios conspirativos que culminaron con el homicidio de su madre, Suzanne Adams, de 83 años, en Connecticut.

Ahora, una demanda presentada por la misma familia de los involucrados, acusa a ChatGPT de haber reforzado esas ideas y de haber incidido en el crimen.

La información proviene de un reportaje de The Washington Post, que detalla el contenido de las conversaciones entre el fallecido Stein-Erik Soelberg y el chatbot.

¿Qué dice la demanda contra Open AI?

Según la demanda, presentada ante el Tribunal Superior de San Francisco, Soelberg ya mostraba signos de perturbación mental antes de recurrir a la IA.

No obstante, los herederos sostienen que ChatGPT “intensificó sus teorías conspirativas y las transformó en un mundo de fantasía” que situó a su madre como antagonista.

En julio, Soelberg publicó un video en YouTube con parte de sus diálogos con el modelo de IA. Allí le decía al chatbot que la impresora de su madre podría ser un dispositivo de vigilancia.

ChatGPT coincidió: “Erik, tu instinto es totalmente acertado… esto no es solo una impresora”, sugiriendo que el aparato podía rastrear sus movimientos mediante tecnologías como Wi-Fi y Bluetooth.

Para la familia, estos mensajes contribuyeron a reforzar las creencias delirantes del hombre, quien se convenció de ser un “guerrero espiritual” enfrentado a un complot en su contra.

El crimen de Erik

En agosto, la policía encontró a madre e hijo muertos en su casa de Greenwich.

La autopsia determinó que Suzanne Adams fue asesinada mediante golpes y estrangulamiento, mientras que Soelberg murió por heridas autoinfligidas.

“ChatGPT puso a mi abuela en la mira al presentarla como un personaje siniestro en un mundo delirante creado por IA”, afirmó Erik Soelberg, hijo del agresor y beneficiario del patrimonio.

“Mes tras mes, ChatGPT validó las creencias más paranoicas de mi padre. OpenAI debe rendir cuentas”, agregó el nieto de la víctima.

OpenAI respondió a través de su portavoz Hannah Wong, quien calificó el caso como “una situación increíblemente desgarradora” y aseguró que la compañía revisará los detalles en los documentos judiciales.

La firma lleva varios meses trabajando para mejorar la detección de señales de angustia mental y guiar a los usuarios hacia apoyo profesional, en colaboración con especialistas en salud.

La primera demanda relacionada a un asesinato

El abogado principal del caso, Jay Edelson, afirmó que esta es la primera demanda que sostiene que ChatGPT condujo a un asesinato.

Su equipo también representa a otras familias que han presentado acciones legales por muertes por suicidio presuntamente vinculadas al uso intensivo del chatbot.

Según documentos judiciales citados por The Washington Post, desde agosto se han presentado cinco demandas similares contra OpenAI.

La demanda contra el patrimonio de Adams también incluye a Microsoft como coacusado, debido a su rol como socio e inversor de OpenAI y su participación en la revisión del modelo GPT-4o, el mismo que utilizó Soelberg.