OpenAI anunció este martes que, a partir de octubre, incorporará controles parentales en ChatGPT.

Esta decisión surge en medio de la polémica generada por la demanda de una familia en California, que acusa a la compañía de haber influenciado al suicidio de su hijo de 16 años.

Según detalló The Washington Post, la familia de Adam Raine interpuso la semana pasada una demanda en la que acusan que el chatbot lo alentó a ocultar sus ideaciones suicidas y a conversar sobre métodos de autolesión.

“En lugar de tomar medidas de emergencia para retirar del mercado un producto conocido como peligroso, OpenAI hizo vagas promesas de hacerlo mejor”, señaló Jay Edelson, abogado de la familia, en un comunicado.

Qué tendrá el control parental

Las nuevas herramientas permitirán a los padres vincular su cuenta con la de sus hijos adolescentes, quienes requieren de al menos 13 años para crearse un perfil.

Se podrán desactivar algunas funciones como la memoria y el historial de chat, establecer reglas de comportamiento predeterminadas y recibir notificaciones cuando el sistema detecte que un menor atraviesa un episodio de “angustia aguda”.

Las medidas de OpenAI

En una publicación en su blog, OpenAI explicó que ha venido trabajando en estas medidas desde principios de este año, pero adelantó el anuncio como parte de una iniciativa de 120 días para reforzar la seguridad de la plataforma.

La compañía señaló que está colaborando con expertos en salud mental y que cuenta con el respaldo de una red de más de 250 médicos de 60 países para mejorar la detección y respuesta en situaciones de crisis.

“Esto crea oportunidades reales de apoyo, aprendizaje y creatividad, pero también significa que las familias y los adolescentes podrían necesitar apoyo para establecer pautas saludables que se adapten a la etapa de desarrollo particular de cada adolescente”, escribió la empresa.

Otras controversias con IA

El caso de Raine se suma a otras controversias sobre la influencia de los chatbots en menores.

En octubre pasado, una mujer en Florida demandó a la aplicación Character.ai tras la muerte de su hijo de 14 años, lo que derivó en la incorporación de controles parentales en esa plataforma.

Además, un reciente estudio de Common Sense Media reveló que los sistemas de Meta entregaban asesoría inadecuada a adolescentes sobre suicidio y trastornos alimentarios.

Con más de 700 millones de usuarios semanales, ChatGPT es una de las plataformas de inteligencia artificial más usadas por los jóvenes, quienes recurren a ella para tareas escolares, explorar intereses o expresar emociones.

El anuncio de OpenAI refleja una tendencia que ya siguieron redes sociales como YouTube y Meta, que, tras años de presión, terminaron incorporando controles parentales en sus servicios.

“Estos pasos son solo el comienzo. Seguiremos aprendiendo y fortaleciendo nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, señaló OpenAI en su comunicado.