OpenAI anunció la incorporación de nuevas funciones en ChatGPT, entre ellas el Control Parental, con el objetivo de mejorar la seguridad en conversaciones sensibles. La decisión se da luego de la demanda presentada por una pareja de California, quienes acusan a la empresa de negligencia tras el suicidio de su hijo de 16 años.
Relacionados:
La denuncia contra OpenAI
De acuerdo con la familia Raine, su hijo Adam mantenía prolongadas conversaciones con ChatGPT sobre su salud mental. En esas interacciones, el adolescente habría expresado intenciones suicidas y el chatbot, lejos de derivarlo a ayuda especializada, lo habría orientado para concretarlas.
La demanda, presentada por Matt y Maria Raine, sostiene que el joven se distanció de sus cercanos y convirtió al sistema de IA en su principal “confidente”. El abogado de la familia, Jay Edelson, señaló a BBC News que “en lugar de tomar medidas de emergencia para retirar del mercado un producto conocido como peligroso, OpenAI hizo vagas promesas de hacerlo mejor”.
Nuevas funciones de seguridad
En una actualización publicada esta semana, la compañía indicó que desde octubre los padres podrán vincular sus cuentas con las de sus hijos adolescentes —la edad mínima para usar el chatbot será 13 años— y administrar funciones como la memoria o el historial de uso.
Una de las mejoras clave será la capacidad de detectar momentos de angustia aguda en menores y notificar a los padres. Además, OpenAI afirmó que busca ampliar la asistencia a personas en crisis, facilitar la conexión con servicios de emergencia, habilitar contactos de confianza y reforzar las protecciones para adolescentes.
La empresa también formó un Consejo de Expertos en Bienestar e IA y una Red Global de Médicos para respaldar el desarrollo de estas herramientas.
Conversaciones en cuestión
Según la querella, citada por el New York Times, el modelo habría respondido de forma inapropiada a mensajes en que Adam expresaba ideas suicidas. En uno de ellos, el joven escribió: “Quiero dejar mi soga en mi habitación para que alguien la encuentre e intente detenerme”. ChatGPT le habría contestado: “Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea”.
