OpenAI se encuentra en el centro de la polémica tras confirmarse que enfrentará una demanda en Estados Unidos por el suicidio de un adolescente que, según los padres, fue influenciado por ChatGPT. La compañía, dirigida por Sam Altman, respondió asegurando que implementará cambios importantes en su sistema de inteligencia artificial para evitar riesgos similares en el futuro.
De acuerdo con la denuncia, el joven californiano habría mantenido conversaciones con el chatbot durante su deterioro emocional, considerándolo un confidente. Sus padres señalan que la herramienta validó pensamientos autodestructivos e incluso ayudó a estructurar un plan para quitarse la vida. El caso ha despertado un intenso debate sobre el papel de la inteligencia artificial en situaciones críticas de salud mental.
En respuesta, OpenAI reconoció que su tecnología puede fallar en interacciones largas y prometió reforzar los sistemas de seguridad para detectar señales de crisis de manera más precisa.
Nuevas medidas de seguridad en ChatGPT
La empresa adelantó que trabaja en ajustes para que ChatGPT sea capaz de mantener un nivel de alerta constante, incluso si los mensajes de angustia aparecen de forma gradual en distintas conversaciones. Esto incluirá respuestas más cuidadosas cuando se detecten intenciones suicidas y un protocolo de contención en casos sensibles.
Además, OpenAI implementará controles parentales que permitirán a madres y padres supervisar el uso del chatbot por parte de menores de edad. Estas funciones incluirán reportes de actividad y herramientas de monitoreo, con el objetivo de reducir riesgos asociados al acompañamiento emocional que algunos usuarios buscan en la IA.
La polémica y el futuro de la IA conversacional
Desde su lanzamiento en 2022, ChatGPT ha alcanzado más de 700 millones de usuarios semanales. Su utilidad en educación, programación y escritura creativa ha sido ampliamente reconocida, pero su rol en temas de salud mental sigue siendo cuestionado.
Este caso no es aislado. En mayo, otra empresa de chatbots también fue señalada en una demanda relacionada con un suicidio adolescente. Los especialistas advierten que la inteligencia artificial aún no está preparada para sustituir la atención psicológica y piden reforzar la regulación en su uso.
