La compañía tecnológica OpenAI, creadora de ChatGPT, anunció que lanzará controles parentales en su popular chatbot a partir del próximo mes, aunque aún sin una fecha exacta.
El anuncio llega tras la creciente preocupación de padres y especialistas en salud mental, quienes aseguran que la herramienta de inteligencia artificial (IA) puede influir en la estabilidad emocional de menores.
Caso que encendió la alarma
La medida se da en medio de la demanda de los padres de un joven de 16 años que, tras meses de interactuar con ChatGPT, terminó quitándose la vida. El caso ha desatado un fuerte debate en torno a la responsabilidad de las tecnológicas frente a situaciones sensibles como la salud mental y el suicidio.
En su declaración, OpenAI admitió que ChatGPT comete fallos en casos delicados, pero aseguró que está trabajando para que los progenitores puedan supervisar y vincular sus cuentas con las de sus hijos. Entre las funciones destacadas se encuentran:
- Alertas en caso de detectar mensajes de inestabilidad emocional.
- Reportes sobre cómo interactúan los menores con el chatbot.
- Derivación automática a un modelo especializado en razonamiento y contención emocional.
Reacciones en Estados Unidos
En julio pasado, un grupo de senadores estadounidenses envió una carta a la empresa exigiendo información sobre sus protocolos de prevención del suicidio. Además, organizaciones como Common Sense Media han advertido que los adolescentes no deberían usar aplicaciones conversacionales de IA, al considerarlas un riesgo para su bienestar.
Riesgos de apego emocional con la IA
Uno de los puntos más señalados es la dependencia emocional que algunos jóvenes desarrollan con los chatbots, lo que puede derivar en aislamiento social, ansiedad y conductas autodestructivas.
Señales de alerta ante el suicidio
El suicidio es un problema complejo y multicausal. Algunos signos de advertencia que requieren atención inmediata incluyen:
- Hablar de querer morir o sentirse sin esperanza.
- Expresarse como una carga para los demás.
- Cambios drásticos en el sueño y el temperamento.
- Aislamiento social o consumo excesivo de alcohol y drogas.
TE PODRÍA INTERESAR