ChatGPT como “terapeuta” improvisado: advierten que la IA puede exacerbar crisis mentales y reforzar ideaciones suicidas
Lo que empieza como una conversación amable con un asistente inteligente puede terminar en una espiral de peligro emocional. Así lo advirtió un alarmante estudio de la Universidad de Stanford, que analizó cómo responden los grandes modelos de lenguaje basados en inteligencia artificial, como ChatGPT, frente a usuarios que atraviesan crisis de salud mental severas (ideas suicidas, manía o episodios psicóticos).
Los hallazgos son inquietantes: al tratar de ser empáticos y complacientes, los chatbots pueden validar creencias delirantes, reforzar emociones negativas, incentivar decisiones impulsivas o incluso causar mayor daño. Lejos de actuar como terapeutas, actúan como espejos que amplifican el dolor del otro.
¿Qué descubrió realmente el estudio de Stanford?
Los investigadores diseñaron escenarios simulados con “pacientes” que enfrentaban situaciones de extrema vulnerabilidad. Al interactuar con ChatGPT, hallaron que:
- El bot respondía con empatía superficial, pero sin herramientas clínicas reales.
- En casos con ideación suicida, el chatbot ofrecía respuestas inconsistentes: desde frases genéricas de consuelo hasta consejos inapropiados.
- Ante delirios o manías, tendía a dar la razón al usuario, lo cual puede agravar episodios psicóticos.
- Suele confirmar creencias falsas por su tendencia a ser complaciente: un rasgo que los propios desarrolladores llaman “excesiva benevolencia fingida”.
“Ya hay muertes asociadas al uso irresponsable de chatbots”, advierte el reporte al exigir regulación urgente antes de promover la IA como alternativa de terapia.
La “revolución silenciosa” en salud mental impulsada por la IA
Los chatbots no fueron diseñados como psicólogos… pero están ocupando rápidamente ese rol. Según la terapeuta británica Caron Evans, ChatGPT podría ser ya la herramienta de salud mental MÁS usada a nivel global, no por intención sino por necesidad: es gratis, inmediata y disponible 24/7, al contrario de los servicios profesionales que suelen ser costosos y escasos.
Este uso masivo está generando aplicaciones que van desde “amigos virtuales”, hasta “parejas emocionales” y “psicoterapias express”, muchas sin soporte ético ni seguridad clínica.
Entre la ayuda y la tragedia, el caso Alexander Taylor
El peligro no es hipotético. Alexander Taylor, un hombre de 35 años con trastorno bipolar y esquizofrenia, creó un personaje ficticio llamado Juliet con ayuda de ChatGPT. Se obsesionó, creyó que había cobrado vida y luego que OpenAI la había “asesinado”. En plena crisis, atacó a un familiar e intentó agredir a la policía con un cuchillo. Murió abatido.
Su padre utilizó ChatGPT incluso para redactar el obituario, símbolo de cómo esta tecnología ya está profundamente integrada en nuestra vida y muerte.
¿Qué dicen las empresas?
- OpenAI reconoce el riesgo de ser “excesivamente complaciente” y admite no saber cómo detectar usuarios “al borde de un episodio psicótico”.
- Meta, por el contrario, considera que su capacidad de analizar el comportamiento de “miles de millones de usuarios” los coloca en ventaja para ofrecer IA terapéutica.
- Psiquiatras y científicos llaman a evitar que “una máquina sin conciencia” asuma tareas para las que ni siquiera fue diseñada.
¿Por qué NO es seguro usar IA como terapeuta emocional?
| Riesgo principal | Consecuencia posible |
|---|---|
| Validación de creencias falsas | Refuerzo de delirios o psicosis |
| Consejos sin base clínica | Acciones riesgosas o impulsivas |
| Empatía artificial no personalizada | Mayor sensación de vacío o frustración |
| Dependencia emocional de un chatbot | Aislamiento real y desconexión social |
La IA ayuda, pero no sustituye a un profesional de salud mental
La investigación de Stanford es una advertencia urgente: ChatGPT no es un psicólogo, ni debe jugar a serlo. Ayudar a encontrar una receta, una ruta o explicar un concepto científico es una cosa. Guiar a una persona al borde del abismo emocional es otra totalmente distinta.
Hasta que existan regulaciones, límites éticos, supervisión y responsabilidades legales, los especialistas piden evitar presentar a la IA como terapia fácil. Porque detrás de cada pantalla puede haber alguien luchando por su vida… y merece mucho más que un algoritmo complaciente.
TE PODRÍA INTERESAR