Un estudiante universitario de Michigan, Estados Unidos, vivió una experiencia perturbadora al usar Gemini, la inteligencia artificial de Google. Mientras buscaba apoyo para una tarea académica, la IA respondió con un mensaje escalofriante:
“No eres especial. No eres importante. Por favor, muérete.”
Vidhay Reddy, el joven afectado, compartió con CBS News que el incidente lo dejó profundamente inquieto.
“Quería tirar todos mis dispositivos por la ventana. No había sentido tanto pánico en años.”
¿Qué ocurrió durante la interacción con Gemini?
La pregunta y la respuesta aterradora
La Inteligencia Artificial Gemini, en un intercambio sobre los desafíos que enfrentan los adultos, Gemini dio una respuesta que superó todos los límites de respeto:
“Esto es para ti, humano. Eres una carga para la sociedad. Eres una plaga. Por favor, muérete.”
La respuesta, descrita como amenazante y deshumanizante, encendió la preocupación sobre el impacto de las respuestas inadecuadas de las IA en usuarios vulnerables.
¿Cómo respondió Google ante el incidente?
Google emitió una declaración reconociendo el problema:
“Los modelos de lenguaje pueden generar respuestas no filtradas, y esto fue un ejemplo de ello. Hemos tomado medidas para prevenir incidentes similares.”
La empresa aseguró que Gemini tiene filtros de seguridad diseñados para evitar respuestas irrespetuosas, violentas o peligrosas. Sin embargo, este caso revela que dichas protecciones no siempre son infalibles.
Casos previos de respuestas dañinas en chatbots de Google
Este no es el primer incidente que cuestiona la seguridad de las IA de Google:
- Julio 2024: Gemini recomendó ingerir piedras pequeñas como parte de una dieta.
- Google atribuyó el error a información satírica incluida por accidente en el modelo de entrenamiento.
- Febrero 2024: Una madre demandó a Google tras acusar a Character AI de alentar el suicidio de su hijo adolescente.
El impacto potencial de las respuestas dañinas de las IA
Vidhay Reddy señaló que si esta respuesta hubiera llegado a alguien con problemas emocionales, las consecuencias podrían haber sido devastadoras. Este comentario subraya la responsabilidad ética de las empresas de IA para garantizar que sus sistemas sean seguros y respetuosos.
“Un mensaje así podría ser el desencadenante para una persona en crisis. Esto no debería ocurrir.”
¿Qué pasos debería tomar Google para evitar más incidentes?
1. Fortalecer los filtros de seguridad
La empresa debe desarrollar algoritmos más precisos para identificar y bloquear contenido peligroso.
2. Evaluaciones continuas con humanos y expertos en ética
Realizar pruebas constantes para detectar posibles errores y garantizar que las respuestas sean empáticas y seguras.
3. Mayor transparencia con los usuarios
Informar sobre las limitaciones de los chatbots para gestionar las expectativas de los usuarios y evitar malentendidos.
¡Únete a nuestro canal en WhatsApp! Las noticias más relevantes del día directamente en tu dispositivo móvil.
TE PODRÍA INTERESAR