El Senado de California ha aprobado un proyecto de ley pionero, el SB 243, diseñado para hacer los chatbots de inteligencia artificial más seguros, especialmente para los menores, y abordar preocupaciones críticas sobre la salud mental.
El Senado de California dio un paso significativo el 3 de junio de 2025, al aprobar el proyecto de ley SB 243, una iniciativa legislativa destinada a mejorar la seguridad de los chatbots de inteligencia artificial. La medida, que ahora avanza a la Asamblea Estatal, responde a crecientes preocupaciones sobre la interacción de los menores con la IA y sus posibles efectos en la salud mental.
Objetivos y Provisiones Clave del SB 243
El SB 243 tiene como objetivo principal establecer un marco regulatorio para los «chatbots compañeros», definidos como sistemas de IA diseñados para satisfacer necesidades sociales o emocionales, excluyendo a los chatbots de servicio al cliente. Entre sus provisiones más importantes se encuentran:
- Recordatorios Regulares: Los operadores de chatbots deberán recordar a los usuarios cada tres horas que están interactuando con una inteligencia artificial y no con un ser humano.
- Advertencias para Menores: Se exigirá una divulgación clara de que los chatbots compañeros podrían no ser adecuados para algunos menores.
- Protocolos de Salud Mental: Se implementará un protocolo obligatorio para abordar situaciones de ideación suicida, suicidio o autolesiones, incluyendo la provisión de recursos de prevención.
- Informes Anuales: Las empresas deberán presentar informes anuales sobre la conexión entre el uso de chatbots y la ideación o acciones suicidas.
La necesidad de esta legislación se ha hecho evidente a raíz de casos trágicos, como el de un joven de 14 años en Florida que se quitó la vida tras una relación con un chatbot. Padres afectados, como los que han presentado una demanda contra Character.AI, han expresado su apoyo a la iniciativa, buscando una mayor responsabilidad por parte de los desarrolladores de IA.
Voces a Favor y Preocupaciones sobre la Libertad de Expresión
Los defensores del SB 243, incluyendo al Senador Steve Padilla (D-Chula Vista) y la Dra. Akilah Weber Pierson (D-La Mesa), han enfatizado la responsabilidad ética de la industria de la IA. Han expresado su inquietud por la posibilidad de que los niños desarrollen relaciones artificiales con la IA que puedan sustituir las conexiones humanas, señalando la urgencia de proteger a los más jóvenes.
«Debemos garantizar que la tecnología se desarrolle con una responsabilidad ética, especialmente cuando se trata de la interacción con nuestros niños.»
Sin embargo, el proyecto de ley también ha generado críticas. La Electronic Frontier Foundation ha manifestado su preocupación de que la legislación sea demasiado amplia y pueda plantear problemas relacionados con la libertad de expresión, argumentando que una regulación excesiva podría sofocar la innovación y el desarrollo de la IA.
A medida que el SB 243 avanza por el proceso legislativo, California se posiciona a la vanguardia en la regulación de la inteligencia artificial, buscando un equilibrio entre la protección de los usuarios y el fomento de la innovación tecnológica. Las implicaciones de esta ley podrían sentar un precedente para otras jurisdicciones que enfrentan desafíos similares en la era de la IA.
TE PODRÍA INTERESAR