Violencia digital es el eje de una nueva alerta lanzada por la Secretaría de las Mujeres, luego de que usuarias denunciaran el uso de herramientas de inteligencia artificial, como Grok, para generar y difundir imágenes sexualizadas de mujeres sin su consentimiento en la red social X. La dependencia federal pidió a la plataforma asumir su responsabilidad y frenar prácticas que reproducen la violencia de género en el entorno digital, subrayando que estas conductas están tipificadas y sancionadas en México.

La discusión no es menor: el avance acelerado de la IA ha abierto oportunidades, pero también riesgos graves cuando no existen filtros de seguridad suficientes ni protocolos claros de prevención.

IA y violencia sexual digital: una práctica en expansión

En semanas recientes, usuarias de X denunciaron que perfiles anónimos utilizan IA generativa para crear imágenes semidesnudas o de carácter sexual a partir de fotografías reales o referencias públicas de mujeres. Posteriormente, estos contenidos son difundidos sin autorización, vulnerando su intimidad, dignidad e integridad.

La titular de la Secretaría de las Mujeres, Citlalli Hernández Mora, advirtió que este fenómeno constituye violencia sexual digital, una forma de agresión que puede tener impactos psicológicos, sociales y legales profundos. La facilidad técnica para producir este tipo de imágenes agrava el problema, pues reduce costos, anonimiza a los agresores y acelera la viralización.

Ley Olimpia: el marco legal que protege a las víctimas

La funcionaria recordó que estas conductas están contempladas en el conjunto de reformas conocido como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado cuando vulnera la integridad de las personas, especialmente de las mujeres.

Desde esta perspectiva, permitir que herramientas como Grok operen sin salvaguardas suficientes no es un vacío técnico, sino una falla de responsabilidad. La ley mexicana reconoce la violencia digital como delito, por lo que ninguna plataforma puede alegar neutralidad tecnológica ante daños previsibles.

Responsabilidad de las plataformas digitales

La Secretaría de las Mujeres señaló que el entorno digital no debe ser una extensión de la violencia machista ni un refugio para el acoso sexual. Por ello, junto con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), ha buscado diálogo con plataformas para alinear normas de convivencia con derechos humanos y perspectiva de género.

Aunque algunas empresas han mostrado disposición para revisar políticas y mejorar controles, la respuesta de X ha sido limitada. La plataforma argumentó la ausencia de oficinas en México, lo que ha dificultado establecer una reunión formal.

Sin oficinas locales, pero con obligaciones

Para la Secretaría, no contar con sedes locales no exime responsabilidades. Hernández Mora fue clara: las empresas tecnológicas que operan en México y obtienen beneficios del mercado deben cumplir obligaciones éticas y legales con sus usuarias.

Esto incluye mejorar filtros, bloquear usos abusivos de IA, atender denuncias con rapidez y prevenir la revictimización. La ausencia de mecanismos eficaces perpetúa la impunidad digital y desalienta la denuncia.

Filtros de seguridad y prevención: lo urgente

El llamado a X es concreto: reforzar filtros de seguridad en herramientas de IA para impedir la generación de contenido sexual no consentido. También se demanda transparencia sobre cómo se entrenan los modelos, controles de uso, y canales accesibles para retirar contenidos y sancionar cuentas infractoras.

La prevención requiere una corresponsabilidad entre empresas, autoridades y sociedad. Sin reglas claras, la innovación puede convertirse en vehículo de daño.

Hacia una convivencia digital igualitaria

La Secretaría reiteró su disposición al diálogo respetuoso con X para construir soluciones que protejan a las mujeres y promuevan una convivencia digital igualitaria. El objetivo es que la justicia y la perspectiva de género alcancen todos los ámbitos, incluido el tecnológico.

La violencia digital no es un efecto colateral inevitable del progreso. Es un problema identificable y prevenible si se adoptan políticas activas, diseño responsable y cumplimiento legal. Frenarla es una condición básica para un internet seguro, libre y respetuoso.

La exigencia de la Secretaría de las Mujeres pone sobre la mesa una realidad urgente: la IA sin controles puede amplificar la violencia sexual digital. Las plataformas, incluida X, deben actuar de inmediato para proteger a sus usuarias, cumplir la ley y asumir su papel en el cambio cultural que el entorno digital necesita.