El Congreso de la Ciudad de México aprobó un Punto de Acuerdo para solicitar a las secretarías de Seguridad Ciudadana (SSC) y de las Mujeres (SEMUJERES) fortalecer las acciones de prevención, atención, orientación e investigación frente a la violencia digital cometida mediante la generación o manipulación, sin consentimiento, de imágenes y otros contenidos íntimos o sexuales con inteligencia artificial (IA).
La propuesta fue presentada por el diputado Ángel Augusto Tamariz Sánchez durante la sesión ordinaria del 6 de octubre y plantea aprovechar y coordinar las capacidades institucionales existentes, en lugar de crear nuevas estructuras administrativas. El legislador señaló que el objetivo es mejorar las rutas de atención y acompañamiento para las víctimas, particularmente ante la circulación de imágenes falsas elaboradas mediante herramientas de IA.
El problema radica en que una fotografía tomada de redes sociales puede ser utilizada como insumo para producir representaciones sexuales falsas de una persona sin su autorización. Aunque el contenido sea generado artificialmente, sus efectos pueden extenderse al ámbito personal, laboral y social de la víctima, por lo que el Congreso planteó reforzar las respuestas institucionales frente a este tipo de agresiones.
La propia SSC reconoce dentro de la definición de violencia digital aquellas acciones realizadas mediante tecnologías de la información que permitan exponer, distribuir, difundir o compartir imágenes, audios o videos reales o simulados de contenido íntimo sexual sin consentimiento, cuando ocasionen daños a la privacidad, dignidad o integridad de las mujeres.
De acuerdo con información de la Policía Cibernética capitalina, 60 por ciento de los reportes que recibe esta unidad son realizados por mujeres. Entre los incidentes más reportados por este grupo se encuentran los fraudes relacionados con el amor, conductas vinculadas con violencia sexual y ciberacoso, lo que muestra que la dimensión digital ya forma parte de los mecanismos de atención a la violencia contra las mujeres.
Uno de los principales retos señalados durante el debate legislativo es de carácter técnico y probatorio. El diputado Tamariz recordó el caso de estudiantes del Instituto Politécnico Nacional denunciado en 2023 por la manipulación de fotografías para generar contenido sexual, episodio que, según expuso, evidenció las dificultades para identificar el origen de una imagen, conservar metadatos y acreditar la intervención de herramientas de inteligencia artificial.
El Punto de Acuerdo no pretende crear un nuevo delito, de acuerdo con su promovente, quien señaló que actualmente existen 12 iniciativas de reforma penal relacionadas con esta materia en análisis dentro del Congreso capitalino. La propuesta busca, en cambio, articular las capacidades de prevención, investigación y atención que ya tienen instituciones como la Policía Cibernética, SEMUJERES y sus servicios especializados.
Entre los mecanismos mencionados se encuentran el ciberpatrullaje y la obtención de evidencia por parte de la Unidad de Policía Cibernética de la SSC, así como la coordinación con servicios de SEMUJERES. La dependencia cuenta además con las LUNAS, espacios que ofrecen asesoría jurídica y acompañamiento psicológico a mujeres que enfrentan distintas formas de violencia.
El desafío también implica mejorar la capacidad de las víctimas para identificar las rutas institucionales disponibles. SEMUJERES señala que las LUNAS brindan orientación y asesoría jurídica, mientras que las Abogadas de las Mujeres pueden acompañar procesos de denuncia y gestionar medidas de protección cuando corresponde.
Durante la discusión también participaron la diputada Brenda Fabiola Ruiz Aguilar, de Morena, y el diputado Ricardo Rubio Torres, del PAN. Mientras Ruiz Aguilar planteó la necesidad de ampliar las vías institucionales de defensa frente a las distintas expresiones de violencia contra las mujeres, Rubio destacó una iniciativa sobre alfabetización digital para promover un uso responsable y ético de la inteligencia artificial entre niñas, niños y jóvenes.
El debate coloca así un problema tecnológico en el terreno de las políticas públicas: la velocidad con la que evolucionan las herramientas de generación de contenido puede superar la capacidad de prevención, investigación y respuesta institucional. Para la Ciudad de México, el reto inmediato será determinar cómo fortalecer las herramientas existentes, preservar evidencia digital y garantizar atención efectiva sin trasladar a las víctimas la carga de demostrar técnicamente cómo fue creado el contenido.
Fuentes: Congreso de la Ciudad de México, Secretaría de Seguridad Ciudadana (SSC-CDMX) y Secretaría de las Mujeres (SEMUJERES).