“Protección de las mujeres expuestas a cualquier tipo de violencia machista por el uso de la Inteligencia Artificial y tecnologías de la información”, es el nombre del proyecto ejecutado durante el año 2024 por LEM España, con fondos del Ministerio de Derechos Sociales, Consumo y Agenda 2030 bajo la subvención de 0,7. Dicho proyecto consistió en una investigación multidisciplinaria sobre los riesgos y beneficios de la inteligencia artificial para las mujeres, así como de los mecanismos legales contemplados para su defensa. Consideramos necesario profundizar en los desafíos y oportunidades que el avance de la tecnología ofrece para mejorar la vida de las personas, al abrirnos las puertas a un mundo fascinante pero desconocido.
El estudio consta de dos partes: la primera fue encargada a la ingeniera experta en open data y desarrollo de nuevas tecnologías, Lourdes Muñoz Santamaría, quien además es la fundadora de Iniciativa Barcelona Open Data y presidenta de Dones en Xarxa. Su aporte se centró en las buenas prácticas para la promoción de los derechos de las mujeres en el desarrollo de la inteligencia artificial, a través de estudios, casos, datos y aportaciones de expertas del ámbito tecnológico y de estudios de género aplicados a la tecnología, para analizar cuál es el contexto general de las herramientas de IA y qué impacto pueden llegar a tener en los derechos de las mujeres.
La segunda parte fue realizada por la Dra. Teresa Freixes Sanjuán, experta en derecho europeo y catedrática ad honorem, dedicada al análisis legislativo del reglamento de la UE sobre Inteligencia Artificial, planteando la adopción de este marco en España y haciendo consideraciones que puedan ayudar a poner de manifiesto las lagunas en dicha legislación en relación con la violencia contra las mujeres y propuestas para incorporarlas a nivel europeo y español.
El resultado final de este trabajo fue presentado el día 11 de diciembre a las 18h en el Instituto Internacional de Madrid, donde ambas autoras pudieron exponer sus trabajos y conclusiones. Lourdes Muñoz destacó el trabajo de mujeres en el mundo de la tecnología, señalando que, a pesar de todo, éstas no representan más del 10% del sector, lo cual repercute en los sesgos de género que presentan algunos productos, como los servicios de asistencia virtual. «No es casual que los desarrolladores de tecnología, hombres, hayan decidido que es más agradable una voz femenina para servirte, como en el caso de Siri y Alexa», y destacó además que “no podemos esperar unos 20 o 40 años a que las mujeres alcancen un 50% de participación en los puestos de desarrolladoras para proteger nuestros derechos: todos tienen la obligación de respetarlos, ya sean hombres o mujeres quienes desarrollen estos productos o alimenten los algoritmos.”
Por su parte, Teresa Freixes ofreció un completo análisis del reglamento, con las definiciones en éste contenidas, y destacó el rol positivo que la inteligencia artificial puede tener para la sociedad en general, como procesar información de forma rápida y apoyar a las administraciones en aquellas tareas burocráticas. Sin embargo, alertó sobre ciertas funciones que podrían colisionar con otros derechos fundamentales, así como las prácticas prohibidas por el propio reglamento de la UE, como por ejemplo, la utilización de técnicas subliminales, manipuladoras o engañosas, o el uso de sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. Al respecto, la destacada jurista señaló: «La supervisión humana de los mecanismos de IA de alto riesgo es fundamental. Estos responsables deben entender, entre otras cosas, cómo funciona la tendencia humana a confiar en los sistemas, por lo que se recomienda que siempre intervengan al menos dos personas para evaluar el sesgo».
El documento final se encuentra disponible aquí.
Las autoras del informe junto con la Junta Directiva de LEM España y asistentes al evento.
Presentación en el Instituto Internacional de Madrid.
De izquierda a derecha: Teresa Freixes, Rosa Fdez Sansa y Lourdes Muñoz.
Lobby Europeo de Mujeres en España 