Instituto de las Mujeres y AESIA colaboran para una IA más igualitaria y segura

El Instituto de las Mujeres y la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) han firmado un convenio de colaboración para reforzar la igualdad de género en el desarrollo y uso de la inteligencia artificial en España. El acuerdo establece un marco de trabajo conjunto orientado a prevenir, detectar y corregir sesgos de género en sistemas de IA, así como a combatir la violencia digital que afecta especialmente a mujeres y niñas.

Una de las líneas principales del convenio es integrar el principio de igualdad en todo el ciclo de supervisión de los sistemas de IA, especialmente en aquellos de alto riesgo. La AESIA reforzará sus mecanismos de control mediante alertas tempranas, análisis técnicos, pruebas especializadas y formación en igualdad, con el objetivo de evitar que las decisiones automatizadas reproduzcan o amplifiquen discriminaciones.

El acuerdo también aborda la violencia digital y el uso indebido de la inteligencia artificial en entornos online, como la creación o difusión de imágenes manipuladas sin consentimiento. Para ello, se prevé la elaboración de informes y la colaboración con el INCIBE, además de impulsar la cooperación con instituciones europeas para compartir conocimiento y contribuir a investigaciones sobre el impacto de la IA en redes sociales y otros ámbitos digitales.

Finalmente, se impulsará un “Laboratorio de Ideas” para desarrollar propuestas de inteligencia artificial ética, transparente y respetuosa con los derechos fundamentales. En paralelo, se destaca la importancia de combatir el sesgo de género en la IA, que surge principalmente de datos desequilibrados, decisiones de diseño o usos inadecuados, y que puede mitigarse mediante datos más diversos, auditorías, equipos multidisciplinares, transparencia, supervisión humana y formación en ética e igualdad.

IA igualitaria

 

Ir al sitio web