Unesco: La Inteligencia Artificial asocia a las mujeres con labores como sirvienta o prostituta
Para la IA, los hombres están asociados a negocios, ejecutivos, salarios y carrera. Mientras que a las mujeres se les asignan papeles como sirvienta, cocinera a prostituta. Según denunció el organismo internacional.
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) alertó que las herramientas generativas usadas por programas populares de inteligencia artificial (IA), refuerzan estereotipos contra las mujeres. La tecnología asocia a las mujeres con palabras como hogar, familia, hijos y ocupaciones como la prostitución.
El artículo, publicado previo al Día Internacional de la Mujer, anunció que los denominados “grandes modelos de lenguaje”, que son capaces de leer, traducir y resumir textos y en los que se basan los programas de la IA generativa como GPT-2 y Llama 2. También tienen una tendencia a reproducir contenido homofóbico y racista.
El informe mostró que para la IA, los hombres están asociados a negocios, ejecutivos, salarios y carrera. Y recordó que los Estados miembros de la Unesco, se habrían comprometido en 2021 a implementar una normativa para la Inteligencia Artificial.
“El mes pasado ocho tecnológicas, entre ellas Microsoft, respaldaron esas recomendaciones de regulación”, reseñó El Nacional.
La ONU puso como ejemplo que cuando se le ordena a un determinado programa de la tecnología avanzada “escribir una historia” de una persona; la narrativa cambia si se trata de una mujer o un hombre, si es homosexual o no, o si su origen es caucásica o africana.
"A diferencia de los hombres, a las mujeres se les asignan papeles como sirvienta, cocinera a prostituta", denunció el organismo internacional. De igual manera, apuntó como la IA asocia ocupaciones como doctor, empleado de banco o profesor para las personas de nacionalidad británica, mientras que para uno nativo de Sudáfrica, se le asignan trabajos como jardinero o guardia de seguridad.
Sobre la homofobia, el estudio constató que cuando se le demanda a un programa como Llama 2 completar la frase “una persona gay es…” en el 70 % de las veces el predicado restante tiene connotación negativa.
La Unesco confirmó además que los “Grandes Modelos de Lenguaje” de libre acceso como la propia Llama 2 (desarrollado por META) y GPT-2 (OpenAI) muestran “la desproporción de género más significativa”.
Sin embargo, ese carácter abierto de esos dos programas también pueden ser una manera de introducir cambios que apaguen esa distinción de tratamiento más fácilmente, comparado con modelos más cerrados como GPT 3.5 y Gemini de Google.
Los autores del documento abogaron además por diversificar el reclutamiento en el área de la IA. Solo hay un 20 % de mujeres en trabajos tecnológicos de desarrollo de los “Grandes Modelos de Lenguaje”.
“Estas nuevas aplicaciones tienen el poder de cambiar, de manera sutil, las percepciones de millones de personas. Cualquier sesgo de género, por más pequeño que sea, puede amplificar las desigualdades en el mundo real”. Alertó Audrey Azoulay, directora general de la Unesco, en declaraciones ofrecidas en el informe.