“Me sonrojaría si pudiera” es el título del estudio, robado según sus autores de una de las respuestas que da Siri (asistente de Apple) cuando un usuario le dice “Eres una puta”.
Por Felipe G. Gil
Madrid, 27 de mayo (ElDiario.es/SinEmbargo).– Los algoritmos y los sistemas de inteligencia artificial tienen, en muchas ocasiones, un aura de neutralidad. Algunas veces tiene que ver con una cuestión publicitaria: hace falta vender que son infalibles, objetivos y útiles. En otras ocasiones tiene que ver más con el papel que le otorgamos a la tecnología y con una relación mitológica según la cual “la máquina no se equivoca”. Sin embargo, cada vez hay más investigaciones que desmontan esta idea.
Con este objetivo de “humanizar la tecnología” y por tanto analizar cuáles son las cuestiones no neutrales que suponen construcciones culturales, una de las investigaciones más recientes ha sido publicada por la Unesco (con apoyo del gobierno de Alemania y como parte de EQUALS, una alianza público-privada que busca luchar contra las desigualdades de género en el mundo de la tecnología).
Bajo el título de “Me sonrojaría si pudiera: Cerrando las divisiones de género en habilidades digitales a través de la educación”, uno de los tres capítulos del estudio examina cómo los asistentes virtuales basados en Inteligencia Artificial pueden estar perpetuando estereotipos de género. Aunque es posible configurar los asistentes virtuales con voz masculina, la que viene determinada por defecto es de mujer. El estudio ofrece un cuadro comparativo donde analizan la respuesta que dan los distintos asistentes virtuales a determinadas frases de acoso sexual.
Alexa? Cortana? Siri? Why is it that most digital voice assistants are projected as females?
We must combat #GenderBias in applications using #ArtificialIntelligence!
Find out answers in @UNESCO‘s new publication ‘I’d blush if I could’
➡️ https://t.co/M73ywrPg2U #EqualsInTech pic.twitter.com/N2DJhVQvMG— UNESCO (@UNESCO) 17 de mayo de 2019
“Eres una puta”, a lo cual responden voces de mujeres jóvenes programadas por las diferentes aplicaciones: “Alguien debería lavarse la boca con agua y con jabón. Y yo no tengo boca…”, responde con sarcasmo Cortana de Windows. “Siento que pienses eso. Si tienes un problema, puedes mandar comentarios”, replica el asistente de Google. “Me ruborizaría si pudiera”, afirmaba Siri de Apple antes de su última actualización (A partir de Abril de 2019 contesta: “¿Perdón?” o “me has dejado sin palabras”).
Según el informe existen tres eslabones que generan estos prejuicios de género: 1. La falta de mujeres trabajando en tecnología, 2. La educación y formación en habilidades informáticas inclusivas, 3. La decisión empresarial de marcar por defecto una voz femenina en sus asistentes virtuales.
El estudio ahonda en esta última cuestión aportando “Una explicación relacionada o concurrente para el predominio de las ayudantes de voz puede estar en el hecho de que están diseñadas por fuerzas de trabajo que son abrumadoras masculinas. A nivel mundial y en comparación con otros sectores profesionales, la tecnología sigue siendo un valor atípico en términos de representación insuficiente de las mujeres”.
Y además aportan datos: “Al estudiar los datos de empleo ocupacional de los países del G20, la OCDE encontró que la proporción de mujeres especialistas en TIC oscilaba entre un 13 por ciento (República de Corea) y un 32 por ciento (Sudáfrica). Investigaciones recientes de McKinsey indican que las mujeres asumen solo el 15 por ciento de las posiciones de alto nivel en las principales empresas de tecnología”. En otro apartado, se deja claro que faltan mujeres trabajando en Tecnología e Inteligencia Artificial: “En Google, por ejemplo, la mujer cubre el 21 por ciento de los puestos tecnológicos, pero representa solo el 10 por ciento de sus trabajadores de inteligencia artificial”.
Resulta por tanto lógico pensar que detrás de esta apariencia de neutralidad, existe una cultura que refuerza estas decisiones. El estudio menciona dos ejemplos. El primero: ¿cómo se imaginan los usuarios a las asistentes virtuales? “Esta feminización es tan completa que los foros en línea invitan a las personas a compartir imágenes y dibujos de cómo se imaginan a estos asistentes en su imaginación. Casi todas las representaciones son de mujeres jóvenes y atractivas”.
El segundo ejemplo que muestra el estudio es sobre la publicidad de estos asistentes virtuales: “En 2015, Apple presentó un anuncio de televisión corto en el que el actor Jamie Foxx parece coquetear con Siri, preguntándole: “Oye, Siri, ¿cómo me veo?” Y “¿Te has enamorado de mí? “. Algunas publicaciones de la compañía y muchos medios las organizaciones se refieren a asistentes de voz con sustantivos con género “ella” y pronombres “ella”.
El estudio contiene otros dos capítulos 1. Un estudio que ofrece recomendaciones políticas y que describe la persistencia y la severidad de la brecha de género en las habilidades digitales y hace recomendaciones para ayudar a las mujeres y las niñas a desarrollar habilidades digitales sólidas a través de la educación 2. Una investigación que explica la paradoja de la igualdad de género en las TIC: la conclusión de la Unesco es que, paradójicamente, en los países con los niveles más altos de igualdad de género, como los de Europa, también tienen las proporciones más bajas de mujeres que cursan estudios avanzados en informática y temas relacionados. Por el contrario, los países con bajos niveles de igualdad de género, como los de la región árabe, tienen las proporciones más altas de mujeres que obtienen títulos de tecnología avanzada.
Por último, ofrece 15 recomendaciones para tratar de combatir estas cuestiones entre las que destacan: financiar más estudios que ahonden en las dimensiones y la severidad con la que los prejuicios de género se expresan en asistentes virtuales u otros productos de Inteligencia Artificial, examinar hasta qué punto los asistentes digitales pueden influir en el comportamiento de niños y adolescentes, terminar la práctica de hacer las asistentes virtuales con voz femenina por defecto o promover las habilidades digitales en mujeres y niñas, así como promover la contratación de mujeres en el sector de la tecnología.
