Esta iniciativa expone varios tipos discriminación, como el racismo y el sesgo racial; el documental propone un ejercicio que se grabó y en el que distintas personas se enfrentaron a los resultados del buscador para conceptos como: hombre feliz, mujer bonita, mujer exitosa, pobreza, entre otros.
Ciudad de México, 26 de febrero (SinEmbargo).- ¿Qué imágenes aparecen al escribir en el buscador mujer bonita, hombre exitoso, pobreza y migración? El documental Revolución vs el algoritmo muestra al mexicano Tenoch Huerta, Maya Zapata, Emma Wright -directora y asesora legal del Foro Interparlamentario sobre Tecnologías Emergentes- y Jordan Gigerel, cofundador de Black Lives Matter, entre otras personas, realizando este ejercicio en el que se hace evidente cómo aún existen muchos prejuicios y se tiene una idea de cómo o quien es una mujer o un hombre exitoso en los buscadores de internet, además de otros grupos que son totalmente invisibilizados.
Revolución vs el algoritmo se presentó en el Día Mundial de la Justicia Social en un trabajo en conjunto de la Agencia Bombay, Racismo MX y la UNESCO en México, esto como parte de una campaña que llama a revolucionar los algoritmos en un mundo en el que cada vez hay más avances respecto a la Inteligencia Artificial (IA) que replantean el diálogo público frente a la desinformación, el racismo, la discriminación y los discursos de odio en el uso diario de tecnologías.
Durante la presentación de la campaña, Marcela Flores, directora del Centro de Cultura Digital, señaló que en el entramado digital también se reproducen violencias racistas, transfobia, entre otras, a través de la programación algorítmica. Destacó que no está de más recordar que la tecnología no es neutral y que si se busca hackear al racismos no hacerlo de forma aislada sino en el día a día.
Viridiana García, Oficial Nacional de Comunicación e Información, compartió que más que hacer un debate acerca del racismo y el algoritmo es hablar de una corresponsabilidad ¿El algoritmo es racista o lo somos nosotros?
Manuel Vega de la agencia de comunicación Bombay señaló que el trasfondo y el ejercicio que hicieron en Bombay fue cuestionar acerca de cómo hoy en día el racismo, que en México es velado y que vivimos todos los días, se manifiesta en el uso de tecnología y cómo impacta. Mario destacó el aprendizaje que le significó este ejercicio.
Por otra parte, José Antonio Aguilar de Racismo Mx resaltó tres puntos: ¿de quién es la responsabilidad de tener algoritmos con sesgos? ¿Quiénes son las y los dueños de esos algoritmos? No es algo trivial porque parece estar aceptado y naturalizado, y el tercero es ¿Cuál es el impacto de estás narrativas y de algoritmos así? Aguilar apuntó que en otros países existen empresas que ya usan algoritmos para ver quién tiene derecho a un crédito o no, este es un tema que vale la pena reflexionar.
En la presentación se contó con la presencia de Odilia Romero, defensora de los derechos humanos indígenas, quien explicó que los sesgos de la inteligencia artificial nutren los prejuicios, se cuestionó quienes alimentan la información en la web y puso de ejemplo que al hablar de mujer indígena aparecen imágenes de miseria, criminalización y empobrecimiento y se oculta la riqueza social.
Esta iniciativa expone varios tipos discriminación, como el racismo y el sesgo racial; el documental propone un ejercicio que se grabó y en el que distintas personas se enfrentaron a los resultados del buscador para conceptos como: hombre feliz, mujer bonita, mujer exitosa, pobreza, entre otros. El resultado fue que personas indígenas no tienen un resultado agradable o positivo, mientras que hombre o mujer feliz, hombre o mujer exitosa se relacionan con personas rubias, blancas y la búsqueda de pobreza arrojó principalmente personas de tez morena y negra.
