miércoles, agosto 17, 2022

Los hackers son hombres, según la IA del traductor de Google y de Microsoft

Ya sabéis que hace tiempo que abrí una petición en Change.org para que Google y Microsoft eliminen el sesgo de género que tiene la IA en su traductor por haber sido entrenada con datos sesgados. Ha pasado un año y medio, ha habido más de 32.000 firmas, pero aún sigue estando presente ese sesgo de género en las traducciones.

Figura 1: Los hackers son hombres, según la IA del traductor de Google y de Microsoft

Se puede ver el sesgo en muchos ejemplos que he ido publicando a largo del tiempo, pero la parte más sencilla de localizarlo es poner estos ejemplos, que hacen que salga a la primera en las traducciones como hay profesiones que considera de "male" como "judge" o "engineer", y profesiones que considera como de "female", como son el caso de "nurse".
Hoy, acordándome de esto, he pensado en comprobar qué sesgo de género tiene para la profesión de "hacker", y el resultado es... que los "hacker" son "hombres". Puedes ver cómo, al traducir de Español a Inglés la frase de " Cómo hacker aceptó el reto", en inglés se traduce por "he" (male).

Figura 3: Google traduce Hacker como "he" por el sesgo de genero de su IA

Y en el caso de Bing, el resultado es exactamente lo mismo, los hackers son hombres, y se traduce como he.

Figura 4: Bing también traduce Hacker como "he" por el sesgo de genero de su IA.

Por supuesto, estos sesgos se propagan a todos los sistemas y plataformas que utilicen los servicios de traducción de Google Cloud, ya que se basan en la misma IA entrenada con sesgo. Así, como vimos, el sesgo se transmite a los tweets traducidos en Twitter. 

Esperemos que este sesgo pueda ser eliminado pronto. Lleva mucho tiempo metido, y tanto Google como Bing es uno de los servicios que más se usan en la educación, así que eliminar cualquier sesgo subliminal del que no se puedan proteger los más jóvenes es primordial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


1 comentario:

Jesús Serros dijo...

Creo que de cierta es muy cierto y estoy en total de acuerdo que deben de dejar de poner sesgos de género
1 Estamos en pleno siglo XXI dónde hombres y mujeres ya tenemos los mismos derechos y obligaciones gracias a la equidad de género.
2 Creo que está mal que piensen que nadamas un género puede hacer algo, para mi es discriminación.
3 A pasado mucho tiempo y se sigue dando el género de sesgo ya hace falta que se actualicen

Entrada destacada

Cómo configurar tus productos de Amazon en MyPublicInbox y para que tengan más impacto @mypublicinbox

Desde hace algo más de un año introdujimos en MyPublicInbox un algoritmo que buscar los productos que se encuentran disponibles en Amazon ...

Entradas populares