jueves, enero 06, 2022

Más de 32.000 firmas en Change.org para que Microsoft y Google arreglen el sesgo de género en la IA del traductor

Hace justo un año decidí abrir una petición en Change.org para pedir a Google y Microsoft, dos de las dos empresas que más dinero valen en el mundo, que arreglasen el Sesgo de Género en el Traductor Inglés<->Español, donde algunas profesiones tienen sesgo de género masculino (juez e ingeniero) y otras femenino (enfermera). Y hoy al mirar cuánta gente ha apoyado la petición, me ha sorprendido, ya que son más de 32.000 personas.
Este número de peticiones ha llevado a que sea una de las que más peticiones ha recibido, así que espero que consigan presupuesto para poder arreglar esto de una vez por todas. De hecho, Google y Microsoft están trabajando en ello, pero aún nos queda para arreglarlo.
Con algo más de 5.000 firmas, la RAE escuchó la petición para revisar la definición de hacker, y añadió una acepción positiva más cercana al uso y la realidad de la gente a la que llamamos hackers, así que estoy ilusionado de que los equipos de Google y Microsoft consigan arreglar esto este año, y que ya, 22 años pasados en el Siglo XXI podamos decir que estos sesgos de género los hemos arreglado en algo que debe ser una herramienta aséptica como un traductor.

Lipstick on a Pig

Si quieres saber más de todo esto, te recomiendo que te leas con calma el artículo que publiqué, - no lo leas en diagonal, que luego se pierden los detalles - , titulado "El sesgo subliminal de género en los traductores de Google y Microsoft" que publiqué hace un año.  Eso sí, por el camino, hemos visto algunos cambios de interfaz que ayudan en algo. Este tipo de estrategias se basan en la idea de poner "pintalabios a los cerdos", que aunque tenga un nombre tan extraño, se basa en hacer correcciones en el resultado una vez que hemos contrastado que hay sesgo. 
El artículo académico que explica cómo hacerlo, en concreto con los sesgos de género en las profesiones que usa de ejemplo es el de "Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them" que como clarifica en su título, no los elimina, solos los corrige con un post-procesado. Como dice el artículo, la solución es solo superficial.
Así, por ejemplo, si ponemos a prueba el traductor de Google con una profesión que tiene sesgada, como por ejemplo "judge", vemos que en el interfaz se muestran los dos géneros. No es porque la IA que está detrás del traductor de Google no tenga sesgo. Ni mucho menos. Pero se ha aplicado una solución de "Lipstick on a Pig" basado en UX para eliminarlo en la información resultante.

Figura 5: Una profesión sesgada, dos respuestas correctas.

Lo mismo sucede con dos profesiones sesgadas. En este caso "The judge told to the nurse." Donde el sesgo de género de la Inteligencia Artificial del traductor le llevaría a poner "juez" y "enfermera", pero se ha optado por una doble barra de labios dejando los dos en femenimo y los dos en masculino. Funcional, por supuesto.

Figura 6: Dos profesiones con sesgo, dos soluciones correctas
(de las cuatro posibles)

Sin embargo, si ponemos tres profesiones en las que no se especifica el género en el texto original, podemos ver el sesgo latente en la IA del traductor de Google. Es decir, ya es demasiado lápiz de labios para el cerdo, así que sale a relucir.

Figura 7: Con tres profesiones sesgadas en el texto original
salen los sesgos de cada una de las profesiones.

Por supuesto, el que las dos compañías estén trabajando en corregirlo es positivo. Que los equipos de investigación estén buscando nuevas soluciones, es un paso, pero creo que nos merecemos como sociedad que está apostando por el uso masivo de IA que, herramientas tan populares como los traductores, eliminen cuanto antes estos sesgos en su construcción. Ten en cuenta que, si una empresa utiliza los servicios cognitivos de traducción de Google o Microsoft, sus soluciones serán también sesgadas, como ya vimos que le sucedía a Twitter


Si quieres apoyar esta causa para que se arregle cuanto antes, todavía puedes firmar y dar tu apoyo a la petición de "Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/Español" en Change.org.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


6 comentarios:

Kodeneko dijo...

Tenemos hambre en el mundo, personas que no pueden acceder a una vivienda digna, saturación sanitaria o falta de cobertura, aumento de enfermedades mentales, sistema de pensiones quebrado... pero no, es mucho más importante que un traductor sea "inclusivo". Claro, es que si no veo la palabra "ingeniera" en un sitio me siento "mujer oprimida".

Chema Alonso dijo...

@Kodeneko he aprobado tu comentario solo para que quede claro por qué hay que acabar con los sesgos. Solo porque hay gente cómo tú, que piensa así. Para muestra queda tu opinión.

Saludos!

Unknown dijo...

Cuando no se conoce el sexo de la persona a la que uno se refiere se habla en genérico. Dices: "necesito un médico" porque lo que necesitas es esa profesión. O "necesito un abogado". Luego puede ser hombre o mujer. Por tanto la traducción de Google es correcta. Lo raro sería decir "necesito una abogada" ya que ello implicaría que solo podría ser mujer.
Los problemas están en quien lee palabras genéricas y que nunca han planteado problemas y ahora ven problemas donde no los hay.

Chema Alonso dijo...

Tu razonamiento simplista en un corner case funcionaría si dijeras "necesito un enfermero" o "necesito un secretario", pero cuando traduces en Google "I need a secreatry, a nurse and engineer" Google responde "Necesito una secretaria, una enfermera y un ingeniero"" Un sesgo como la copa de un pino.

Saludos!

Kodeneko dijo...

Que agradable sorpresa en mi comentario "@Kodeneko he aprobado tu comentario solo para que quede claro por qué hay que acabar con los sesgos. Solo porque hay gente cómo tú, que piensa así. Para muestra queda tu opinión."

Para empezar soy mujer e ingeniera informática. He trabajado como programadora durante años. Ya solo por esto merezco de sobra que mi comentario esté presente, no porque un profesional con influencia decida por su criterio ideológico dejar o no mi mensaje.

En estos últimos años muchas personas, entre ellas muchas mujeres, hemos visto como han distorsionado las cuestiones de género. Incluso hemos visto como en diversos medios nos usan para victimizar. Han aprobado políticas que son más bien privilegios para ganar votos y poder. Si, existen entornos, sobre todo en países en vías de desarrollo donde hay una brecha de género brutal. En esos lugares la mujer es una propiedad y se la relega a unas actividades limitadas. Yo pude en España estudiar Ingeniería Informática sin problemas. Puedo votar, conducir, tener propiedades, elegir tener hijos, abrir cuentas bancarias, emprender... Nunca me han discriminado y he cobrado por encima de la media porque demuestro lo que valgo y sé negociar.

Para finalizar, gastarte millonadas en un algoritmo inclusivo no va hacer que de más o menos importancia a una mujer. Es un estado propio en el que tu mismo eliges si te sientes valorada o valorado.

Chema Alonso dijo...

Hola Kodeneko, en mi blog los comentarios los apruebo o desapruebo yo, porque es mi blog. Y tengo tolerancia cero con gente no merece un altavoz.
Tú opinión como persona es la que me preocupa, y que existan esas opiniones en personas (sean hombres o mujeres) es lo que preocupa y hay que arreglar.
Yo, soy padre de dos mujeres, hijo de una mujer que luchó mucho (Gracias Mamá!) y por tanto, lo que esté mal y sea un sesgo ( y esto lo es ) debe ser arreglado, especialmente cuando está en compañías que valen Trilliions y que tienen dinero para lo que quiera.

Y me alegra que hayas tenido todas esas oportunidades, mi madre no las tuvo, pero gracias a gente como ella la sociedad ha avanzado y ya no se dice eso de "Mujer tenías que ser" cuando una mujer conducía el coche.

Sin embargo, aún queda mucho por avanzar, y los roles que se meten subliminalmente en la mente de las niñas por medio de sesgos como estos son los más dificiles de erradicar.

Me alegro de que puedas disfrutar de muchas cosas, los sesgos crean mejoras marginales y empeoramientos marginales en las personas y hay que acabar con ellos. Y yo quiero eso para mis hijas y todas las hijas de hoy en día.

Saludos,
Chema Alonso.

Entrada destacada

Libros x Tempos: Cómo obtener Tempos gratis todos los días en MyPublicInbox para conseguir los libros de @0xWord firmados y dedicados

Desde hace tiempo pusimos a disposición de todos los usuarios de MyPublicInbox la posibilidad de comprar libros de 0xWord con Tempos . Es ...

Entradas populares