La Inteligencia Artificial ha venido para quedarse y tenemos que prestar mucha atención a los posibles desafíos que puede traer consigo. Soy Monica Manrique y hoy os quiero hablar de los sesgos de género y la Inteligencia Artificial, que tiene no pocos retos en este área. Uno de ellos es la capacidad que tiene para perpetuar e incluso potenciar el sesgo de género que extrae de nuestros propios datos. La Inteligencia Artificial no es machista, pero si no se entrena correctamente, puedes asumir y perpetuar la parte de la cultura de nuestra sociedad que tiene esos sesgos machistas, ya que somos nosotras y somos nosotros los que tenemos esas desviaciones.
La Inteligencia Artificial sólo se nutre de los datos que generamos y nos pone delante un espejo como sociedad en el que no siempre salimos muy favorecidos. Pero ese golpe de realidad que nos ofrece, a pesar de resultar incómodo, lo podemos utilizar para el cambio hacia una sociedad más justa e igualitaria. De eso ha hablado mucho Chema Alonso en este blog, donde lleva más de 5 años recogiendo firmas para acabar con el Sesgo de Genero en los Traductores de Bing y Google, petición que os animo a firmar, que ya somos más de 35.000 personas los que hemos firmado esa petición.
Al menos, ya el traductor de Apple ha eliminado el sesgo de genero subliminal en las traducciones, pero aún hay muchos otros sitios donde la Inteligencia Artificial está perpetuando estas desviaciones culturales basadas en estereotipos y prejuicios.
- El sesgo de género subliminal en los traductores de Google y Microsoft y una petición en Change.org
- Las traducciones en "Google Translate" y el sesgo de género: A mis niñas no les gusta.
- La “Máquina Aprendiendo” que nombró secretaria a tu hija e ingeniero a tu hijo
- Microsoft, Google, los servicios de traducción y el sesgo de género
- El sesgo de género subliminal en los traductores de Google y Microsoft y una petición en Change.org
- Google Gemini puede arreglar el sesgo de género en Google Translate
- ChatGPT y el "Sesgo de Género" en las traducciones
- Un pequeño test del sesgo de genero por defecto en el traductor de Google ( y Bing)ç
- Las traducciones de Google incumplen la guía de estilo de lenguaje inclusivo de ... Google
- Cómo saber el sesgo de género por defecto aprendido por Google o Bing para cada profesión con estos pasos
- Los hackers son hombres, según la IA del traductor de Google y de Microsoft
- La gestión del sesgo de género en los traductores de Microsoft y Google: Los responsables nacionales y los Cloud Solutions Architect (CSA) son hombres
- ¿Es Google machista?
- ¿Son machistas los algoritmos? Pregúntaselo a Google (o a Rosalía)
- Sesgo de Género en las traducciones al Finlandes
- Apple Translate elimina el Sesgo de Género Subliminal en su traductor: Google y Bing aún NO
- Los investigadores de Apple también intentan acabar con el sesgo de género en los traductores que usan Inteligencia Artificial (Ejemplo: Google o Bing)
- Traducciones de libros sin sesgo de género por defecto subliminal: El caso de Nexus
- Cómo la Inteligencia Artificial dibuja con estereotipos y sesgos en Craiyon
El sexo es una realidad biológica con la que nacemos. Podemos ser hombre (XY) o mujer (XX), aunque también, hay algunas variantes cromosómicas que se dan de manera muy excepcional. Por otra parte, cuando hablamos de género, estamos haciendo referencia a el conjunto de roles, normas y estereotipos que nos dicta la cultura y la historia de la sociedad en la que vivimos sobre cómo tiene que ser un hombre y cómo tiene que ser una mujer, sin que esto deba suponer un detrimento de sus oportunidades, derechos, libertadas u obligaciones.
La risa en la mujer
Voy a utilizar una conducta muy concreta, la risa de las mujeres, para poner un ejemplo de cómo la Inteligencia Artificial Generativa nos muestra cómo somos y cómo puede potenciar los sesgos de género e influir en cómo de sesgados seamos en el futuro si no tomamos medidas correctivas.
Sabine Melchior-Bonnet ha investigado "La risa en las mujeres" y nos cuenta que durante mucho tiempo el humor nos ha estado prohibido en nombre del decoro, la belleza y la discreción y de cómo convenía oponer risa a feminidad:
Voy a utilizar una conducta muy concreta, la risa de las mujeres, para poner un ejemplo de cómo la Inteligencia Artificial Generativa nos muestra cómo somos y cómo puede potenciar los sesgos de género e influir en cómo de sesgados seamos en el futuro si no tomamos medidas correctivas.
Sabine Melchior-Bonnet ha investigado "La risa en las mujeres" y nos cuenta que durante mucho tiempo el humor nos ha estado prohibido en nombre del decoro, la belleza y la discreción y de cómo convenía oponer risa a feminidad:
“La risa es contraria a la imagen de la mujer modesta y púdica. Las costumbres del mundo son formales: si la risa del hombre es considerada una justa recreación o un remedio a su melancolía, una mujer que ríe siempre corre el riesgo de pasar por una descarada, una vividora atrevida, una loca histérica, o de perder su poder de seducción y ser catalogada como marimacho. Reírse entre dientes, partirse o caerse de la risa, carcajearse, el lenguaje de la risa es ya de partida sexuado, o bien trivial, o bien indecente. Durante siglos, la risa femenina ha permanecido bajo vigilancia, tolerada a condición de que se escondiera tras el abanico.”
Al leer este párrafo podemos pensar que lo que nos cuenta Sabine Melchior-Bonnet es algo del pasado pero, por ejemplo, basta echar la vista atrás a las últimas elecciones en Estados Unidos para darnos cuenta que estos estereotipos de género siguen vigentes.
Patricia Gascón-Vera, Natascia Mattucci y Joseba Bonaut-Iriarte en una investigación publicada este mismo año (2025) titulada "Avatares y estereotipos. Sesgos algorítmicos de la sonrisa femenina generada por inteligencia artificial" demuestran cómo la risa femenina sigue siendo un tema de debate en la sociedad donde se mantiene como fórmula de ataque, sobre todo, desde la política.
Nos cuentan como Donald Tump calificó a su rival Kamala Harris como “loca” por su forma de reír. En una entrevista, Harris tuvo que justificarse diciendo: “Tengo la risa de mi madre. He crecido rodeada de mujeres que se reían desde el estómago.” También podemos pensar que Trump es Trump, que sus formas son tan extremas que no representan la norma pero la risa de Harris se ha utilizado en memes que dejan patente cómo los algoritmos de la Inteligencia Artificial plasman a las mujeres (Mendoza, 2020).
La risa en el Siglo XXI sigue siendo una manera más utilizada para menospreciar la inteligencia y la cordura de las mujeres, por parte de algunos sectores de la sociedad.
La risa en el Siglo XXI sigue siendo una manera más utilizada para menospreciar la inteligencia y la cordura de las mujeres, por parte de algunos sectores de la sociedad.
“El humor es un fenómeno que gana complejidad, al aumentar los códigos, los contextos y las posibilidades comunicativas” (Soriano-Mollá y Silvestre, 2023, p. 9).
Y, en ese proceso, es la Inteligencia Artificial la que genera sobre lo ya creado, automatiza lo que ya tiene autor. Es decir:
"reproduce lo bueno y lo malo de la sociedad y, con ello, fija los avatares.” (Aguado-Terrón y Grandío- Pérez, 2024)
Conclusiones de la investigación Avatares y Estereotipos
En la investigación llevada a cabo por los citados autores llega entre otros a los siguientes resultados y conclusiones. El avatar que representa a la mujer y su risa desde la Inteligencia Artificial, desde lo virtual, es una imagen diversificada con pocos casos naturales, la mayoría en las niñas, que sí presentan la verdadera risa feliz y divertida.
Y donde los estereotipos reflejan unos cánones estéticos sexualizados que erigen el poder sobre los hombres y donde la risa aparece exagerada sobre todo y con mucha diferencia en las mujeres jóvenes.
Figura 7: Imágenes creadas con IA en Shutterstock
Resulta llamativo la cantidad de veces que encontramos la representación de la risa femenina con una estética sexualizada que proviene de imágenes de la simbología pornográfica.
Por otro lado, este estudio exploratorio encuentra un sesgo de edad en las imágenes de las mujeres, siendo en su mayoría jóvenes. Se las muestra en contextos de amistad donde se infrarrepresenta el aspecto laboral o doméstico frente la entretenimiento.
“Todo, aunque la virtualidad muestre risas sobredimensionadas con falta de gestos y/o arrugas que permitan, desde la visión humana, un reconocimiento como una sonrisa natural (Umberto Eco, 2010). Por tanto, la esfera física, social y cultural, al manipularse de manera tecnológica, provoca la imagen de un temperamento egocéntrico y lúdico (Villamarín-Fernández, 2023).”
A modo de conclusión y con el objetivo en mente de que la Inteligencia Artificial, como agente socializador de las futuras generaciones, muestre unos resultados de la risa femenina más humanos, menos sexualizados y que encarnen la amplia representatividad racial, estética y de edad de las mujeres, debemos centrarnos en romper la representación de la mujer como un objeto.
“Para ello, se necesita debatir y promover la inclusión de la perspectiva de género en los procesos de diseño, implementación y control de los sistemas algorítmicos”.
(...) “Adoptar un enfoque de género implica mostrar las estructuras de dominación simbólica que se reproducen a través de la ecología de los nuevos medios de comunicación contemporáneos (Aguado-Terrón y Grandío- Pérez, 2024).
Este desafío interroga desde dentro las visiones del mundo generadas algorítmicamente. Se aboga por la transparencia en los procesos algorítmicos, combinada con la promoción de habilidades críticas en la audiencia lo cual implica un uso consciente y responsable de la Inteligencia Artificial.
Futuras investigaciones no podrán olvidar que:
“el objetivo final es lograr el bienestar desde el humanismo digital, aquel que promueve el uso de la ética para la integración de la tecnología, los valores y los derechos humanos (Gascón-Vera et al., 2024).”
Saludos,
PD: Si te interesa la IA y la Ciberseguridad, te recomiendo este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.
Autora: Monica Manrique
