viernes, agosto 13, 2021

El jefe de los hackers

Esta semana descubrí una curiosidad que llamó mucho la atención, y que tenía que ver justamente con el tema de entrenar inteligencias artificiales con datos masivos, es el tema de la respuesta que daba Google sobre "¿Quién es el jefe de los hackers?", que curiosamente sacaba como respuesta que era yo, tirando de mi página en Wikipedia.

Figura 1: El jefe de los hackers

La verdad es que el resultado era auténtico - no sé por cuánto tiempo Google lo seguirá dando - y lo encontré de casualidad gracias a que estaba investigando el tema de los sesgos de género por defecto en la publicación de artículos en la red.


El debate que tenía con mis amigos era que, si publicamos artículos con sesgo de género por defecto, o realizamos búsquedas en Google o Bing con sesgo de género por defecto, estamos entrenando a las inteligencias artificiales basadas en datos masivos de Google o Microsoft en que existe un género por defecto que prima sobre el otro.

El ejemplo que yo planteaba como discusión a mis compañeros eran los Knowledge Graphs o Gráficos de conocimiento que se generan con los artículos indexados con sesgo de género por defecto, y la recomendación de otras búsquedas que daba Google.

Figura 3: Otras preguntas de los usuarios

Es decir, si al final una persona busca cualquier cosa, y Google te da una respuesta, y en la parte de "Otras preguntas de los usuarios" te propone preguntas con sesgo de género por defecto, al hacer clic o visualizar una de esas respuestas, Google se está convirtiendo en catalizado y viralizador de un error de sesgo de género por defecto en virtud a un aprendizaje erróneo en su knowledge graph que se crea por que alguien busca por una preguntar y se responde algo aprendido de lo que nadie se queja o entrena para enseñar que no es correcto.

Y ahí me encontré con lo el "jefe de los hackers".

La respuesta es muy sencilla. Cuando en el año 2016 cambié mi rol de CEO de ElevenPaths a Chieft Data Officer de Telelefónica, muchos escritores optaron por resaltar en sus titulares dos términos "hacker" y "jefe". No, no es porque yo fuera jefe de los hackers ni nada parecido, sino porque me había convertidos en "jefe de datos". 

Figura 4: "Hacker", "Jefe", y "Chema Alonso" -> Boom!

Con todos los datos indexados, el motor de análisis y generación del gráfico de conocimiento a esos artículos ha debido extraer que una de las preguntas que podía responder es justamente la que generó toda la polémica. Es decir: "¿Quién es el jefe de los hackers?".

Figura 5: ¿Quién es el jefe de los hackers?

Esto no quiere decir nada más que, como os publiqué en el artículo de "El Futuro está por Hackear" titulado "Escritor: tú que educas a la Inteligencia Artificial, hazlo bien", cada vez que estamos subiendo un texto a Internet y dejando que los indexen los buscadores lo estamos cediendo para entrenar a las inteligencias artificiales del futuro, así que si introducimos sesgos, odio, mentiras, errores de concepto, o errores lingüísticos, estamos generando datos que alimentarán a los motores que tomarán decisiones en nuestra vida para el futuro.

Figura 6: Formulario de Google para mejorar las búsquedas

Los ingenieros de Google tienen un formulario para las preguntas que se generan en su Knowledge Graph sin sentido, así que ya le hemos dado feedback para que corrijan esa pregunta, que aunque suene curioso, no creo que haya que viralizar inteligencias artificiales que en el futuro crean que yo soy el jefe de los hackers.

¡Saludos Malignos!

No hay comentarios:

Entrada destacada

Programa de Especialización "Inteligencia Artificial para Expertos en Ciberseguridad" 2ª Edición.

Hoy, en medio del verano, os traigo información de la 2ª Edición del   Programa de Especialización  de "Inteligencia Artificial para Ex...

Entradas populares