martes, marzo 29, 2022

Las caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas

El mes pasado salió publicado un artículo titulado "AI-synthesized faces are indistinguishable from real faces and more trustworthy" (Caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas), donde se realiza un curioso estudio con tres experimentos, para saber si los seres humanos son capaces de reconocer qué caras son reales y cuáles creadas con IA. Y los resultados son bastante curiosos.


Los tres experimentos realizados sobre una base de datos de 800 fotografías de caras de personas reales y caras de personas creadas por Inteligencia Artificial están detallados y explicados en el artículo que podéis descargar y leer en la siguiente dirección de Internet.
El primer experimento es bastante sencillo. De las 800 caras de la base de datos, se les enseñaron 128 caras (creadas por IA y reales) a 315 personas. Y los resultados dieron que el resultado medio de acierto de cada cara, es decir, acertar si era real o sintética, fue de 48,2 %. Lo que deja claro que en cada cara, de media, se fallaba más que se acertaba a reconocerla.

Figura 3: Entre paréntesis (R) o (S) para saber si son Reales o Sintéticas.
El porcentaje es el grado de acierto por los humanos en media.
Las de arriba son las caras con más aciertos (Rs & Ss)
y las de abajo las caras con menos aciertos.

Hay que tener en cuenta que, en un experimento puramente aleatorio, es decir, eligiendo siempre real, o siempre sintetizada, o eligiendo aleatoriamente sin intentar acertar, debería haber salido un 50%, lo que deja claro que esa desviación hace que los humanos sean engañados claramente.

Figura 4: Libro de Machine Learning aplicado a Ciberseguridad de
Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández

Para comprobar si se podía enseñar bien a los seres humanos a reconocer las caras reales de las falsas, se aplicó un sistema de entrenamiento en el segundo experimento, haciendo un proceso de decirle a cada persona, después de seleccionar si la cara era real o sintetizada, si había acertado o no, lo que provocaría un proceso de aprendizaje por entrenamiento. 

Figura 5: Distribución de porcentajes de acierto en los experimentos 1 y 2 

Los resultados mejoraron, llegando a un 59 % de acierto, pero aún muy lejos de tener una selección fiable de un 95% o similar. Para ello, se probó con 128 caras por cada persona de prueba, y un total de 215 personas. Así que, un proceso de entrenamiento como este dejó que más del 41 % de las veces, de media, se fallará al saber si era real o creada por AI.

Los humanos confían más en las caras sintéticas creadas con Inteligencia Artificial

El último experimento se trataba de saber el grado de confianza que daba cada cara - real o sintetizada con IA - a cada persona, para ver si las caras reales o sintetizadas mostraban alguna desviación en la tasa de confianza de las personas. En este estudio, 213 personas marcaba el grado de confianza de 1 (muy poco) a (mucho) sobre 128 caras.

Figura 6: Las caras sintéticas consiguen más con confianza

El resultado, que podéis ver en la gráfica anterior, muestra que, sorprendentemente, las caras creadas por IA dan más confianza a las personas que las caras reales de otros humanos. Sorprendente, cuanto menos, porque abre un universo de preguntas y usos de las personas sintetizadas por humanos.


Figura 7: BladeRunners & Virtual Replicants con DeepFakes

Es decir, el trabajo de los Blade Runners para reconocer a los Virtual Replicants, cada vez va a ser más necesario, y vamos a tener que desarrollar procedimientos, controles, nuevas herramientas, y nuevos test de detección. Interesante mundo que se abre.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


No hay comentarios:

Entrada destacada

Libros x Tempos: Cómo obtener Tempos gratis todos los días en MyPublicInbox para conseguir los libros de @0xWord firmados y dedicados

Desde hace tiempo pusimos a disposición de todos los usuarios de MyPublicInbox la posibilidad de comprar libros de 0xWord con Tempos . Es ...

Entradas populares