Sigue El lado del mal en Telegram
Chema Alonso en Threads
Chema Alonso en Mastodon
Chema Alonso en BSKY
Chema Alonso en Linkedin
DragonJAR
8.8 Chile
Ekoparty
e-Hack MX 
AREA 51 
Comunidad Dojo Panamá 
ARPAHE SOLUTIONS 
Las caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas
El mes pasado salió publicado un artículo titulado "AI-synthesized faces are indistinguishable from real faces and more trustworthy" (Caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas), donde se realiza un curioso estudio con tres experimentos, para saber si los seres humanos son capaces de reconocer qué caras son reales y cuáles creadas con IA. Y los resultados son bastante curiosos.
El primer experimento es bastante sencillo. De las 800 caras de la base de datos, se les enseñaron 128 caras (creadas por IA y reales) a 315 personas. Y los resultados dieron que el resultado medio de acierto de cada cara, es decir, acertar si era real o sintética, fue de 48,2 %. Lo que deja claro que en cada cara, de media, se fallaba más que se acertaba a reconocerla.
Figura 3: Entre paréntesis (R) o (S) para saber si son Reales o Sintéticas.
El porcentaje es el grado de acierto por los humanos en media.
Las de arriba son las caras con más aciertos (Rs & Ss)
y las de abajo las caras con menos aciertos.
Hay que tener en cuenta que, en un experimento puramente aleatorio, es decir, eligiendo siempre real, o siempre sintetizada, o eligiendo aleatoriamente sin intentar acertar, debería haber salido un 50%, lo que deja claro que esa desviación hace que los humanos sean engañados claramente.
 |
| Figura 4: Libro de Machine Learning aplicado a Ciberseguridad de Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández |
Para comprobar si se podía enseñar bien a los seres humanos a reconocer las caras reales de las falsas, se aplicó un sistema de entrenamiento en el segundo experimento, haciendo un proceso de decirle a cada persona, después de seleccionar si la cara era real o sintetizada, si había acertado o no, lo que provocaría un proceso de aprendizaje por entrenamiento.
Figura 5: Distribución de porcentajes de acierto en los experimentos 1 y 2
Los resultados mejoraron, llegando a un 59 % de acierto, pero aún muy lejos de tener una selección fiable de un 95% o similar. Para ello, se probó con 128 caras por cada persona de prueba, y un total de 215 personas. Así que, un proceso de entrenamiento como este dejó que más del 41 % de las veces, de media, se fallará al saber si era real o creada por AI.
Los humanos confían más en las caras sintéticas creadas con Inteligencia Artificial
El último experimento se trataba de saber el grado de confianza que daba cada cara - real o sintetizada con IA - a cada persona, para ver si las caras reales o sintetizadas mostraban alguna desviación en la tasa de confianza de las personas. En este estudio, 213 personas marcaba el grado de confianza de 1 (muy poco) a 7 (mucho) sobre 128 caras.
Figura 6: Las caras sintéticas consiguen más con confianza
El resultado, que podéis ver en la gráfica anterior, muestra que, sorprendentemente, las caras creadas por IA dan más confianza a las personas que las caras reales de otros humanos. Sorprendente, cuanto menos, porque abre un universo de preguntas y usos de las personas sintetizadas por humanos.
Figura 7: BladeRunners & Virtual Replicants con DeepFakes
Es decir, el trabajo de los Blade Runners para reconocer a los Virtual Replicants, cada vez va a ser más necesario, y vamos a tener que desarrollar procedimientos, controles, nuevas herramientas, y nuevos test de detección. Interesante mundo que se abre.
¡Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso)
