Cómo una imagen hecha con Morphing puede generar Match con dos personas en el Reconocimiento Facial del Control de Pasaportes

No es que esta semana tuviera marcado en el calendario que iba a hablar de Facial Recognition & Face Comparison, pero es es el tercer artículo seguido que dedico a esto después de hablar "Sobre la Fiabilidad del Reconocimiento Facial en Imágenes de Cámaras de Seguridad" y "Sobre descubrir dobles de líderes mundiales con Facial Recognition Technology". Hoy hay que hablar de los riesgos de las imágenes hechas con técnicas de Morphing para la detección de suplantación de identidades en controles con Reconocimiento Facial, como el que hay en las fronteras de los aeropuertos, por ejemplo.

Figura 1: Cómo una imagen hecha con Morphing puede

generar Match con dos personas en el Reconocimiento

Facial del Control de Pasaportes

Una imagen Morph o hecha con técnicas de Morphing se hace a partir de otras dos imágenes originales, que pueden pertenecer a dos personas diferentes, que pueden ser diferentes sexo, raza o edad. Es un algoritmo de Inteligencia Artificial que mezcla los rasgos de esas dos personas para dar una nueva persona. 

Figura 2: La imagen de la izquierda es una imagen Morph de la

suma de las fotografías de la derecha. De 2 personas distintas.

En esencia se parece a las técnicas de StyleGAN, pero hecho a partir de dos personas reales para que la imagen Morph tenga la esencia de las dos anteriores. Esto provoca que se produzcan situaciones de seguridad muy interesante, que el NIST ha publicado en una documento titulado: "Face Analysis Technology Evaluation (FATE) MORPH. Considerations for Implementing Morph Detection in Operations" y que puedes leer online.

Figura 3: Face Analysis Technology Evaluation (FATE) MORPH.

Considerations for Implementing Morph Detection in Operations"

Esto, que inicialmente parece un ejercicio tecnológico visual curioso , puede ser utilizado para crear personas que no existen, como en el caso de las StyleGAN, pero también pueden acabar siendo utilizadas de forma impresas en documentos oficiales como un Pasaporte Nacional al que aplica una persona.

Figura 4: Imagen Morph, digitalizada, retocada, impresa y escaneda

El riesgo, como ha alertado en una presentación del National Institute of Standards and Technology que puedes leer online, es que esa imagen Morph puede dar Match a las dos personas que se utilizaron para construirla.

Figura 5: Una imagen Morph puede validar a dos personas

El riesgo que esto tiene es muy grande, porque una persona puede ir a sacarse el Pasaporte con una Imagen Morph, y luego esa fotografía podría validar a otra persona en los sistemas de Reconocimiento Facial de la frontera, con lo que se estaría colando en un país alguien que no es la persona identificada.

Figura 6: Un pasaporte, Dos personas

Esto se produce porque los sistemas de Facial Recognition tienen un sistema de validez del Match basado en Thresholds de Similitud, y esto no es algo válido cuando se trata de Verificación de una Identidad, donde hay rasgos que deben ser conclusivos. Por ejemplo, podemos tener un grado de similitud en dos personas en 90% y resulta que son de diferente raza. 

Figura 7: Artefactos de una Imagen Morph

Las imágenes Morph, para que funcione la magia, hacen una manipulación de los rasgos fundamentales como los ojos, la nariz, los labios, etcétera, haciendo manipulación en forma de artefactos que son mezcla de los rasgos de las dos imágenes originales. Esto lleva a que en esos puntos se cree la magia tecnológica de la manipulación, y es lo que permite el problema anterior.

Figura 8: Más de 1.000 casos de Imágenes Morph en USA

Según la presentación publicada, en los Estados Unidos han tenido más de 1.000 casos de pasaportes hechos con imágenes Morph, ya que estas - si engañan a un sistema de Facial Recognition - con dos personas con cierta similitud y una imagen Morph, pueden engañar a las personas. No todos nos parecemos tanto a nuestras fotos de los documentos de identidad.

Figura 9: Procesos de detección de Morph

El NIST está proponiendo utilizar en todas las aplicaciones para obtención de Pasaportes o Documentos de Identidad, un sistema de detección de Imágenes Morph, buscando detectar los artefactos dejados por la aplicaciones más comunes utilizadas para la generación de estas imágenes, revisar los metadatos de las fotografías, buscando información EXIFF que pueda delatar la manipulación con herramientas digitales.

Figura 10: Imágenes Morph generadas con diferentes aplicaciones

La segunda parte consiste en hacer análisis entre la imagen de la persona en la cámara de Facial Recognition y la Imagen Morph, buscando rasgos deterministas de la identidad, como una cicatriz o un lunar que falta en la fotografía o en la imagen de la cámara en la frontera, para generar una alerta de seguridad.

Figura 11: Falta la cicatriz en la imagen de la cámara de la frontera

En esos casos, aunque la Similitud del algoritmo de Face Comparison sea alta, existe un elemento - la cicatriz - que invalida la identidad, por lo que se debe levantar una alerta de seguridad.

Figura 12: Identidad y Similitud

Por último, para detectar si es una Imagen Morph que está siendo utilizado por una o dos personas, se puede tener en cuenta esta distribución entre Identidad y Similitud. Cuando es original, hay un pico de Similitud muy alto, mientras que que cuando es una Imagen Morph da un pico de Similitud más rebajado y, si en la base de datos hay dos personas, la distribución de Similitud se extiende entre más imágenes.

Figura 13: Match con dos imágenes de la misma persona con

índices de Similitud muy altos.

Sin embargo, si usamos la misma base de datos, pero buscando con una Imagen Morph de esa persona (con otra que no está en la base de datos), los índices de Similitud se reducen.

Figura 14: Usando una Imagen Morph para hacer Match

Si las dos personas a partir de las que se ha creado la Imagen Morph está en la base de datos, los resultados de Similitud en el algoritmo de Facial Comparison son menos acentuados, tal y como se veía en la gráfica de la Figura 12.

Figura 15: Match a dos identidades pero

con grados de Similitud menor.

El uso de las herramientas de Inteligencia Artificial Generativa aplicadas al mundo de las generación de imágenes crea, como hemos visto en este artículo, nuevas amenazas y nuevas brechas de seguridad que hay que mitigar, como se puede observar, hay que estudiar los detalles para poder contra restarlas. Muy interesante este trabajo.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Sobre la Fiabilidad del Reconocimiento Facial en Imágenes de Cámaras de Seguridad

No es la primera vez que el debate del Reconocimiento Facial ocupa parte de este espacio. En el año 2023, en el artículo titulado "Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial" se contaba la historia de cómo una mujer fue detenida y llevada a juicio por un reconocimiento facial a partir de imágenes de una cámara de seguridad, donde se olvidaron el detalle de que en ese momento, la mujer detenida estaba embarazada de 8 meses. Algo que no detectó el algoritmo de reconocimiento facial pero que era muy fácil de comprobar en su momento.

Figura 1: Sobre la Fiabilidad del Reconocimiento Facial

en Imágenes de Cámaras de Seguridad

Estos sesgos, fallos y alucinaciones en forma de Falsos Positivos (FP) y Falsos Negativos (FN), los hemos visto muchas veces en los algoritmos de reconocimiento facial. Usando clasificadores basados en técnicas de Machine Learning, vimos cómo un algoritmo podría fallar si las condiciones de calidad de la imagen no eran idóneas, como os publiqué en el artículo de "Cómo un algoritmo de Machine Learning puede tener prejuicios o sesgos y afectar a la vida de las personas. Un ejemplo con un algoritmo al que le gusta la piel clara" escrito por Alberto Rivera y Marcos Rivera.

Figura 2: Libro de Machine Learning aplicado a Ciberseguridad de
Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández

En los modernos Cognitive Services de Reconocimiento Facial, yo he puesto muchas veces el ejemplo de "hallucination" cuando me confundían en fotos a mí con el actor George Clooney, algo que creo que salta a la vista que no debería pasar de ninguna manera, y que sin embargo ha sucedido en más de una ocasión. Si sabemos que hay Sesgos, Falsos Positivos, Falsos Negativos o Hallucinations... ¿Podemos fiarnos de la Tecnología de Reconocimiento Facial (Facial Recognition Technology - FRT) ? Cuando la utilizamos con imágenes de cámaras de seguridad de baja calidad o en condiciones que no son las ideales... ¿son realmente fiables estas tecnologías? 

Figura 3: Accuracy and Fairness of Facial Recognition Technology

in Low-Quality Police Images: An Experiment With Synthetic Faces

De esto va el paper que se ha publicado en Junio de este año, titulado "Accuracy and Fairness of Facial Recognition Technology in Low-Quality Police Images: An Experiment With Synthetic Faces" donde se ha hecho un experimento con 50.000 imágenes sintéticas para localizar los Ratios de Falsos Positivos y Falsos Negativos de algunas de las tecnologías de FRT utilizadas en investigaciones policiales.

Figura 4: Imágenes utilizadas en investigaciones policiales

Si miramos las imágenes con las que cuentan las FRTs para reconocer a las individuos, no son siempre ni a la mejor resolución, ni con la mejor calidad, ni con el mejor ángulo de enfoque, con lo que tienen una dura misión para detectar un Match de Reconocimiento facial que no sea más allá que "un indicio" leve para investigar después, pero parece imposible que se pueda utilizar como una prueba concluyente.

Figura 5: Proceso de prueba de las FRTs

Para localizar estos Ratios de Falsos Positivos (FPR) y de Falsos Negativos (FNR), se ha hecho un experimento en el artículo generando 50.000 imágenes sintéticas utilizando un modelo de StyleGAN3. Estas imágenes se han catalogado después en función de sexo y raza para conseguir una dispersión mayor y probarla con diferentes tipos de personas.

Figura 6: Humanos Sintéticos creados con StyleGAN3

La distribución de estas personas, en función de sexo y raza es más o menos homogénea en sexo, pero en raza se ha hecho una distribución sesgada entre raza blanca, negra y asiática, para probarlo en un entrono similar al que puede tener un país como los Estados Unidos.

Figura 7: Distribución de los Humanos Sintéticos generados

Ahora, lo siguiente que se ha hecho ha sido manipular esas imágenes para ponerlas en condiciones similares a las que se tienen las cámaras de seguridad y muchas de las investigaciones policiales, haciendo distorsiones de resolución, brillo, contraste, color, etcétera, y probar en condiciones NO ideales, que es a lo que se tienen que enfrentar las FRT de los cuerpos de seguridad que investigan los delitos.

Figura 8: Degradación de calidad de las imágenes para hacer FR

Ahora, una vez que se tienen las imágenes generadas, se corren los procesos con las FRT para calcular el número de Falsos Positivos (FP), el Total de Positivos (TP), el número de Falsos Negativos (FN),  Total de Negativos (TN), el Ratio de Falsos Positivos (FPR) y el Ratio de Falsos Negativos (FNR) todos ellos normalizados con el porcentaje de del sexo y raza de la población, para hacer una estimación más fiable de estos valores. Todos estos valores se miden haciendo búsquedas con objetivos en la base de datos, y con objetivos que no están en la base de datos - y que deberían no dar ninguna coincidencia -.

Figura 9: Algoritmos de medición de fiabilidad de FRTs

Y los resultados, como podríais imaginar son que tenemos un número significativo de Falsos Positivos, de Falsos Negativos, con sesgos más marcados por sexo y raza. En la siguiente tabla tenemos los Ratios de Falsos Positivos y Ratio de Falsos Negativos en función de la degradación de calidad de la imagen de búsqueda.

Figura 10: Ratio de Falsos Positivos y Ratio de Falsos Negativos

en función de calidad de las imágenes de búsqueda.

Pero, si lo miramos por tipo de degradación de la imagen, y por raza y género, vemos que los FPR y FNR son sensiblemente diferentes. Por ejemplo, hay más Falsos Negativos con imágenes de mujeres blancas con mala calidad de contraste que mujeres negras, pero hay más Falsos Positivos en mujeres negras que en mujeres blancas. 

Figura 11: FPR y FNR por sexo y raza

Pero es que si miramos cualquiera de las degradaciones de calidad, vemos que las FRT tienen diferentes FNR y FPR por raza y sexo, lo que hace que sea más propenso a dar un Falso Positivo o un Falso Negativo si tu raza es una u otra. Lo que hace que haya que poner estas tecnologías como indicios en las investigaciones policiales, pero nunca como prueba definitiva.

Figura 12: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Este tipo de investigaciones hacen que corrijamos errores que podemos cometer con la tecnología y que pueden afectar de manera muy seria a la vida de las personas. Por todo ello, si eres de los que te dedicas a hacer informes periciales o análisis forenses, conocer estos datos son fundamentales para ajustar tus conclusiones en su justa medida. Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligen

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Una entrevista en Cylum Talks sobre Ciberseguridad & IA

Hoy sábado de Julio toca tener actividad al sol, deporte, y lo que se pueda, pero antes de comenzar el día os dejo por aquí mi post diario, con una entrevista que hice con la gente de Cylum Cybersecurity Talks para hablar un rato de cosas.... de cosas de Ciberseguridad, de Inteligencia Artificial y de Tecnología en general.

Figura 1: Una entrevista en Cylum Talks sobre Ciberseguridad & IA

La entrevista dura cerca de una hora, y ya la tenéis subida a mi Canal de Youtube, donde sabéis que recopilo todas las charlas y entrevistas que puedo desde siempre. No está todo, pero está todo lo que he podido recuperar.

Figura 2: Una entrevista en Cylum Talks sobre Ciberseguridad & IA

Y nada más, que es fin de semana y hay muchas cosas por hacer, muchos cómics y libros por leer, y muchas piscinas en las que hay que mojarse - y si estás cerca del mar, pues aún mejor -. 

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Hacking & Pentesting con Inteligencia Artificial. Nuestro nuevo libro en 0xWord

Siempre. que tenemos un nuevo libro en 0xWord que presentaros es un día bonito, así que hoy es un día feliz para todo el equipo, porque tenemos ya a la venta el libro de "Hacking & Pentesting con Inteligencia Artificial", donde hemos trabajado Pablo González, Fran Ramírez, Rafael Troncoso, Javier del Pino y yo mismo, que he hecho un par de capítulos de este volumen.

Figura 1: Hacking & Pentesting con Inteligencia Artificial.

Nuestro nuevo libro en 0xWord

El libro, es un compendio del trabajo que hemos estado haciendo durante estos últimos tres años, y que si sois buenos lectores de esta rincón, seguro que habéis ido viendo poco a poco por todos los artículos que os he ido publicando día a día. Ahora, todo ese trabajo ha culminado en este libro de  "Hacking & Pentesting con Inteligencia Artificial" que podéis comprar desde hoy mismo.

Figura 2: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Este libro es sólo el primero de la serie de libros que vamos a dedicar al mundo de la Ciberseguridad y la Inteligencia Artificial, así que pronto esperamos tener nuevas sorpresas para vosotros, que estos dos mundos se han fusionado y nos han generado una nueva y autentica forma de entender nuestra profesión. Aquí os dejo la sinopsis.

Desde la llegada de la Inteligencia Artificial Generativa (GenAI), con las GANs, los modelos de Difusión, los LLM multimodales, y los modelos de Deep Reasoning como Deep Research o DeepThink, el trabajo de un experto en ciberseguridad ha cambiado radicalmente. Entender las capacidades de estos modelos que tienen razonamiento visual, con Memory, con aumento de capacidades al usar MoE (Mixture of Experts) en su diseño, y que desplegados en arquitecturas RAG (Retrieval-Augmented Generation), con destilación de modelos, Agentes de IA (Agentic AI) y la extensión de sus capacidades mediante MCP (Model Context Protocol) han demostrado un poder extraordinario para resolver el día a día en proceso de Pentesting y Hacking. 

 

Búsqueda de vulnerabilidades, parcheo de código, generación de exploits, automatización de ataques con agentes, análisis forenses de imágenes, salto de captchas, webscrapping, análisis de código ensamblador, ofuscación de código, codificación esteganográfica, criptoanálisis de textos, y un largo etcétera son las cosas que la Inteligencia Artificial hace hoy en día para hackers & Pentesters... ¿crees que puedes vivir sin esto? En este libro tendrás un recorrido sobre este mundo que te ayudará a adentrarte de una vez por todas en él.

Esta sinopsis es solo un aperitivo para las 300 páginas que tiene este libro de "Hacking & Pentesting con Inteligencia Artificial" que ya podéis comprar desde hoy mismo. Aquí tenéis el índice del libro que hemos trabajado con el mayor cariño posible todas las personas involucradas.

Figura 3: Índice del libro de Hacking & Pentesting con Inteligencia Artificial.

De 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Así que, si quieres un libro para comenzarte a formar en el mundo de la Inteligencia Artificial aplicado a la Ciberseguridad, el Pentesting y el Hacking,  ya lo tienes disponible para que te lo puedas comprar. Además, puedes usar tus Tempos de  MyPublicInbox.  

Para terminar, te recuerdo que tendrás también 100 Tempos de MyPublicInbox por la compra de este libro de "Hacking & Pentesting con Inteligencia Artificial" y que además, puedes pagar completa o parcialmente este libro con Tempos de MyPublicInbox. Aquí te explico cómo se hace. 

Usar tus Tempos de MyPublicInbox 0xWord para adquirir este libro

La idea es muy sencilla, hemos creado un Buzón Público de 0xWord en MyPublicInbox y tenemos disponible el módulo de transferencias de Tempos entre cuentas siempre que el destinatario sea un Perfil Público de la plataforma. Para que se puedan hacer estas transferencias, primero debe estar en tu Agenda el Perfil Público destinatario de la transferencia.

Figura 4: Perfil de 0xWord en MyPublicInbox. Opción de "Añadir a  la Agenda".
https://MyPublicInbox.com/0xWord

Para dar de alta un Perfil Público en tu agenda, solo debes iniciar sesión en MyPublicInbox, y con la sesión iniciada ir a la web del perfil. En este caso, a la URL del perfil público de 0xWord en MyPublicInbox, - https://MyPublicInbox.com/0xWord - donde te aparecerá la opción de "Añadir a la agenda". Cuando acabe este proceso, podrás ir a la opción Agenda de tu buzón de correo en MyPublicInbox y deberías tener el Perfil Público de 0xWord allí.

Figura 5: Cuando lo agregues estará en tu agenda

Una vez que lo tengas en la agenda, ya será tan fácil como irte a tu perfil - se accede haciendo clic en la imagen redonda con tu foto en la parte superior - y entrar en la Zona de Transferencias. Desde allí seleccionas el Buzón Público de 0xWord, el número de Tempos que quieres transferir, y en el concepto debes poner que es para recibir un código descuento para usar en la tienda de 0xWord.

Figura 6: Zona de Transferencias en el Perfil de MyPublicInbox

No te preocupes por el texto concreto, porque los procesamos manualmente como los pedidos de se hacen en la tienda. 

Canjear 500 Tempos por un código descuento de 5 €

La última opción es bastante sencilla. Solo debes irte a la sección de Canjear Tempos -> Vales para Tiendas, y "Comprar" por 500 Tempos y código de 5 €. Es lo mismo que enviar la transferencia pero en un paquete de 500 Tempos y de forma totalmente automatizada, así que solo con que le des a comprar recibirás el código descuento y lo podrás utilizar en la tienda de 0xWord.com

Figura 7: Canjear Tempos por Códigos para libros de 0xWord

Así que, si quieres conseguir nuestros libros de Seguridad Informática & Hacking aprovechando los Tempos de MyPublicInbox podrás hacerlo de forma muy sencilla y mucho, mucho, mucho más barato. Y así apoyas este proyecto tan bonito que es 0xWord.com.

Ser escritor de libros de 0xWord

Además, todos lo que queráis convertiros en escritores y hacer un proyecto de libro con nosotros. Podéis también enviarnos vuestra propuesta a través del buzón de 0xWord en MyPublicInbox, y si sois Perfiles Públicos de la plataforma, podéis entrar en la sección de Mi Perfil -> Servicios para ti y solicitar más información sobre el proceso de escribir un libro en 0xWord.

Figura 8: Si eres un Perfil Público de MyPublicInbox

puede solicitar info para escribir un libro en 0xWord

Nuestro equipo se pondrá en contacto contigo y evaluará tu proyecto de publicación de libro. Ya sabes que principalmente de Seguridad Informática & Hacking, y puede ser técnico, súper-técnico, o divulgación, y si es una novela... podemos estudiarlo también.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Cómo Crear Vídeos de Humanos y Dibujos Digitales con Voz & LipSync usando GenAI en Hedra

Hoy sábado, que tengo planeado ir a hacer algo de deporte, no quería dejaros sin contaros algo, así que os traigo una de esas plataformas para que podáis jugar vosotros un poco con la GenerativeAI, en este caso para hacer unos vídeos de personas o personajes animados a partir de una fotografía, a los que puedes poner audio para que te haga el sincronizado de labios (LipSync), que se llama Hedra, y con la que podéis probar cosas en la versión gratuita.

Figura 1: Como Crear Vídeos de Humanos y Dibujos Digitales

con Voz & LipSync usando GenAI en Hedra

La idea es poder crear un Humano Digital o un Personaje Digital a partir de una fotografía, y funciona de forma sencilla, que es casi un "One-Buttom Project" como a a mí me gusta llamarlos.

Figura 2: En Hedra Prompt para animar, audio e imagen

para generar un vídeo

Te abres una cuenta en Hedra.com y tienes un chat donde basta con subir un audio, y una fotografía del frame inicial, y darle alguna indicación en el Prompt.

Figura 3: Cuando subes el audio puedes filtrar el fondo con AI

Yo he cortado un audio de 20 segundos de la intro de una entrevista en podcast que va a ser publicado en breve, y para la primera prueba he utilizado uno de lo stickers que me hice con ChatGPT para animar mi WhatsApp.

Figura 4: Vídeo generado.

Una vez hecho, te genera el vídeo con el LypSinc realizado, tal y como podéis ver en este primer vídeo que está aquí mismo.

Figura 5: Primera prueba con Hedra

He querido probarlo un poco más, para daros alguna idea, y para ello me he creado un personaje en vectorial con Perplexity Pro a partir de la imagen esa mía del año 2016 que seguro que alguna vez habéis visto.

Figura 6: Generando un personaje a partir de una foto con Perplexity Pro

Luego le he pedido que me lo anime con algo de emoción en las expresiones añadiendo solo algo de información en el Prompt de Hedra.com.

Figura 7: Pidiéndole a Hedra en el Prompt que ponga emoción

El resultado es un vídeo en el que lo hace casi todo bien, ya que el ordenador lo ha tomado como parte de la vestimenta - podría ser por lo pegado que lo llevo siempre -, y ha quedado un poco raruno.

Figura 8: Segunda prueba con Hedra

La última prueba que he hecho ha sido a partir de un fotograma de una conferencia mía. He pillado una imagen, y le he pedido que lo anime bien, y en este caso lo ha hecho muy bien, la verdad.

Figura 9: Prueba con un fotograma de una conferencia

Anima perfectamente la mano y los brazos, los movimientos de la cabeza y el sincronizado de labios. Com punto curioso es el "lifting" facial ese que me hace en la cara que me deja un poco raro a mis ojos, pero queda muy aparente.

Figura 10: Tercera prueba en Hedra

Hoy en día tienes plataformas muy completas y profesionales, pensadas para hacer presentaciones a partir de documentos, con voz clonada, con generación de las explicaciones de cada una de las diapositivas, y con humanos digitales basados en tu fotografía que hacen exactamente esto, pero para que podáis probar podéis usar esta plataforma. 

Figura 11: Vídeo final de la tercera prueba

(una Deepfake)

Con esto he cumplido mi tarea con mi blog, así que ya puedo ponerme las zapatillas, la ropa de deporte e ir a ver si sudo un poco haciendo algo de ejercicio. Feliz sábado.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

+300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial

Hace un mes comencé a recuperar en un post mi interés en los últimos años, donde he publicado muchos artículos en este blog, y he dejado muchas referencias a otros artículos y papers académicos relativos al mundo de Hacking y la Ciberseguridad relacionado con la Inteligencia Artificial. Cada vez me cuesta más recopilarlos todos, o acordarme dónde lo publiqué, así que he ido  durante ese mes construyendo este post de hoy, en el que voy a seguir catalogando y recopilando todos ellos por diferentes categorías, pero que ya ha superado las 300 referencias. Todo esto, como parte de la carrera mundial por dominar la Súper Inteligencia Artificial.

Figura 1: +300 referencias a papers, posts y talks de

Hacking & Security con Inteligencia Artificial

Como os dije, no va a ser un artículo publicado y ya, sino que volveré a él cada vez que publique algo, y donde iré actualizando la información que vaya teniendo sobre el tema, así que, si te interesa el mundo de la Inteligencia Artificial, el Hacking con IA, o el Hacking de IA, apúntate este enlace que haré porque siempre tenga la información actualizada.

Figura 2: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Charlas y Libros

• [2025] Can Machines Think or Dream Without Hallucinations?
• [2025] Hackin’ AI: Creando una IA… ¿Qué puede salir mal?
• [2025] Por qué la IA no ha mejorado el rendimiento de tus Developers ... por ahora
• [2025] El Club de La IA: Entrevista de Jon Hernández a Chema Alonso
• [2024] Hacker & Developer in the Age of LLM Apps & Services [Updated]
• [2023] Hacker & Developer in the Age of GenAI LLM Apps & Services
• [2024] Misinformation in the age of GenAI
• [2024] Cibercriminales con IA
• [2023] Hackr0n X: Blade Runners on Generative AI por Chema Alonso
• [2023] Ciberseguridad y Hacking en un mundo de Inteligencia Artificial, Robots y Humanos
• [2023] Humanos Sintéticos con Inteligencia Artificial
• [2023] Chucky Alonso en Horizonte
• [2023] Advanced Persistent Toys: Chucky as a Service
• [2023] Detectar voces clonadas con Machine Learning
• [2023] Perspectiva de las técnicas de IA en ciberseguridad y su impacto en los deepfakes
• [2022] Blade Runners & Virtual Replicants with Deepfakes
• [Libro] Machine Learning aplicado a Ciberseguridad: Técnicas y ejemplos en la detección de amenazas
• [Libro] Hacking & Pentesting con Inteligencia Artificial

IA Papers & Posts

• Generative Adversarial Nets
• Difusion Models: Deep Unsupervised Learning using Nonequilibrium Thermodynamics
• Attention is all you need
• “Attention is all you need”: La investigación que revolucionó la Inteligencia Artificial con los Transformers
• VisionTransformers - An image is worth 16x16 words: transformers for image recognition at scale
• Vision Transformers: Transformers aplicados a imágenes
• Your Brain on ChatGPT: Accumulationof Cognitive Debt when Using an AIAssistant for Essay Writing Task
• Los LLMs del Futuro: Mercury Coder, un Diffusion LLM (dLLM)
• Cómo funciona Stable Diffusion - y Dalle-2 o Midjourney -: Open Source Generative-IA que crea imágenes artísticas
• ChatGPT como profesor de apoyo para el aprendizaje
• La carrera mundial por dominar la Súper Inteligencia Artificial
• AlphaGo Moment for Model Architecture Discovery
• Hierarchical Reasoning Model

Hacking LLM Apps & Services Posts

• Los 10 problemas de seguridad más importantes de ChatGPT, Bard, Llama y apps que usan LLMs: OWASP Top 10 para LLM Apps versión 1.0.1
• OWASP TOP 10 for Large Language Model Applications v_0.1
• GenAI Apps & Services: Cómo explotar arquitecturas RAG con Plugins Inseguros
• Hacking Gitlab Duo: Remote Prompt Injection, Malicious Prompt Smuggling, Client-Side Attacks & Private Code Stealing
• Bugs en la Implementación OAuth de ChatGPT
• Cómo robar cuentas de ChatGPT con "Wildcard Web Cache Deception"
• I, Robot: El problema de Shadow AI y las Botnets de Robots con IA
• Adivina, adivinanza: ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA?
• Estego & Cripto sólo al alcance de Deep Reasoning AI
• Air Gapping Comms para Robots "Malignos"
• EchoLeak: Un Cross Prompt Injection Attack (XPIA) para Microsoft Office 365 Copilot
• Google Gemini para Gmail: Cross-Domain Prompt Injection Attack (XPIA) para hacer Phishing
• Hacking IA: Indirect Prompt Injection en Perplexity Comet
• PROMISQROUTE para GPT-5: Un ataque de downgrade forzando el Routing para hacer Jailbreak
• Generar números aleatorios con un LLM es una muy mala idea de seguridad
• Deterministic or probabilistic? The psychology of LLMs as random number generators
• MITRE ATLAS: El framework para auditar la seguridad de un sistema de Inteligencia Artificial
• Más de 100.000 conversaciones de ChatGPT y Perplexity indexadas en Bing

Prompt Injection & Jaiblreak Posts

• ChatGPT, ¿me das ideas para cómo matar al presidente de los EEUU?
• Perplexity: Un buscador que cura los resultados con GenAI ( y te ayuda "en tus juegos de Rol donde eres el malo" )
• (Making) Hacking AI (easy for “bad guys”): Cómo pedir a ChatGPT ayuda para matar "jugando" a Sir Brian May
• "El Hacker del Gorro" y otros retos de la Identidad en la era de los LLM para evitar el Prompt Injection
• A quién debe fichar el Real Madrid para ganar la Champions
• Cómo lograr que Llama-2, Bard AI, ChatGPT y Claude te enseñen a acabar con la humanidad usando Prompt Injection Universales (Jailbreak)
• Cómo hackear un LLM haciendo Prompt Injection Automático con LLMs
• Jailbreaking LLMs con Fuzzing, LLMs o interrogación coercitiva: Aproximaciones para que un LLM ayude a los malos
• Crescendo & Skeleton Key: Más técnicas de Jailbreak para modelos LLM
• Indirect Prompt Injection & Dialog Poissoning en ataques a LLMs Multi-Modales
• Prompt Injection Bad Likert Judge: "Dame ejemplos de cosas malas, amiga m(IA)"
• Cómo saltarse los AI Guardrails con Invisible Characters & Adversarial Prompts para hacer Prompt Injection & Jailbreak Smuggling
• Knowledge Return Oriented Prompting (KROP): Prompt Injection & Jailbreak con imágenes prohibidas en ChatGPT (y otros MM-LLMs)
• Taxonomía de Fallos de Seguridad en Agentic AI: Memory Poisoning Attack con Cross-Domain Prompt Injection Attack (XPIA)
• Jailbreaking DeepSeek para comparar el System Prompt con OpenAI ChatGPT
• Preguntándole a DeepSeek & ChatGPT sobre la comparativa de System Prompts

Prompt Injection & Jailbreak Papers

• “Do Anything Now”: Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
• Universal and Transferable Adversarial Attacks on Aligned Language Models
• Knowledge Return Oriented Prompting (KROP)
• Abusing Images and Sound for Indirect Instruction Injection in Multi-Modal LLMs
• Jailbreaking ChatGPT via Prompt Engineering: An Empirical Study
• GPTFuzzer: Read Teaming LLMs with Auto-Generated Jailbreak Prompts
• MasterKey - Automated Jailbreak of LLM ChatBots
• A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool LLMs easily
• Open Sesame! Universal Black Box Jailbreaking of LLMs
• Tree of Attacks: Jailbreaking Black-Box LLMs Automatically
• Make Them Spill the Beans! Coercive Knowledge Extraction from (Production) LLMS
• Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack
• Skeleton Key, a new type of generative AI jailbreak technique
• How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs 
• Token Smuggling
• Bad Likert Judge: A Novel Multi-Turn Technique to Jailbreak LLMs by Misusing Their Evaluation Capability
• Bypassing Prompt Injection and Jailbreak Detection in LLM Guardrails
• Taxonomy ofFailure Mode inAgentic AI Systems
• OWASP Top 10 for LLM Applications 2025

Seguridad frente a Prompt Injection & Jailbreak Posts

• Prompt Guard: Modelo de seguridad para evitar ataques de Prompt Injection & Jailbreak en LLMs
• Llama Guard 3: Un LLM de Seguridad para proteger LLMs
• Llama 4 Security: CyberSecEval, Prompt Guard, Code Shield & Llama Guard
• Prompt Injection Protections: Jatmo, StruQ, SecAlign & Instructional Segment Embedding
• Google DeepMind CaMeL: Defeating Prompt Injections by Design in Agentic AI
• LlamaFirewall con PromptGuard 2, LlamaGuard 4, AlignmentCheck, CodeShield + AutoPatchBench & CyberSecEval 4
• IA Constitucional: Anthropic y su propuesta para crear LLMs que no sean "dañinos" (harmless)

Seguridad frente a Prompt Injection & Jailbreak Papers

• Introducing v0.5 of the AI Safety Benchmarkfrom MLCommons
• Meta Prompt Guard
• Llama 3 Guard
• CYBERSECEVAL 3: Advancing the Evaluation of Cybersecurity Risks and Capabilities in Large Language Models
• Jatmo -Prompt Injection Defense by Task-Specific Finetuning
• StruQ - Defending Against Prompt Injection with Structured Queries 
• SecAlign: Defending Against Prompt Injection with Preference Optimization 
• Instructional Segment Embedding Improving LLM Safety with Instruction Hierarchy
• The Instruction Hierarchy:Training LLMs to Prioritize Privileged Instructions
• AgentDojo: A Dynamic Environment to EvaluateAttacks and Defenses for LLM Agents
• Google DeepMind CaMeL: Defeating Prompt Injections by Design
• LlamaFirewall: An open source guardrail system for building secure AI agents

Hallucinations Posts

• Si eres developer y buscas soluciones en ChatGPT a los problemas de programación te la juegas a cara o cruz.
• ¿Es Chema Alonso realmente George Clooney?
• George Clooney me desbloquea el FaceID del iPhone... ¡Seguro! (O eso dicen los Cognitive Services)
• Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial
• Sobre la Fiabilidad del Reconocimiento Facial en Imágenes de Cámaras de Seguridad
• Sobre descubrir dobles de líderes mundiales con Facial Recognition Technology
• Las mentiras infinitas que ChatGPT se inventa sobre "Chema Alonso"
• Google Bard, tenemos que hablar de mis dos años en la cárcel
• ¿Alucinaciones de IA por no reconocer la ficción?
• Generación de Código, Razonamiento y Respuestas No Deterministas usando GenAI
• URL Hallucination: Las "Hallucinations" de los buscadores de GenAI que te pueden llevar a sitios de Phishing
• Cat Attack: O cómo atacar el razonamiento de un modelo de Deep Reasoning con preguntas y comentarios insulsos (sobre gatos)
• El Ratio Potemkin de Comprensión de Conceptos en los Large Language Models
• Hallucinations Papers
• Who Answers It Beter? An In-Depth Analysis of ChatGPT and Stack Overflow Answers to Sofware Engineering Question
• Potemkin Understanding in Large Language Models
• Packet Hallucination Posts
• Developers: Cuidado que ChatGPT o Gemini te pueden recomendar instalar malware con Package Hallucinations
• Exploiting Package Hallucination at Scale contra Vibe Coders con LLMs

Hallucinations Papers

• Diving Deeper into AI Package Hallucinations
• We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs
• Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models"

IA & Industria Militar

• Juegos de Guerra: Inteligencia Artificial y Armas Nucleares
• REAIM: Responsible Artificial Intelligence in the Military Domain
• Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy
• REAIM 2023 Call to Action

BIAS en IA posts

• Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial
• ChatGPT: "Los hackers malos, los tenistas hombres y no sé qué es ChatGPT"
• Por defecto puede ser eso: "Un Defecto". The Best Tennis Player & The Black Falcon
• Cómo la Inteligencia Artificial dibuja con estereotipos y sesgos en Craiyon
• BIAS en traductores con IA
• Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/Español
• ¿Es Google machista?
• ChatGPT y el "Sesgo de Género" en las traducciones
• Los hackers son hombres, según la IA del traductor de Google y de Microsoft
• La gestión del sesgo de género en los traductores de Microsoft y Google: Los responsables nacionales y los Cloud Solutions Architect (CSA) son hombres
• Microsoft, Google, los servicios de traducción y el sesgo de género
• El sesgo de género subliminal en los traductores de Google y Microsoft y una petición en Change.org
• Un pequeño test del sesgo de genero por defecto en el traductor de Google ( y Bing)
• Cómo saber el sesgo de género por defecto aprendido por Google o Bing para cada profesión con estos pasos
• Las traducciones de Google incumplen la guía de estilo de lenguaje inclusivo de ... Google
• Google Gemini puede arreglar el sesgo de género en Google Translate
• Los investigadores de Apple también intentan acabar con el sesgo de género en los traductores que usan Inteligencia Artificial (Ejemplo: Google o Bing)
• Apple Translate elimina el Sesgo de Género Subliminal en su traductor: Google y Bing aún NO

BIAS en IA papers

• Generating Gender Alternatives in Machine Translation

Data Poisoning Posts

• Copilot y su código inseguro o cómo la IA aprende a programar (también) metiendo "Bugs"
• ChatGPT hace código con SQL Injection, CoPilot mete Security Bugs y los programadores que usan Asistentes AI hacen más "Buggy Code"
• Do users write more insecure code with AI assistants?
• Codebreaker, TrojanPuzzle, Covert & Simple: Cómo envenenar LLMs para inyectar Bugs & Backdoors en los programas que haces con los Copilots de Developers

Data Poisoning Papers

• Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions
• Do Users Write More Insecure Code with AI Assistants?
• TROJANPUZZLE: Covertly Poisoning Code-Suggestion Models
• An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection

Diclosure of Sensitive Data Posts

• Análisis de Filtración de Información Personal en Large Language Models
• Developer: GitHub Copilot & Amazon CodeWhisperer pueden filtrar tus API Keys & Secrets 
• Ataque de Side-Channel a conversaciones con ChatGPT, CoPilot y otros LLMs
• Codename: "Leak GuardIAn" para evitar filtraciones a ChatGPT

Diclosure of Sensitive Data Papers

• Training Data Leakage Analysis in Language Models
• Analyzing Leakage of Personally Identifiable Information in Language Models
• Neural Code Completion Can Memorize Hard-Coded Secrets
• What Was Your Prompt? A Remote Keylogging Attack on AI Assistants

Hacking con IA Posts

• Generative Adversarial Networks: Inteligencia Artificial & Ciberseguridad
• Cómo hacerte una calculadora conectada a ChatGPT y aprobar todos los exámenes
• Weaponizar ChatGPT para robar contraseñas WiFi y crear malware
• Cómo buscar vulnerabilidades en SmartContracts, SQL Injection, XSS o bugs Python con ChatGPT
• ChatGPT: Cómo hacer (y mejorar) mi Trabajo de Fin de Carrera de la Universidad en un par de minutos.
• Cómo utilizar GenAI para la detección de bugs en ficheros Web.config usando Ollama
• Test de uso de GenAI para la detección de bugs de "Connection String Parameter Pollution" (CSPP) usando Ollama
• Usar Deep Reasoning en GitHub para buscar ( y parchear ) Bugs en proyectos Open Source
• Deep-Tempest: DeepLearning para reconstruir texto de imágenes captadas con técnicas TEMPEST en señales HDMI
• WebScraping & WebScalping con GenAI: Formularios y Datos
• Tu WebSite con Smart Honeypots contra el WebScraping usando AI Labyrinth de Cloudflare
• Cómo WebScrapear al WebScraper que ya WebScrapeó sin que tengas que hacer WebScraping
• 0dAi: Un Modelo AI LLM para hacer hacking & pentesting en el Red Team
• Cómo usar LLMs en Ciberataques: Cibercrimen, Ciberespionaje, Ciberguerra o Red Team
• El uso de LLMs como Copilot en la Seguridad Ofensiva (y el Cibercrimen) para hacer malware
• Disrupting malicious uses of AI: Operaciones de Misinformation, Malware, Cibercrimen & Estafas usando ChatGPT
• GenAI para DeepNudes, DeepFakes & Foto Expansión de Imágenes de "fantasía"
• WhatsApp: El leak de las miniaturas en las fotos de un sólo uso y su reconstrucción con GenAI
• WhatsApp parchea el "leak" de privacidad con las miniaturas (Thumbnails) en las fotos de "Ver 1 sola vez"
• LLM as Hackers: Autonomus Linux Privilege Escalation Attacks con Agentes AI
• ¿Se puede reemplazar a un Pentester con un Agente de IA basado en LLMs? Cómo realizar ataques completos a redes complejas con agentes de Inteligencia Artificial
• Agentic AI para hacking compitiendo en los CTF (Capture The Flag): Hackers vs. Agentes de IA
• AlphaDev: La IA que optimiza la implementación de los algoritmos mejor que los humanos
• AlphaEvolve: Un Agente AI para optimizar algoritmos
• VideoIndexer con Facial Recognition: Análisis de vídeos con Inteligencia Artificial
• Investigando fotografías y personas con Multi-Modal Large Language Models
• WhiteRabbitNeo un LLM (y un "ChatGPT") para el Red Team
• Hacer un "infector" del Master Boot Record (MBR) de un PC usando Windows con ChatGPT & DeepSeek
• Vibe Hacking con Cybersecurity AI (CAI): Agentes AI autónomos para ciberseguridad ofensiva y defensiva
• Insane Vibe Coding with Harsh Prompting
• LightShed versus NightShade & Glaze: La guerra del copyright que envenena imágenes contra la GenAI
• Codificando y Ofuscando Código Morse con Perplexity Pro o3-mini, DeepSeek R1 y DeepResearch (and struggling)
• Conversación y venta persuasiva a Humanos usando IA.
• Un robot (LLM) que crea el cerebro de un robot (Drone) con Vibe Coding (o Spec Coding)
• Chatbots de Inteligencia Artificial Maliciosos hechos con LLMs para sacarte información personal

Hacking con IA Papers

• Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN
• PassGAN: A Deep Learning Approach for Password Guessing
• SSGAN: Secure Steganography Based on Generative Adversarial Networks
• Deep-TEMPEST: Using Deep Learning to Eavesdrop on HDMI from its Unintended Electromagnetic Emanations
• LLM Agents can autonomouslly hack websites
• LLM Agents can Autonomously Exploit One-day Vulnerabilities
• LLMs as Hackers: Autonomous Linux Privilege Escalation Attacks
• On the Feasibility of Using LLMs toExecute Multistage Network Attacks
• Defeating Image Obfuscation with Deep Learning
• Faster sorting algorithms discovered using Deep Reinforcement Learning
• AlphaEvolve: A coding agent for scientific and algorithmic discovery
• Disrupting malicious uses of AI: June 2025 
• CAI: An Open, Bug Bounty-Ready Cybersecurity AI
• Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models
• Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models
• LighShed: Defeating Perturbation-based Image Copyright Protections
• Robot builds a robot’s brain: AI generated drone command and control station hosted in the sky
• Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information

ByPassing Cognitive Captchas with AI

• ReCaptchav2 de Google con Cognitive Services
• Captcha Cognitivo de Twitter (X) con GPT4-Vision & Gemini
• Captcha Cognitivo de Twitter (X) con Anthropic Claude 3.0 Opus
• Captcha Cognitivo de Twitter (X) con GPT-4o
• Captcha Cognitivo de Administración Pública con ChatGPT
• Captcha Cognitivo de la mano y la plancha en HBO max
• Captcha Story X: I am not a Robot, I am a GenAI Multimodal Agent
• Reto hacking con un Captcha Cognitivo para romper con GenAI
• Solución al Reto de Hacking de un Captcha Cognitivo Visual
• Anthropic Claude 3.5 Sonnet & Cognitive Captchas
• Captcha Cognitivo de HBO max de reconocer de sonidos con ML & GPT4-o
• LinkedIN + ChatGPT: El Captcha Cognitivo del Objeto Descolocado
• Captcha Cognitivo de Twitter / X de Sentar Personas Correctamente: Probando con ChatGPT & Gemini
• Inteligencia Artificial y el negocio de resolver "Capthas Cognitivos" para el Cibercrimen.

MisInformation & Fake News with IA

• La Inteligencia Artificial Generativa es una poderosa herramienta en la Guerra de la Desinformación Política y Social
• Cómo crear una Campaña de Polémica en Twitter ( X ) con ChatGPT y una botnet de cuentas controladas
• "CodeProject: NewsBender" Desinformación política con Generative-AI
• Cómo se creó CodeName: "News Bender Project" con GenAI
• Misinformation in the age of GenAI
• OpenAI lucha contra los "malos": Bad Grammar, DoppelGanger, Spamouflage, IUVM & Zero Zeno
• Detección de “Fake News” con FNDaaS "Fake News Detection as a Service" usando IA

MissInformation & Fake News Papers

• Combating Misinformation in the Age of LLMs: Opportunities and Challenges
• Disrupting malicious uses of AI: June 2025
• AI and Covert Influence Operations: Latest Trends
• FNDaaS: Content-agnostic Detection of Websites Distributing Fake News

DeepFakes Posts

• Una historia de Blade Runners & Virtual Replicants
• Poison in Love: Un deepfake de Mark "The Hulk" Rufalo para "ena-robar" 500.000 USD a una artista de manga
• El FBI alerta de que los criminales usan DeepFakes para conseguir trabajos Full-Remote y tener acceso a la empresa
• Cómo hacer un Face Swapping entre Axl Rose & Chema Alonso para Fake News
• Autoencoders, GANs y otros chicos (buenos y malos) del montón
• Usar GPT-3 y DeepFakes para crear a Joi, la "Her" de Blade Runner 2049
• StyleGAN: Una GAN para crear perfiles de personas que no existen
• Style GAN: Una AI para crear perfiles de personas que NO existen
• "Talking Heads" creadas con Few-Shots Adversarial Learning
• Las caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas
• VASA-1: Un modelo de de GenAI para "Visual Affective Skills" que potencia la expresividad de los Humanos Digitales (y de DeepFakes & FakeNews) 
• Vision Transformers: Transformers aplicados a imágenes
• Ya te puedes comprar online un Humano Digital en HD para hacer DeepFakes Perfectas en MetaHuman
• Cómo una imagen hecha con Morphing puede generar Match con dos personas en el Reconocimiento Facial del Control de Pasaportes
• DeepNudes
• DeepNude y el peligro de que acabes en sitios pornográficos sin ropa
• La industria de las DeepFakes y la Generative AI en la industria del porno
• DeepFakeApp: Una AI de Face-Swapping al servicio de fantasias sexuales
• Cloned Voices Audios
• Cómo usar la Inteligencia Artificial para el Análisis Forense y la Ciberinvestigación de Audios
• Are Yo Talkin' ta me? Detección de Deepfakes en Voces
• Voces clonadas con DeepFakes y el viral de WhatsApp con la DeepFake de Iker Jiménez en Horizonte
• Advanced Persistent ... Toys!
• Detectar Voces Clonadas en DeepFakes usando Machine Learning
• Cómo detectar audios que usan Voces Clonadas con ElevenLabs
• Cloned Voice Detector & HashVoice: Sellado de audios con esteganografía
• SC VALL-E y VET Token: GenAI para clonación de Voces & Tokens Web3 en Blockchain
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• DeepFake Detection
• DeepFakes: Detección mediante Redes Neuronales Convolucionales (CNN) & Gaze Tracking
• Blade Runners: Cómo crear un Test de Voight-Kampff para DeepFake
• Cómo crear un Test de Voight-Kampff para DeepFakes: Detección de Artefactos
• Cómo crear un Test de Voight-Kampff para DeepFakes: Iris Lights, Head Pose, Histrogramas
• Cómo crear un Test de Voight-Kampff para DeepFakes: Blinking, Pulse & Gaze Tracking
• Detectar DeepFakes por EyeGaze Printing
• Sentimetrics: Detector de Deepfakes basado en las emociones de la comunicación al estilo Blade Runner
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• Tu VerifAI
• Análisis de Vídeos Manipulados con Inteligencia Artificial con Tu VeriFAI
• Cómo detectar que un empleado de tu empresa está sufriendo una estafa con Deepfakes
• Detectar Deepfakes con VerifAI
• Tu VerifAI: Cómo hacer un análisis forense a un vídeo para saber si es un Fake de IA
• Deep Live Cam & VerifAI: Detección de DeepFakes en Vídeo Conferencias
• DeepFakes & Digital Onboarding: Verificación de identidad en plataformas digitales
• AutoVerifAI: Un servicio de análisis online para detectar GenAI en Vídeos, Textos o Imágenes

DeepFakes Papers

• Generative Adversarial Nets
• Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks
• Deepfakes Generation and Detection: State-of-the-art, open challenges, countermeasures, and way forward
• A Style-Based Generator Architecture for Generative Adversarial Networks
• Few-Shot Adversarial Learning of Realistic Neural Talking Head Models
• AI-synthesized faces are indistinguishable from realfaces and more trustworthy
• VASA-1: Lifelike Audio-Driven Talking Faces Generated in Real Time
• Detecting GAN-generated Imagery using Color Cues
• Exposing DeepFake Videos By Detecting Face Warping Artifacts
• Detecting DeepFake Videos: An analysis of three technique
• FaceForensics++: Learning to Detect Manipulated Facial Images
• "Fake or Real" A Dataset for Synthetic Speech Detection
• Transfer Learning from Speaker Verification to Multispeaker Text-to-Speech
• In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking
• Detecting Pulse from Head Motions in Video
• DeepFakesON-Phys: DeepFakes Detection based on Heart Rate Estimation
• Where Do Deep Fakes Look? Synthetic Face Detection via Gaze Tracking
• Exposing Deep Fakes using inconsistent Head Poses
• Exposing GAN-Gnerated Faces Using Inconsistent Corneal Specular Highlighs
• SC VALL-E: Style-Controllable Zero-Shot Text to Speech Synthesizer
• An Image is Worth 16+16 Words: Transformers for Image Recognition at Scale
• Proactive Detection of Voice Cloning with Localized Watermarking
• Replay Attacks Against Audio Deepfake Detection

No son todos los que he publicado sobre este tema, ni seguro que serán todos los que tendré publicados en el futuro, pero os dejo este post por si queréis tenerlo guardado para venir y ver los diferentes documentos sobre estos temas, que como podéis ver, son una buena cantidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)