Un poco de OSINT sobre un Fake Tweet hecho con el Paint

Estos días pasados alguien, con muy mala baba, ha hecho un Fake Tweet supuestamente mío con el Paint, que no es mío. Se ve burdamente que es un Fake, pero por desgracia mucha gente lo ha creído, y otros lo han querido creer, pero no es verdad. No quiero ni publicar el mensaje, porque me parece feo y ofensivo, pero basta con ver algunos detalles para saber que es un Fake Total. 

Figura 1: Un Fake Tweet hecho con el Paint y un poco de OSINT

El primer punto, my más evidente, es que no está en Twitter y ha aparecido inicialmente en una web de guardar imágenes. Se puede hacer un poco de Open Source INTelligence para rastrear los orígenes de ese fichero... más luego algo de doxing.

Figura 2: Open Source INTelligence (OSINT): Investigar personas e Identidades en Internet 2ª Edición de 0xWord, escrito por Vicente Aguilera y Carlos Seisdedos

El segundo punto es la foto de perfil del supuesto Tweet, que yo no la he usado en mi cuenta de Twitter nunca. La foto que se ve en este artículo es la que yo usaba en Twitter, que es la misma que usaba en Linkedin. Pero es que además la foto es de Mayo del 2016, cuando se hizo público que yo entraba en el Comité Ejecutivo de Telefónica.  En el mes de Abril, como podéis ver, aún no estaba yo en el organigrama y esa foto ni existía, como teneis en WebArchive.

Figura 3: Este es el Tweet FAKE en cuestión

Que en el mensaje salgan perritos y cosas más allá que los clásicos emoticonos hechos con ASCII ART como mi cara maligna con cuernecitos }:) que son lo que suelo usar yo es otro indicio de que es un Fake malo - y con maldad -.

Pero es que además, esa semana estuve en Ecuador, donde pasé el día 5 de Abril de 2016 dando una conferencia en Quito, así que estaba con muchas horas de diferencia en otro lugar del mundo. Se puede ver que el post de mi blog de ese día 3 de Abril se publicó en un horario lejano 3 A.M., y el del 4 de Abril estaba el programado para las 6:04 que es lo que hago yo cuando estoy con mucho lío.

Figura 3: El 4 de Abril de 2016 no hubo partido del Real Madrid

Además, ese día 4 de Abril de 2016 no hubo partido del Real Madrid con el Fútbol Club Barcelona, que fue, según he mirado en las bases de datos, el día 2 de Abril, sábado, mientras que el día 4 fue lunes... Y lo más importante, jamás insultaría así a nadie, y mira que han dicho cosas en mi vida en las redes, pero creo que cuando alguien insulta dice más de él que de la otra persona.

Me gusta el salseo del fútbol y me troleo con amigos, pero nada más...y el que ha hecho esto es una mala persona. Nada más que decir. Eso sí, lo mismo acabo sabiendo quién lo creo, que he visto la imagen origen y voy a jugar un poco más al doxing.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

+300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial

Hace un mes comencé a recuperar en un post mi interés en los últimos años, donde he publicado muchos artículos en este blog, y he dejado muchas referencias a otros artículos y papers académicos relativos al mundo de Hacking y la Ciberseguridad relacionado con la Inteligencia Artificial. Cada vez me cuesta más recopilarlos todos, o acordarme dónde lo publiqué, así que he ido  durante ese mes construyendo este post de hoy, en el que voy a seguir catalogando y recopilando todos ellos por diferentes categorías, pero que ya ha superado las 300 referencias. Todo esto, como parte de la carrera mundial por dominar la Súper Inteligencia Artificial.

Figura 1: +300 referencias a papers, posts y talks de

Hacking & Security con Inteligencia Artificial

Como os dije, no va a ser un artículo publicado y ya, sino que volveré a él cada vez que publique algo, y donde iré actualizando la información que vaya teniendo sobre el tema, así que, si te interesa el mundo de la Inteligencia Artificial, el Hacking con IA, o el Hacking de IA, apúntate este enlace que haré porque siempre tenga la información actualizada.

Figura 2: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Charlas y Libros

• [2025] Can Machines Think or Dream Without Hallucinations?
• [2025] Hackin’ AI: Creando una IA… ¿Qué puede salir mal?
• [2025] Por qué la IA no ha mejorado el rendimiento de tus Developers ... por ahora
• [2025] El Club de La IA: Entrevista de Jon Hernández a Chema Alonso
• [2024] Hacker & Developer in the Age of LLM Apps & Services [Updated]
• [2023] Hacker & Developer in the Age of GenAI LLM Apps & Services
• [2024] Misinformation in the age of GenAI
• [2024] Cibercriminales con IA
• [2023] Hackr0n X: Blade Runners on Generative AI por Chema Alonso
• [2023] Ciberseguridad y Hacking en un mundo de Inteligencia Artificial, Robots y Humanos
• [2023] Humanos Sintéticos con Inteligencia Artificial
• [2023] Chucky Alonso en Horizonte
• [2023] Advanced Persistent Toys: Chucky as a Service
• [2023] Detectar voces clonadas con Machine Learning
• [2023] Perspectiva de las técnicas de IA en ciberseguridad y su impacto en los deepfakes
• [2022] Blade Runners & Virtual Replicants with Deepfakes
• [Libro] Machine Learning aplicado a Ciberseguridad: Técnicas y ejemplos en la detección de amenazas
• [Libro] Hacking & Pentesting con Inteligencia Artificial

IA Papers & Posts

• Generative Adversarial Nets
• Difusion Models: Deep Unsupervised Learning using Nonequilibrium Thermodynamics
• Attention is all you need
• “Attention is all you need”: La investigación que revolucionó la Inteligencia Artificial con los Transformers
• VisionTransformers - An image is worth 16x16 words: transformers for image recognition at scale
• Vision Transformers: Transformers aplicados a imágenes
• Your Brain on ChatGPT: Accumulationof Cognitive Debt when Using an AIAssistant for Essay Writing Task
• Los LLMs del Futuro: Mercury Coder, un Diffusion LLM (dLLM)
• Cómo funciona Stable Diffusion - y Dalle-2 o Midjourney -: Open Source Generative-IA que crea imágenes artísticas
• ChatGPT como profesor de apoyo para el aprendizaje
• La carrera mundial por dominar la Súper Inteligencia Artificial
• AlphaGo Moment for Model Architecture Discovery
• Hierarchical Reasoning Model

Hacking LLM Apps & Services Posts

• Los 10 problemas de seguridad más importantes de ChatGPT, Bard, Llama y apps que usan LLMs: OWASP Top 10 para LLM Apps versión 1.0.1
• OWASP TOP 10 for Large Language Model Applications v_0.1
• GenAI Apps & Services: Cómo explotar arquitecturas RAG con Plugins Inseguros
• Hacking Gitlab Duo: Remote Prompt Injection, Malicious Prompt Smuggling, Client-Side Attacks & Private Code Stealing
• Bugs en la Implementación OAuth de ChatGPT
• Cómo robar cuentas de ChatGPT con "Wildcard Web Cache Deception"
• I, Robot: El problema de Shadow AI y las Botnets de Robots con IA
• Adivina, adivinanza: ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA?
• Estego & Cripto sólo al alcance de Deep Reasoning AI
• Air Gapping Comms para Robots "Malignos"
• EchoLeak: Un Cross Prompt Injection Attack (XPIA) para Microsoft Office 365 Copilot
• Google Gemini para Gmail: Cross-Domain Prompt Injection Attack (XPIA) para hacer Phishing
• Hacking IA: Indirect Prompt Injection en Perplexity Comet
• PROMISQROUTE para GPT-5: Un ataque de downgrade forzando el Routing para hacer Jailbreak
• Generar números aleatorios con un LLM es una muy mala idea de seguridad
• Deterministic or probabilistic? The psychology of LLMs as random number generators
• MITRE ATLAS: El framework para auditar la seguridad de un sistema de Inteligencia Artificial
• Más de 100.000 conversaciones de ChatGPT y Perplexity indexadas en Bing

Prompt Injection & Jaiblreak Posts

• ChatGPT, ¿me das ideas para cómo matar al presidente de los EEUU?
• Perplexity: Un buscador que cura los resultados con GenAI ( y te ayuda "en tus juegos de Rol donde eres el malo" )
• (Making) Hacking AI (easy for “bad guys”): Cómo pedir a ChatGPT ayuda para matar "jugando" a Sir Brian May
• "El Hacker del Gorro" y otros retos de la Identidad en la era de los LLM para evitar el Prompt Injection
• A quién debe fichar el Real Madrid para ganar la Champions
• Cómo lograr que Llama-2, Bard AI, ChatGPT y Claude te enseñen a acabar con la humanidad usando Prompt Injection Universales (Jailbreak)
• Cómo hackear un LLM haciendo Prompt Injection Automático con LLMs
• Jailbreaking LLMs con Fuzzing, LLMs o interrogación coercitiva: Aproximaciones para que un LLM ayude a los malos
• Crescendo & Skeleton Key: Más técnicas de Jailbreak para modelos LLM
• Indirect Prompt Injection & Dialog Poissoning en ataques a LLMs Multi-Modales
• Prompt Injection Bad Likert Judge: "Dame ejemplos de cosas malas, amiga m(IA)"
• Cómo saltarse los AI Guardrails con Invisible Characters & Adversarial Prompts para hacer Prompt Injection & Jailbreak Smuggling
• Knowledge Return Oriented Prompting (KROP): Prompt Injection & Jailbreak con imágenes prohibidas en ChatGPT (y otros MM-LLMs)
• Taxonomía de Fallos de Seguridad en Agentic AI: Memory Poisoning Attack con Cross-Domain Prompt Injection Attack (XPIA)
• Jailbreaking DeepSeek para comparar el System Prompt con OpenAI ChatGPT
• Preguntándole a DeepSeek & ChatGPT sobre la comparativa de System Prompts

Prompt Injection & Jailbreak Papers

• “Do Anything Now”: Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
• Universal and Transferable Adversarial Attacks on Aligned Language Models
• Knowledge Return Oriented Prompting (KROP)
• Abusing Images and Sound for Indirect Instruction Injection in Multi-Modal LLMs
• Jailbreaking ChatGPT via Prompt Engineering: An Empirical Study
• GPTFuzzer: Read Teaming LLMs with Auto-Generated Jailbreak Prompts
• MasterKey - Automated Jailbreak of LLM ChatBots
• A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool LLMs easily
• Open Sesame! Universal Black Box Jailbreaking of LLMs
• Tree of Attacks: Jailbreaking Black-Box LLMs Automatically
• Make Them Spill the Beans! Coercive Knowledge Extraction from (Production) LLMS
• Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack
• Skeleton Key, a new type of generative AI jailbreak technique
• How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs 
• Token Smuggling
• Bad Likert Judge: A Novel Multi-Turn Technique to Jailbreak LLMs by Misusing Their Evaluation Capability
• Bypassing Prompt Injection and Jailbreak Detection in LLM Guardrails
• Taxonomy ofFailure Mode inAgentic AI Systems
• OWASP Top 10 for LLM Applications 2025

Seguridad frente a Prompt Injection & Jailbreak Posts

• Prompt Guard: Modelo de seguridad para evitar ataques de Prompt Injection & Jailbreak en LLMs
• Llama Guard 3: Un LLM de Seguridad para proteger LLMs
• Llama 4 Security: CyberSecEval, Prompt Guard, Code Shield & Llama Guard
• Prompt Injection Protections: Jatmo, StruQ, SecAlign & Instructional Segment Embedding
• Google DeepMind CaMeL: Defeating Prompt Injections by Design in Agentic AI
• LlamaFirewall con PromptGuard 2, LlamaGuard 4, AlignmentCheck, CodeShield + AutoPatchBench & CyberSecEval 4
• IA Constitucional: Anthropic y su propuesta para crear LLMs que no sean "dañinos" (harmless)

Seguridad frente a Prompt Injection & Jailbreak Papers

• Introducing v0.5 of the AI Safety Benchmarkfrom MLCommons
• Meta Prompt Guard
• Llama 3 Guard
• CYBERSECEVAL 3: Advancing the Evaluation of Cybersecurity Risks and Capabilities in Large Language Models
• Jatmo -Prompt Injection Defense by Task-Specific Finetuning
• StruQ - Defending Against Prompt Injection with Structured Queries 
• SecAlign: Defending Against Prompt Injection with Preference Optimization 
• Instructional Segment Embedding Improving LLM Safety with Instruction Hierarchy
• The Instruction Hierarchy:Training LLMs to Prioritize Privileged Instructions
• AgentDojo: A Dynamic Environment to EvaluateAttacks and Defenses for LLM Agents
• Google DeepMind CaMeL: Defeating Prompt Injections by Design
• LlamaFirewall: An open source guardrail system for building secure AI agents

Hallucinations Posts

• Si eres developer y buscas soluciones en ChatGPT a los problemas de programación te la juegas a cara o cruz.
• ¿Es Chema Alonso realmente George Clooney?
• George Clooney me desbloquea el FaceID del iPhone... ¡Seguro! (O eso dicen los Cognitive Services)
• Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial
• Sobre la Fiabilidad del Reconocimiento Facial en Imágenes de Cámaras de Seguridad
• Sobre descubrir dobles de líderes mundiales con Facial Recognition Technology
• Las mentiras infinitas que ChatGPT se inventa sobre "Chema Alonso"
• Google Bard, tenemos que hablar de mis dos años en la cárcel
• ¿Alucinaciones de IA por no reconocer la ficción?
• Generación de Código, Razonamiento y Respuestas No Deterministas usando GenAI
• URL Hallucination: Las "Hallucinations" de los buscadores de GenAI que te pueden llevar a sitios de Phishing
• Cat Attack: O cómo atacar el razonamiento de un modelo de Deep Reasoning con preguntas y comentarios insulsos (sobre gatos)
• El Ratio Potemkin de Comprensión de Conceptos en los Large Language Models
• Hallucinations Papers
• Who Answers It Beter? An In-Depth Analysis of ChatGPT and Stack Overflow Answers to Sofware Engineering Question
• Potemkin Understanding in Large Language Models
• Packet Hallucination Posts
• Developers: Cuidado que ChatGPT o Gemini te pueden recomendar instalar malware con Package Hallucinations
• Exploiting Package Hallucination at Scale contra Vibe Coders con LLMs

Hallucinations Papers

• Diving Deeper into AI Package Hallucinations
• We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs
• Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models"

IA & Industria Militar

• Juegos de Guerra: Inteligencia Artificial y Armas Nucleares
• REAIM: Responsible Artificial Intelligence in the Military Domain
• Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy
• REAIM 2023 Call to Action

BIAS en IA posts

• Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial
• ChatGPT: "Los hackers malos, los tenistas hombres y no sé qué es ChatGPT"
• Por defecto puede ser eso: "Un Defecto". The Best Tennis Player & The Black Falcon
• Cómo la Inteligencia Artificial dibuja con estereotipos y sesgos en Craiyon
• BIAS en traductores con IA
• Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/Español
• ¿Es Google machista?
• ChatGPT y el "Sesgo de Género" en las traducciones
• Los hackers son hombres, según la IA del traductor de Google y de Microsoft
• La gestión del sesgo de género en los traductores de Microsoft y Google: Los responsables nacionales y los Cloud Solutions Architect (CSA) son hombres
• Microsoft, Google, los servicios de traducción y el sesgo de género
• El sesgo de género subliminal en los traductores de Google y Microsoft y una petición en Change.org
• Un pequeño test del sesgo de genero por defecto en el traductor de Google ( y Bing)
• Cómo saber el sesgo de género por defecto aprendido por Google o Bing para cada profesión con estos pasos
• Las traducciones de Google incumplen la guía de estilo de lenguaje inclusivo de ... Google
• Google Gemini puede arreglar el sesgo de género en Google Translate
• Los investigadores de Apple también intentan acabar con el sesgo de género en los traductores que usan Inteligencia Artificial (Ejemplo: Google o Bing)
• Apple Translate elimina el Sesgo de Género Subliminal en su traductor: Google y Bing aún NO

BIAS en IA papers

• Generating Gender Alternatives in Machine Translation

Data Poisoning Posts

• Copilot y su código inseguro o cómo la IA aprende a programar (también) metiendo "Bugs"
• ChatGPT hace código con SQL Injection, CoPilot mete Security Bugs y los programadores que usan Asistentes AI hacen más "Buggy Code"
• Do users write more insecure code with AI assistants?
• Codebreaker, TrojanPuzzle, Covert & Simple: Cómo envenenar LLMs para inyectar Bugs & Backdoors en los programas que haces con los Copilots de Developers

Data Poisoning Papers

• Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions
• Do Users Write More Insecure Code with AI Assistants?
• TROJANPUZZLE: Covertly Poisoning Code-Suggestion Models
• An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection

Diclosure of Sensitive Data Posts

• Análisis de Filtración de Información Personal en Large Language Models
• Developer: GitHub Copilot & Amazon CodeWhisperer pueden filtrar tus API Keys & Secrets 
• Ataque de Side-Channel a conversaciones con ChatGPT, CoPilot y otros LLMs
• Codename: "Leak GuardIAn" para evitar filtraciones a ChatGPT

Diclosure of Sensitive Data Papers

• Training Data Leakage Analysis in Language Models
• Analyzing Leakage of Personally Identifiable Information in Language Models
• Neural Code Completion Can Memorize Hard-Coded Secrets
• What Was Your Prompt? A Remote Keylogging Attack on AI Assistants

Hacking con IA Posts

• Generative Adversarial Networks: Inteligencia Artificial & Ciberseguridad
• Cómo hacerte una calculadora conectada a ChatGPT y aprobar todos los exámenes
• Weaponizar ChatGPT para robar contraseñas WiFi y crear malware
• Cómo buscar vulnerabilidades en SmartContracts, SQL Injection, XSS o bugs Python con ChatGPT
• ChatGPT: Cómo hacer (y mejorar) mi Trabajo de Fin de Carrera de la Universidad en un par de minutos.
• Cómo utilizar GenAI para la detección de bugs en ficheros Web.config usando Ollama
• Test de uso de GenAI para la detección de bugs de "Connection String Parameter Pollution" (CSPP) usando Ollama
• Usar Deep Reasoning en GitHub para buscar ( y parchear ) Bugs en proyectos Open Source
• Deep-Tempest: DeepLearning para reconstruir texto de imágenes captadas con técnicas TEMPEST en señales HDMI
• WebScraping & WebScalping con GenAI: Formularios y Datos
• Tu WebSite con Smart Honeypots contra el WebScraping usando AI Labyrinth de Cloudflare
• Cómo WebScrapear al WebScraper que ya WebScrapeó sin que tengas que hacer WebScraping
• 0dAi: Un Modelo AI LLM para hacer hacking & pentesting en el Red Team
• Cómo usar LLMs en Ciberataques: Cibercrimen, Ciberespionaje, Ciberguerra o Red Team
• El uso de LLMs como Copilot en la Seguridad Ofensiva (y el Cibercrimen) para hacer malware
• Disrupting malicious uses of AI: Operaciones de Misinformation, Malware, Cibercrimen & Estafas usando ChatGPT
• GenAI para DeepNudes, DeepFakes & Foto Expansión de Imágenes de "fantasía"
• WhatsApp: El leak de las miniaturas en las fotos de un sólo uso y su reconstrucción con GenAI
• WhatsApp parchea el "leak" de privacidad con las miniaturas (Thumbnails) en las fotos de "Ver 1 sola vez"
• LLM as Hackers: Autonomus Linux Privilege Escalation Attacks con Agentes AI
• ¿Se puede reemplazar a un Pentester con un Agente de IA basado en LLMs? Cómo realizar ataques completos a redes complejas con agentes de Inteligencia Artificial
• Agentic AI para hacking compitiendo en los CTF (Capture The Flag): Hackers vs. Agentes de IA
• AlphaDev: La IA que optimiza la implementación de los algoritmos mejor que los humanos
• AlphaEvolve: Un Agente AI para optimizar algoritmos
• VideoIndexer con Facial Recognition: Análisis de vídeos con Inteligencia Artificial
• Investigando fotografías y personas con Multi-Modal Large Language Models
• WhiteRabbitNeo un LLM (y un "ChatGPT") para el Red Team
• Hacer un "infector" del Master Boot Record (MBR) de un PC usando Windows con ChatGPT & DeepSeek
• Vibe Hacking con Cybersecurity AI (CAI): Agentes AI autónomos para ciberseguridad ofensiva y defensiva
• Insane Vibe Coding with Harsh Prompting
• LightShed versus NightShade & Glaze: La guerra del copyright que envenena imágenes contra la GenAI
• Codificando y Ofuscando Código Morse con Perplexity Pro o3-mini, DeepSeek R1 y DeepResearch (and struggling)
• Conversación y venta persuasiva a Humanos usando IA.
• Un robot (LLM) que crea el cerebro de un robot (Drone) con Vibe Coding (o Spec Coding)
• Chatbots de Inteligencia Artificial Maliciosos hechos con LLMs para sacarte información personal

Hacking con IA Papers

• Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN
• PassGAN: A Deep Learning Approach for Password Guessing
• SSGAN: Secure Steganography Based on Generative Adversarial Networks
• Deep-TEMPEST: Using Deep Learning to Eavesdrop on HDMI from its Unintended Electromagnetic Emanations
• LLM Agents can autonomouslly hack websites
• LLM Agents can Autonomously Exploit One-day Vulnerabilities
• LLMs as Hackers: Autonomous Linux Privilege Escalation Attacks
• On the Feasibility of Using LLMs toExecute Multistage Network Attacks
• Defeating Image Obfuscation with Deep Learning
• Faster sorting algorithms discovered using Deep Reinforcement Learning
• AlphaEvolve: A coding agent for scientific and algorithmic discovery
• Disrupting malicious uses of AI: June 2025 
• CAI: An Open, Bug Bounty-Ready Cybersecurity AI
• Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models
• Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models
• LighShed: Defeating Perturbation-based Image Copyright Protections
• Robot builds a robot’s brain: AI generated drone command and control station hosted in the sky
• Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information

ByPassing Cognitive Captchas with AI

• ReCaptchav2 de Google con Cognitive Services
• Captcha Cognitivo de Twitter (X) con GPT4-Vision & Gemini
• Captcha Cognitivo de Twitter (X) con Anthropic Claude 3.0 Opus
• Captcha Cognitivo de Twitter (X) con GPT-4o
• Captcha Cognitivo de Administración Pública con ChatGPT
• Captcha Cognitivo de la mano y la plancha en HBO max
• Captcha Story X: I am not a Robot, I am a GenAI Multimodal Agent
• Reto hacking con un Captcha Cognitivo para romper con GenAI
• Solución al Reto de Hacking de un Captcha Cognitivo Visual
• Anthropic Claude 3.5 Sonnet & Cognitive Captchas
• Captcha Cognitivo de HBO max de reconocer de sonidos con ML & GPT4-o
• LinkedIN + ChatGPT: El Captcha Cognitivo del Objeto Descolocado
• Captcha Cognitivo de Twitter / X de Sentar Personas Correctamente: Probando con ChatGPT & Gemini
• Inteligencia Artificial y el negocio de resolver "Capthas Cognitivos" para el Cibercrimen.

MisInformation & Fake News with IA

• La Inteligencia Artificial Generativa es una poderosa herramienta en la Guerra de la Desinformación Política y Social
• Cómo crear una Campaña de Polémica en Twitter ( X ) con ChatGPT y una botnet de cuentas controladas
• "CodeProject: NewsBender" Desinformación política con Generative-AI
• Cómo se creó CodeName: "News Bender Project" con GenAI
• Misinformation in the age of GenAI
• OpenAI lucha contra los "malos": Bad Grammar, DoppelGanger, Spamouflage, IUVM & Zero Zeno
• Detección de “Fake News” con FNDaaS "Fake News Detection as a Service" usando IA

MissInformation & Fake News Papers

• Combating Misinformation in the Age of LLMs: Opportunities and Challenges
• Disrupting malicious uses of AI: June 2025
• AI and Covert Influence Operations: Latest Trends
• FNDaaS: Content-agnostic Detection of Websites Distributing Fake News

DeepFakes Posts

• Una historia de Blade Runners & Virtual Replicants
• Poison in Love: Un deepfake de Mark "The Hulk" Rufalo para "ena-robar" 500.000 USD a una artista de manga
• El FBI alerta de que los criminales usan DeepFakes para conseguir trabajos Full-Remote y tener acceso a la empresa
• Cómo hacer un Face Swapping entre Axl Rose & Chema Alonso para Fake News
• Autoencoders, GANs y otros chicos (buenos y malos) del montón
• Usar GPT-3 y DeepFakes para crear a Joi, la "Her" de Blade Runner 2049
• StyleGAN: Una GAN para crear perfiles de personas que no existen
• Style GAN: Una AI para crear perfiles de personas que NO existen
• "Talking Heads" creadas con Few-Shots Adversarial Learning
• Las caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas
• VASA-1: Un modelo de de GenAI para "Visual Affective Skills" que potencia la expresividad de los Humanos Digitales (y de DeepFakes & FakeNews) 
• Vision Transformers: Transformers aplicados a imágenes
• Ya te puedes comprar online un Humano Digital en HD para hacer DeepFakes Perfectas en MetaHuman
• Cómo una imagen hecha con Morphing puede generar Match con dos personas en el Reconocimiento Facial del Control de Pasaportes
• DeepNudes
• DeepNude y el peligro de que acabes en sitios pornográficos sin ropa
• La industria de las DeepFakes y la Generative AI en la industria del porno
• DeepFakeApp: Una AI de Face-Swapping al servicio de fantasias sexuales
• Cloned Voices Audios
• Cómo usar la Inteligencia Artificial para el Análisis Forense y la Ciberinvestigación de Audios
• Are Yo Talkin' ta me? Detección de Deepfakes en Voces
• Voces clonadas con DeepFakes y el viral de WhatsApp con la DeepFake de Iker Jiménez en Horizonte
• Advanced Persistent ... Toys!
• Detectar Voces Clonadas en DeepFakes usando Machine Learning
• Cómo detectar audios que usan Voces Clonadas con ElevenLabs
• Cloned Voice Detector & HashVoice: Sellado de audios con esteganografía
• SC VALL-E y VET Token: GenAI para clonación de Voces & Tokens Web3 en Blockchain
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• DeepFake Detection
• DeepFakes: Detección mediante Redes Neuronales Convolucionales (CNN) & Gaze Tracking
• Blade Runners: Cómo crear un Test de Voight-Kampff para DeepFake
• Cómo crear un Test de Voight-Kampff para DeepFakes: Detección de Artefactos
• Cómo crear un Test de Voight-Kampff para DeepFakes: Iris Lights, Head Pose, Histrogramas
• Cómo crear un Test de Voight-Kampff para DeepFakes: Blinking, Pulse & Gaze Tracking
• Detectar DeepFakes por EyeGaze Printing
• Sentimetrics: Detector de Deepfakes basado en las emociones de la comunicación al estilo Blade Runner
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• Tu VerifAI
• Análisis de Vídeos Manipulados con Inteligencia Artificial con Tu VeriFAI
• Cómo detectar que un empleado de tu empresa está sufriendo una estafa con Deepfakes
• Detectar Deepfakes con VerifAI
• Tu VerifAI: Cómo hacer un análisis forense a un vídeo para saber si es un Fake de IA
• Deep Live Cam & VerifAI: Detección de DeepFakes en Vídeo Conferencias
• DeepFakes & Digital Onboarding: Verificación de identidad en plataformas digitales
• AutoVerifAI: Un servicio de análisis online para detectar GenAI en Vídeos, Textos o Imágenes

DeepFakes Papers

• Generative Adversarial Nets
• Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks
• Deepfakes Generation and Detection: State-of-the-art, open challenges, countermeasures, and way forward
• A Style-Based Generator Architecture for Generative Adversarial Networks
• Few-Shot Adversarial Learning of Realistic Neural Talking Head Models
• AI-synthesized faces are indistinguishable from realfaces and more trustworthy
• VASA-1: Lifelike Audio-Driven Talking Faces Generated in Real Time
• Detecting GAN-generated Imagery using Color Cues
• Exposing DeepFake Videos By Detecting Face Warping Artifacts
• Detecting DeepFake Videos: An analysis of three technique
• FaceForensics++: Learning to Detect Manipulated Facial Images
• "Fake or Real" A Dataset for Synthetic Speech Detection
• Transfer Learning from Speaker Verification to Multispeaker Text-to-Speech
• In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking
• Detecting Pulse from Head Motions in Video
• DeepFakesON-Phys: DeepFakes Detection based on Heart Rate Estimation
• Where Do Deep Fakes Look? Synthetic Face Detection via Gaze Tracking
• Exposing Deep Fakes using inconsistent Head Poses
• Exposing GAN-Gnerated Faces Using Inconsistent Corneal Specular Highlighs
• SC VALL-E: Style-Controllable Zero-Shot Text to Speech Synthesizer
• An Image is Worth 16+16 Words: Transformers for Image Recognition at Scale
• Proactive Detection of Voice Cloning with Localized Watermarking
• Replay Attacks Against Audio Deepfake Detection

No son todos los que he publicado sobre este tema, ni seguro que serán todos los que tendré publicados en el futuro, pero os dejo este post por si queréis tenerlo guardado para venir y ver los diferentes documentos sobre estos temas, que como podéis ver, son una buena cantidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Inteligencia Artificial (Hacking & Security): Links, Posts, Talks & Papers

Durante los últimos años he publicado muchas artículos en este blog, y he dejado muchas referencias a otros artículos y papers académicos de los que he ido hablando en el blog. Cada vez me cuesta más recopilarlos todos, o acordarme dónde lo publiqué, así que he decidido hacerme este post en el que voy a ir catalogando y recopilando todos ellos por diferentes categorías.

Figura 1: Inteligencia Artificial (Hacking & Security):

Links, Posts, Talks & Papers

No va a ser un artículo publicado y ya, sino que volveré a él cada vez que publique algo, y donde iré actualizando la información que vaya teniendo sobre el tema, así que, si te interesa el tema, apúntate este enlace que tendrá siempre la información actualizada.

Charlas y Libros

• [2025] Hackin’ AI: Creando una IA… ¿Qué puede salir mal?
• [2025] Por qué la IA no ha mejorado el rendimiento de tus Developers ... por ahora
• [2025] El Club de La IA: Entrevista de Jon Hernández a Chema Alonso
• [2024] Hacker & Developer in the Age of LLM Apps & Services [Updated]
• [2023] Hacker & Developer in the Age of GenAI LLM Apps & Services
• [2024] Misinformation in the age of GenAI
• [2024] Cibercriminales con IA
• [2023] Hackr0n X: Blade Runners on Generative AI por Chema Alonso
• [2023] Ciberseguridad y Hacking en un mundo de Inteligencia Artificial, Robots y Humanos
• [2023] Humanos Sintéticos con Inteligencia Artificial
• [2023] Chucky Alonso en Horizonte
• [2023] Advanced Persistent Toys: Chucky as a Service
• [2023] Detectar voces clonadas con Machine Learning
• [2023] Perspectiva de las técnicas de IA en ciberseguridad y su impacto en los deepfakes
• [2022] Blade Runners & Virtula Replicants with Deepfakes
• [Libro] Machine Learning aplicado a Ciberseguridad: Técnicas y ejemplos en la detección de amenazas

IA Papers & Posts

• Generative Adversarial Nets
• Difusion Models: Deep Unsupervised Learning using Nonequilibrium Thermodynamics
• Attention is all you need
• “Attention is all you need”: La investigación que revolucionó la Inteligencia Artificial con los Transformers
• VisionTransformers - An image is worth 16x16 words: transformers for image recognition at scale
• Vision Transformers: Transformers aplicados a imágenes
• Your Brain on ChatGPT: Accumulationof Cognitive Debt when Using an AIAssistant for Essay Writing Task
• Los LLMs del Futuro: Mercury Coder, un Diffusion LLM (dLLM)
• Cómo funciona Stable Diffusion - y Dalle-2 o Midjourney -: Open Source Generative-IA que crea imágenes artísticas
• ChatGPT como profesor de apoyo para el aprendizaje

Hacking LLM Apps & Services Posts

• Los 10 problemas de seguridad más importantes de ChatGPT, Bard, Llama y apps que usan LLMs: OWASP Top 10 para LLM Apps versión 1.0.1
• OWASP TOP 10 for Large Language Model Applications v_0.1
• GenAI Apps & Services: Cómo explotar arquitecturas RAG con Plugins Inseguros
• Hacking Gitlab Duo: Remote Prompt Injection, Malicious Prompt Smuggling, Client-Side Attacks & Private Code Stealing
• Bugs en la Implementación OAuth de ChatGPT
• Cómo robar cuentas de ChatGPT con "Wildcard Web Cache Deception"
• I, Robot: El problema de Shadow AI y las Botnets de Robots con IA
• Adivina, adivinanza: ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA?
• Estego & Cripto sólo al alcance de Deep Reasoning AI
• Air Gapping Comms para Robots "Malignos"
• EchoLeak: Un Cross Prompt Injection Attack (XPIA) para Microsoft Office 365 Copilot

Prompt Injection & Jaiblreak Posts

• ChatGPT, ¿me das ideas para cómo matar al presidente de los EEUU?
• Perplexity: Un buscador que cura los resultados con GenAI ( y te ayuda "en tus juegos de Rol donde eres el malo" )
• (Making) Hacking AI (easy for “bad guys”): Cómo pedir a ChatGPT ayuda para matar "jugando" a Sir Brian May
• "El Hacker del Gorro" y otros retos de la Identidad en la era de los LLM para evitar el Prompt Injection
• A quién debe fichar el Real Madrid para ganar la Champions
• Cómo lograr que Llama-2, Bard AI, ChatGPT y Claude te enseñen a acabar con la humanidad usando Prompt Injection Universales (Jailbreak)
• Cómo hackear un LLM haciendo Prompt Injection Automático con LLMs
• Jailbreaking LLMs con Fuzzing, LLMs o interrogación coercitiva: Aproximaciones para que un LLM ayude a los malos
• Crescendo & Skeleton Key: Más técnicas de Jailbreak para modelos LLM
• Indirect Prompt Injection & Dialog Poissoning en ataques a LLMs Multi-Modales
• Prompt Injection Bad Likert Judge: "Dame ejemplos de cosas malas, amiga m(IA)"
• Cómo saltarse los AI Guardrails con Invisible Characters & Adversarial Prompts para hacer Prompt Injection & Jailbreak Smuggling
• Knowledge Return Oriented Prompting (KROP): Prompt Injection & Jailbreak con imágenes prohibidas en ChatGPT (y otros MM-LLMs)

Prompt Injection & Jailbreak Papers

• “Do Anything Now”: Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
• Universal and Transferable Adversarial Attacks on Aligned Language Models
• Knowledge Return Oriented Prompting (KROP)
• Abusing Images and Sound for Indirect Instruction Injection in Multi-Modal LLMs
• Jailbreaking ChatGPT via Prompt Engineering: An Empirical Study
• GPTFuzzer: Read Teaming LLMs with Auto-Generated Jailbreak Prompts
• MasterKey - Automated Jailbreak of LLM ChatBots
• A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool LLMs easily
• Open Sesame! Universal Black Box Jailbreaking of LLMs
• Tree of Attacks: Jailbreaking Black-Box LLMs Automatically
• Make Them Spill the Beans! Coercive Knowledge Extraction from (Production) LLMS
• Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack
• Skeleton Key, a new type of generative AI jailbreak technique
• How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs 
• Token Smuggling
• Bad Likert Judge: A Novel Multi-Turn Technique to Jailbreak LLMs by Misusing Their Evaluation Capability
• Bypassing Prompt Injection and Jailbreak Detection in LLM Guardrails
• Taxonomy ofFailure Mode inAgentic AI Systems
• OWASP Top 10 for LLM Applications 2025

Seguridad frente a Prompt Injection & Jailbreak Posts

• Prompt Guard: Modelo de seguridad para evitar ataques de Prompt Injection & Jailbreak en LLMs
• Llama Guard 3: Un LLM de Seguridad para proteger LLMs
• Llama 4 Security: CyberSecEval, Prompt Guard, Code Shield & Llama Guard
• Prompt Injection Protections: Jatmo, StruQ, SecAlign & Instructional Segment Embedding
• Google DeepMind CaMeL: Defeating Prompt Injections by Design in Agentic AI
• LlamaFirewall con PromptGuard 2, LlamaGuard 4, AlignmentCheck, CodeShield + AutoPatchBench & CyberSecEval 4
• IA Constitucional: Anthropic y su propuesta para crear LLMs que no sean "dañinos" (harmless)

Seguridad frente a Prompt Injection & Jailbreak Papers

• Introducing v0.5 of the AI Safety Benchmarkfrom MLCommons
• Meta Prompt Guard
• Llama 3 Guard
• CYBERSECEVAL 3: Advancing the Evaluation of Cybersecurity Risks and Capabilities in Large Language Models
• Jatmo -Prompt Injection Defense by Task-Specific Finetuning
• StruQ - Defending Against Prompt Injection with Structured Queries 
• SecAlign: Defending Against Prompt Injection with Preference Optimization 
• Instructional Segment Embedding Improving LLM Safety with Instruction Hierarchy
• The Instruction Hierarchy:Training LLMs to Prioritize Privileged Instructions
• AgentDojo: A Dynamic Environment to EvaluateAttacks and Defenses for LLM Agents
• Google DeepMind CaMeL: Defeating Prompt Injections by Design
• LlamaFirewall: An open source guardrail system for building secure AI agents

Hallucinations Posts

• Si eres developer y buscas soluciones en ChatGPT a los problemas de programación te la juegas a cara o cruz.
• ¿Es Chema Alonso realmente George Clooney?
• George Clooney me desbloquea el FaceID del iPhone... ¡Seguro! (O eso dicen los Cognitive Services)
• Las mentiras infinitas que ChatGPT se inventa sobre "Chema Alonso"
• Google Bard, tenemos que hablar de mis dos años en la cárcel
• ¿Alucinaciones de IA por no reconocer la ficción?
• Generación de Código, Razonamiento y Respuestas No Deterministas usando GenAI

Hallucinations Papers

• Who Answers It Beter? An In-Depth Analysis of ChatGPT and Stack Overflow Answers to Sofware Engineering Question

Packet Hallucination Posts

• Developers: Cuidado que ChatGPT o Gemini te pueden recomendar instalar malware con Package Hallucinations
• Exploiting Package Hallucination at Scale contra Vibe Coders con LLMs

Packet Hallucinations Papers

• Diving Deeper into AI Package Hallucinations
• We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs

IA & Industria Militar

• Juegos de Guerra: Inteligencia Artificial y Armas Nucleares
• REAIM: Responsible Artificial Intelligence in the Military Domain
• Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy
• REAIM 2023 Call to Action

BIAS en IA posts

• Detecciones policiales erróneas por "falsos positivos" en Reconocimiento Facial
• ChatGPT: "Los hackers malos, los tenistas hombres y no sé qué es ChatGPT"
• Por defecto puede ser eso: "Un Defecto". The Best Tennis Player & The Black Falcon
• Cómo la Inteligencia Artificial dibuja con estereotipos y sesgos en Craiyon
• BIAS en traductores con IA
• Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/Español
• ¿Es Google machista?
• ChatGPT y el "Sesgo de Género" en las traducciones
• Los hackers son hombres, según la IA del traductor de Google y de Microsoft
• La gestión del sesgo de género en los traductores de Microsoft y Google: Los responsables nacionales y los Cloud Solutions Architect (CSA) son hombres
• Microsoft, Google, los servicios de traducción y el sesgo de género
• El sesgo de género subliminal en los traductores de Google y Microsoft y una petición en Change.org
• Un pequeño test del sesgo de genero por defecto en el traductor de Google ( y Bing)
• Cómo saber el sesgo de género por defecto aprendido por Google o Bing para cada profesión con estos pasos
• Las traducciones de Google incumplen la guía de estilo de lenguaje inclusivo de ... Google
• Google Gemini puede arreglar el sesgo de género en Google Translate
• Los investigadores de Apple también intentan acabar con el sesgo de género en los traductores que usan Inteligencia Artificial (Ejemplo: Google o Bing)
• Apple Translate elimina el Sesgo de Género Subliminal en su traductor: Google y Bing aún NO

BIAS en AI papers

• Generating Gender Alternatives in Machine Translation

Data Poisoning Posts

• Copilot y su código inseguro o cómo la IA aprende a programar (también) metiendo "Bugs"
• ChatGPT hace código con SQL Injection, CoPilot mete Security Bugs y los programadores que usan Asistentes AI hacen más "Buggy Code"
• Do users write more insecure code with AI assistants?
• Codebreaker, TrojanPuzzle, Covert & Simple: Cómo envenenar LLMs para inyectar Bugs & Backdoors en los programas que haces con los Copilots de Developers

Data Poisoning Papers

• Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions
• Do Users Write More Insecure Code with AI Assistants?
• TROJANPUZZLE: Covertly Poisoning Code-Suggestion Models
• An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection

Diclosure of Sensitive Data Posts

• Análisis de Filtración de Información Personal en Large Language Models
• Developer: GitHub Copilot & Amazon CodeWhisperer pueden filtrar tus API Keys & Secrets 
• Ataque de Side-Channel a conversaciones con ChatGPT, CoPilot y otros LLMs
• Codename: "Leak GuardIAn" para evitar filtraciones a ChatGPT

Diclosure of Sensitive Data Papers

• Training Data Leakage Analysis in Language Models
• Analyzing Leakage of Personally Identifiable Information in Language Models
• Neural Code Completion Can Memorize Hard-Coded Secrets
• What Was Your Prompt? A Remote Keylogging Attack on AI Assistants

Hacking con IA Posts

• Generative Adversarial Networks: Inteligencia Artificial & Ciberseguridad
• Cómo hacerte una calculadora conectada a ChatGPT y aprobar todos los exámenes
• Weaponizar ChatGPT para robar contraseñas WiFi y crear malware
• Cómo buscar vulnerabilidades en SmartContracts, SQL Injection, XSS o bugs Python con ChatGPT
• ChatGPT: Cómo hacer (y mejorar) mi Trabajo de Fin de Carrera de la Universidad en un par de minutos.
• Usar Deep Reasoning en GitHub para buscar ( y parchear ) Bugs en proyectos Open Source
• Deep-Tempest: DeepLearning para reconstruir texto de imágenes captadas con técnicas TEMPEST en señales HDMI
• WebScrapping & WebScalping con GenAI: Formularios y Datos
• Tu WebSite con Smart Honeypots contra el WebScrapping usando AI Labyrinth de Cloudflare
• 0dAi: Un Modelo AI LLM para hacer hacking & pentesting en el Red Team
• Cómo usar LLMs en Ciberataques: Cibercrimen, Ciberespionaje, Ciberguerra o Red Team
• El uso de LLMs como Copilot en la Seguridad Ofensiva (y el Cibercrimen) para hacer malware
• Disrupting malicious uses of AI: Operaciones de Misinformation, Malware, Cibercrimen & Estafas usando ChatGPT
• GenAI para DeepNudes, DeepFakes & Foto Expansión de Imágenes de "fantasía"
• WhatsApp: El leak de las miniaturas en las fotos de un sólo uso y su reconstrucción con GenAI
• WhatsApp parchea el "leak" de privacidad con las miniaturas (Thumbnails) en las fotos de "Ver 1 sola vez"
• LLM as Hackers: Autonomus Linux Privilege Escalation Attacks con Agentes AI
• ¿Se puede reemplazar a un Pentester con un Agente de IA basado en LLMs? Cómo realizar ataques completos a redes complejas con agentes de Inteligencia Artificial
• Agentic AI para hacking compitiendo en los CTF (Capture The Flag): Hackers vs. Agentes de IA
• AlphaDev: La IA que optimiza la implementación de los algoritmos mejor que los humanos
• AlphaEvolve: Un Agente AI para optimizar algoritmos
• VideoIndexer con Facial Recognition: Análisis de vídeos con Inteligencia Artificial
• Investigando fotografías y personas con Multi-Modal Large Language Models
• WhiteRabbitNeo un LLM (y un "ChatGPT") para el Red Team
• Hacer un "infector" del Master Boot Record (MBR) de un PC usando Windows con ChatGPT & DeepSeek
• Vibe Hacking con Cybersecurity AI (CAI): Agentes AI autónomos para ciberseguridad ofensiva y defensiva

Hacking con IA Papers

• Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN
• PassGAN: A Deep Learning Approach for Password Guessing
• SSGAN: Secure Steganography Based on Generative Adversarial Networks
• Deep-TEMPEST: Using Deep Learning to Eavesdrop on HDMI from its Unintended Electromagnetic Emanations
• LLM Agents can autonomouslly hack websites
• LLM Agents can Autonomously Exploit One-day Vulnerabilities
• LLMs as Hackers: Autonomous Linux Privilege Escalation Attacks
• On the Feasibility of Using LLMs toExecute Multistage Network Attacks
• Defeating Image Obfuscation with Deep Learning
• Faster sorting algorithms discovered using Deep Reinforcement Learning
• AlphaEvolve: A coding agent for scientific and algorithmic discovery
• Disrupting malicious uses of AI: June 2025 
• CAI: An Open, Bug Bounty-Ready Cybersecurity AI

ByPassing Cognitive Captchas with AI

• ReCaptchav2 de Google con Cognitive Services
• Captcha Cognitivo de Twitter (X) con GPT4-Vision & Gemini
• Captcha Cognitivo de Twitter (X) con Anthropic Claude 3.0 Opus
• Captcha Cognitivo de Twitter (X) con GPT-4o
• Captcha Cognitivo de Administración Pública con ChatGPT
• Captcha Cognitivo de la mano y la plancha en HBO max
• Captcha Story X: I am not a Robot, I am a GenAI Multimodal Agent
• Reto hacking con un Captcha Cognitivo para romper con GenAI
• Solución al Reto de Hacking de un Captcha Cognitivo Visual
• Anthropic Claude 3.5 Sonnet & Cognitive Captchas
• Captcha Cognitivo de HBO max de reconocer de sonidos con ML & GPT4-o
• LinkedIN + ChatGPT: El Captcha Cognitivo del Objeto Descolocado
• Captcha Cognitivo de Twitter / X de Sentar Personas Correctamente: Probando con ChatGPT & Gemini
• Inteligencia Artificial y el negocio de resolver "Capthas Cognitivos" para el Cibercrimen.

MisInformation & Fake News with IA

• La Inteligencia Artificial Generativa es una poderosa herramienta en la Guerra de la Desinformación Política y Social
• Cómo crear una Campaña de Polémica en Twitter ( X ) con ChatGPT y una botnet de cuentas controladas
• "CodeProject: NewsBender" Desinformación política con Generative-AI
• Cómo se creó CodeName: "News Bender Project" con GenAI
• Misinformation in the age of GenAI
• OpenAI lucha contra los "malos": Bad Grammar, DoppelGanger, Spamouflage, IUVM & Zero Zeno
• Detección de “Fake News” con FNDaaS "Fake News Detection as a Service" usando IA

MissInformation & Fake News Papers

• Combating Misinformation in the Age of LLMs: Opportunities and Challenges
• Disrupting malicious uses of AI: June 2025
• AI and Covert Influence Operations: Latest Trends
• FNDaaS: Content-agnostic Detection of Websites Distributing Fake News

DeepFakes Posts

• Una historia de Blade Runners & Virtual Replicants
• Poison in Love: Un deepfake de Mark "The Hulk" Rufalo para "ena-robar" 500.000 USD a una artista de manga
• El FBI alerta de que los criminales usan DeepFakes para conseguir trabajos Full-Remote y tener acceso a la empresa
• Cómo hacer un Face Swapping entre Axl Rose & Chema Alonso para Fake News
• Autoencoders, GANs y otros chicos (buenos y malos) del montón
• Usar GPT-3 y DeepFakes para crear a Joi, la "Her" de Blade Runner 2049
• StyleGAN: Una GAN para crear perfiles de personas que no existen
• Style GAN: Una AI para crear perfiles de personas que NO existen
• "Talking Heads" creadas con Few-Shots Adversarial Learning
• Las caras sintetizadas con Inteligencia Artificial son indistinguibles de las caras reales y dan más confianza a las personas
• VASA-1: Un modelo de de GenAI para "Visual Affective Skills" que potencia la expresividad de los Humanos Digitales (y de DeepFakes & FakeNews) 
• Vision Transformers: Transformers aplicados a imágenes
• Ya te puedes comprar online un Humano Digital en HD para hacer DeepFakes Perfectas en MetaHuman
• DeepNudes
• DeepNude y el peligro de que acabes en sitios pornográficos sin ropa
• La industria de las DeepFakes y la Generative AI en la industria del porno
• DeepFakeApp: Una AI de Face-Swapping al servicio de fantasias sexuales
• Cloned Voices Audios
• Are Yo Talkin' ta me? Detección de Deepfakes en Voces
• Voces clonadas con DeepFakes y el viral de WhatsApp con la DeepFake de Iker Jiménez en Horizonte
• Advanced Persistent ... Toys!
• Detectar Voces Clonadas en DeepFakes usando Machine Learning
• Cómo detectar audios que usan Voces Clonadas con ElevenLabs
• Cloned Voice Detector & HashVoice: Sellado de audios con esteganografía
• SC VALL-E y VET Token: GenAI para clonación de Voces & Tokens Web3 en Blockchain
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• DeepFake Detection
• DeepFakes: Detección mediante Redes Neuronales Convolucionales (CNN) & Gaze Tracking
• Blade Runners: Cómo crear un Test de Voight-Kampff para DeepFake
• Cómo crear un Test de Voight-Kampff para DeepFakes: Detección de Artefactos
• Cómo crear un Test de Voight-Kampff para DeepFakes: Iris Lights, Head Pose, Histrogramas
• Cómo crear un Test de Voight-Kampff para DeepFakes: Blinking, Pulse & Gaze Tracking
• Detectar DeepFakes por EyeGaze Printing
• Sentimetrics: Detector de Deepfakes basado en las emociones de la comunicación al estilo Blade Runner
• ReplayDF: Replay Attacks contra modelos de detección de Audio DeepFakes
• Tu VerifAI
• Análisis de Vídeos Manipulados con Inteligencia Artificial con Tu VeriFAI
• Cómo detectar que un empleado de tu empresa está sufriendo una estafa con Deepfakes
• Detectar Deepfakes con VerifAI
• Tu VerifAI: Cómo hacer un análisis forense a un vídeo para saber si es un Fake de IA
• Deep Live Cam & VerifAI: Detección de DeepFakes en Vídeo Conferencias
• DeepFakes & Digital Onboarding: Verificación de identidad en plataformas digitales
• AutoVerifAI: Un servicio de análisis online para detectar GenAI en Vídeos, Textos o Imágenes

DeepFakes Papers

• Generative Adversarial Nets
• Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks
• Deepfakes Generation and Detection: State-of-the-art, open challenges, countermeasures, and way forward
• A Style-Based Generator Architecture for Generative Adversarial Networks
• Few-Shot Adversarial Learning of Realistic Neural Talking Head Models
• AI-synthesized faces are indistinguishable from realfaces and more trustworthy
• VASA-1: Lifelike Audio-Driven Talking Faces Generated in Real Time
• Detecting GAN-generated Imagery using Color Cues
• Exposing DeepFake Videos By Detecting Face Warping Artifacts
• Detecting DeepFake Videos: An analysis of three technique
• FaceForensics++: Learning to Detect Manipulated Facial Images
• "Fake or Real" A Dataset for Synthetic Speech Detection
• Transfer Learning from Speaker Verification to Multispeaker Text-to-Speech
• In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking
• Detecting Pulse from Head Motions in Video
• DeepFakesON-Phys: DeepFakes Detection based on Heart Rate Estimation
• Where Do Deep Fakes Look? Synthetic Face Detection via Gaze Tracking
• Exposing Deep Fakes using inconsistent Head Poses
• Exposing GAN-Gnerated Faces Using Inconsistent Corneal Specular Highlighs
• SC VALL-E: Style-Controllable Zero-Shot Text to Speech Synthesizer
• An Image is Worth 16+16 Words: Transformers for Image Recognition at Scale
• Proactive Detection of Voice Cloning with Localized Watermarking
• Replay Attacks Against Audio Deepfake Detection

No son todos los que he publicado sobre este tema, ni seguro que serán todos los que tendré publicados en el futuro, pero os dejo este post por si queréis tenerlo guardado para venir y ver los diferentes documentos sobre estos temas, que como podéis ver, son una buena cantidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)