LLMJacking: Cómo los cibercriminales usan Tokens IA que pagas tú.

Llevo tiempo hablando el abuso de las cuentas y servicios de los modelos LLM que utiliza una empresa por parte de atacantes y cibercriminales, pero cada vez parece que está más industrializado y escalado. De esto habla el informe del equipo de Google Threat Intelligence Group titulado: "The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources" donde recoge las técnicas de LLMJacking como una de las más utilizadas hoy en día por los cibercriminales.

Figura 1: LLMJacking. Cómo los cibercriminales usan Tokens IA que pagas tú.

El objetivo es el mismo del que os hablo muchas veces, cómo conseguir que un LLM que paga otro - ya sea en un modelo SaaS en una plataforma de Cloud, en una API, o por medio de computo GPU en servidores locales, acabe trabajando para el atacante gratis. Eso es lo que quieren los ciberciminales, que paguen las víctimas sus Tokens AI.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Para conseguir esto existen muchas técnicas, distintas, y todas les son válidas. La primera de ella, y más evidente, es robar las cuentas de los proveedores de Cloud que tienen servicios de LLM, o las cuentas de los Servicios de IA directamente desde las empresas que los crean y los comercializan, como OpenAI o Anthropic, por supuesto. Para ello, las campañas de phishing, el malware en los equipos donde se usan, y demás son clásicos. Nada nuevo bajo el sol más que robar las cuentas.

Figura 3: LLMJacking

También hay que hacer notar que el robo de Tokens OAuth, evitando así los segundos factores de autenticación, es un clásico en estos esquemas, ya que si se roba el adecuado, como el caso del Scope de cloud-platform en Google Cloud, se puede acceder a configurar todos servicios LLMs en esa cuenta. 

Figura 4: Las cuentas robadas para LLMJacking generan

consumos el servicio LLM desorbitado tras el compromiso.

Con estas dos opciones, o una cuenta privilegiada o un Token OAuth con el Scope de cloud-platform, el atacante se configura el LLM a su gusto, y como vemos en el informe, comienza a consumir a lo grande. Al final, es gratuito para ellos, así que barra libre.

Figura 5: El scope cloud-platform da acceso a todo LLM en Google Cloud

Por supuesto, además de robar las cuentas, se puede funcionar bien robando directamente las API Keys, que es algo bastante sencillo de hacer en servicios inseguros en App Móviles o Aplicaciones Web  inseguras. A finales del mes de Junio os hablé de esto en el artículo titulado: "Cómo filtrar las API Keys de los LLMs en las Apps de iPhone y Android" donde se recoge un estudio que explicaba las diferentes alternativas, basadas en:

• Robar la API Key del Código
• Robar una sesión autenticada
• Robar el acceso mediante LLM-Proxys que configuran los servicios.

De todos estos problemas, en el artículo tienes explicaciones detalladas de cada uno, porque al final es bastante evidente cómo se pueden explotar estas debilidades en el momento en que existen en tantos servicios digitales "powered" con LLMs como tenemos hoy.

Figura 6: Arquitectura de las apps con LLM

Por último, el artículo cita algo de lo que os he hablado y hecho muchas demostraciones, que es directamente "desalinear" los servicios digitales - en mis ejemplos los Asistentes IA de soporte - y conseguir que el modelo acaba trabajando para el atacante.

Figura 7: Manipulación de Asistentes AI

Tenéis la lista de los artículos que he publicado sobre estos casos en la siguiente lista que os dejo aquí para que los leáis con calma.

• Hacking LLM-Assistants Just for Fun!
• Footprinting & Fingerprinting AI Assistant LLM-Based: Háblame de ti y tus cosas
• Weaponinzing Token Consumption" en "LLM-Based AI Assistant
• Mi Asistente Virtual IA no programará en Python para ti... pero si es COBOL, vale
• El AIBot de la Universidad que ayuda no sólo a los estudiantes
• Mareando y Desalineando a un Asistente IA de una tienda de Mochilas
• Bypassing System Prompt & Guardrails en un Asistente IA para que pinte gatos en Python
• Rufus, el Asistente IA de Amazon: De "Shopping Assistant" a hacer Troubleshouting de red con Powershell y Nmap en una charla

Debido a eso, poner una solución como AI Gateway de Cloudflare con Control de Costes de Servicios IA es fundamental. En el caso de Cloudflare para evitar estos abusos, se introdujeron los Controles de Consumo con Cuotas por usuario, servicio, día, para evitar estos. 

Figura 8: Control de Costes con AI Gateway Cloudflare

Para terminar, el reporte directamente apunta a cómo se comercializan, con servicios como jet-night, un servicio que carga costes a cuentas vulneradas, y que, tal y como describe el reporte.

Figura 9: Costes de uso de LLM a través de jet-night

teniendo en cuenta los costes que cobra a sus clientes, y lo que carga en plataformas como Google Cloud, es ilegal, pues saldría a negativo si tuviera que pagar por los LLMs... pero lo hacen las víctimas.

Figura 10: Reflexión sobre jet-night en el reporte de Google Threat Intelligence

En definitiva, el LLMJacking como se ha dado a llamar a esta técnica, es algo de lo que tienes que preocuparte, y cuando pones un servicio con IA en producción debes revisar en detalle cuáles son los posibles riesgos de abuso.

Figura 11: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

Ten en cuenta, que los modelos LLM de la IA hoy en día sirven para muchas cosas, en el mundo del cibercrimen son fundamentales, como vimos en los artículos de "Weaponized AI: El Crimeware con IA que usan los Cibercriminales para hacer Ciberestafas".

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Cómo formarse en Cybercrime: eCrime 2026 en Lisboa del 2 al 6 de Noviembre

Parece que las cosas van pasando casi sin querer, y el bueno de Peter Cassidy - viejo conocido de los años de Eleven Paths (love++) trabajando con la Anti-Phishing Working Group - me contactó por mi buzón de MyPublicInbox para invitarme a dar la Keynote el próximo 3 de Noviembre. "No puedo", iba a contestarle, "estoy en Lisboa", me disponía a decir, cuando descubrí que el eCrime 2026 del APWG es en Lisboa. 

Figura 1: eCrime 2026 Lisboa - 2 al 6 de Noviembre

Así que, como no soy especialmente difícil con los amigos - y ya que no puedo ir al entrega de los Premios Global Tech de la Comunidad de Madrid donde he sido jurado -, pues me he animado a dar una charla en el eCrime 2026 de Lisboa el próximo 3 de Noviembre.

Figura 2: Mi keynote en el eCrime 2026 Lisboa el 3 de Noviembre

El evento dura toda la semana, y las charlas son más que interesantes, con varios tracks con diferentes temáticas, y muchos papers de investigación sobre el mundo del eCrime que merece la pena leer, así que tendré lectura e inspiración en próximas semanas, que de estas charlas y presentaciones siempre se me ocurre alguna idea.

Figura 3: Distribución de actividades por días en el eCrime 2026 Lisboa

La lista completa de charlas la tienes en la Agenda, que es enorme, con un montón de investigaciones de operaciones descubiertas, de usos de IA para todo tipo de ataques, de análisis de incidentes provocados con criminales, ataques Nation State, etcétera. No te pierdas echarle un ojo a la agenda completa del eCrime 2026.

Figura 4: Echa un ojo a la agenda completa de eCrime 2026

Así que nada, si estás por Lisboa, cerca, te pilla bien venir una semana disfrutar de conocimiento y de una bella ciudad, puedes animarte a estar por aquí. Yo no estaré todos los días que el día 5 de Noviembre voy a estar en Praga dando una conferencia... pero ya os contaré eso con más calma en otro momento. Tal vez mañana o pasado mañana.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

El Smishing de la Seguridad Social y cómo protegerte Cloudflare ONE

El lunes por la tarde recibí un mensaje SMS de la TGSS (Tesorería General de la Seguridad Social). Por supuesto, como venía del mismo número de teléfono que siempre, se coló en mi lista de mensajes de la TGSS, donde tengo el historial de todas mis comunicaciones con ellos.

Figura 1: El Smishing de la Seguridad Social

y cómo protegerte Cloudflare ONE

Me extrañó mucho, porque no tengo nada abierto con ellos, y este año además estoy viviendo en Lisboa, así que saltó la primera alerta, pero al mismo tiempo pensé que podría ser por algún trámite antiguo, así que lo miré con más cuidado.

Figura 2: El Smishing de la TGSS

Lo siguiente que me llamó la atención fue la URL. No era la misma de siempre. Como os he dicho, tengo el historial de todos los SMS de la TGSS en mi terminal móvil migrado versión tras versión de dispositivo, así que todas las URLs eran la misma menos esta última.

Figura 3: "Ciberestafas: La historia de nunca acabar" (2ª Edición).por Juan Carlos Galindo en 0xWord.

Así que, con máxima precaución - que ya casi me como el año pasado el de la DGT por estas fechas copie la URL manualmente para probarla en la utilidad de Domain Information de Radar de Cloudflare, para salir de dudas.

Figura 4: El reporte de Radar Domain Information

Allí, por supuesto, me dijo que era una web de Phihing, y si Cloudflare Radar Domain Information lo marca así, Cloudflare Threat Intel Cloudforce One lo tiene bloqueado en el cliente Cloudflare ONE - antes WARP -, así que  sabía que iba a encontrarme con el bloqueo.

Figura 5: Bloqueo por Cloudforce One

Puedes bajarte gratis - y sin tan siguiera tener que registrarte - el cliente de Cloudflare ONE, que además elimina todos los bloqueos de dirección IP que se puedan producir por parte de cualquiera, como puedes ver en este vídeo.

Figura 6: Cómo securizar una conexión con PQC usando WARP

Además, te dará la protección de DNS Security de Cloudflare, que ya sabes que es la más rápida y la más segura que hay en el mercado.

Figura 7: Cloudflare DNS el más rápido y seguro de Internet

Por supuesto, cogí un dispositivo móvil de pruebas actualizado a la última versión y visité el sitio web. Era un Phishing para móvil muy bonito, donde no funciona absolutamente nada, y lo único que te pedía era introducir tu ID - yo metí uno falso -.

Figura 8: El Smishing de la TGSS en un móvil

sin protección de DNS Security

Para luego pedirte pagar. De nuevo una cantidad bastante pequeña para llamar la atención, pero que a los más mayores del lugar nos llama aún más la atención.

Figura 9: Currado, pero falso

En fin, mantente alerta que los cibercriminales te quieren pillar con la guardia baja después del verano, que ellos no descansan...ni en verano.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Guía de Seguridad de un Hacker para personas que no quieren ser Víctimas

Hace años que aprendo con César Cerrudo. Un hacker de la old-school al que admiro y quiero, así que hoy quiero dedicarle el artículo a su proyecto de la "Guía de Seguridad de un Hacker", donde ha invertido tiempo en construir un libro gratuito con la misión de llegar a 1.000.000 de personas y lograr que dejen de ser víctimas en Internet de los estafadores, ciberciminales y, como dice él en muchas de sus charlas, "malas hierbas". 

Figura 1: Guía de Seguridad de un Hacker para personas que no quieren ser Víctimas

En palabras del propio César Cerrudo: "Hice una nueva versión del libro de ciberseguridad. Agregue un nuevo capítulo de inteligencia artificial, simplifique algunas cosas, mejore otras, etcétera. Como mi objetivo siempre fue que llegue a la mayor cantidad de gente posible decidí que lo mejor era publicarlo gratis para descargar online en PDF y ebook con licencia creative commons para que cualquiera pueda usar el material también (personas, empresas, organizaciones publicas, ONGs, etcétera) e imprimirlo si alguien quiere un libro impreso."

Figura 2: Contenidos del libro

El libro viene acompañado de muchos recursos para aprender cosas básicas y protegerse mejor en el uso de la tecnología, tiene infografías, tiene presentaciones para niños y adultos por si alguien quiere ayudar en escuelas, organizaciones, empresas, etcétera, enseñando.

Figura 3: Contactar con César Cerrudo

También hay un test interactivo online para ver qué tan seguro es alguien, otro para detectar y simular trampas y una mini academia para aprender en unos pocos minutos cosas básicas.

Figura 4: La mini-academia de Guía de Seguridad de un Hacker

Y en los tests online, puedes probar a cualquiera si está o no preparado para detectar las amenazas del mundo de hoy, y aprender cómo se construyen estos mensajes, como puedes ver en el siguiente ejemplo.

Figura 5: Aprendiendo de Phishing

No hace falta que te diga que te lo recomiendo, ya que como siempre he dicho, César Cerruro es uno de los grandes de nuestra generación, y eso lo puedes leer hasta en la web de dónde puedes descargarte el libro de Guía de Seguridad de un Hacker.

Figura 6: Chema Alonso dixit

El objetivo que se ha marcado César Cerrudo es conseguir llegar a 1 Millón de personas, así que si lo descargas, lo lees, lo compartes, lo promocionas, lo recomiendas, para que todo el mundo esté más seguro, ayudarás en esta misión.

Figura 7: Descargar el libro gratis

Recuerda, no es un libro para expertos, es un libro para todo el mundo. Para evitar que tu familia, tus padres, tus amigos no técnicos, caigan en este tipo de amenazas. Y hay un capítulo nuevo dedicado íntegramente a las estafas con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

La Policía Nacional detiene a un cibercriminal que usaba DeepFakes para obtener Certificados Digitales gracias a un Glitch

En el año 2017, cuando descubrí los primeros ejemplos de técnicas de FaceSwapping, mi mente viajo al futuro y pensé en el mundo de los Blade Runners y Replicantes Virtuales, pero en el mundo digital. La capacidad de llevar "máscaras digitales" al estilo de la película "Desafío Total (Total Recall)", cruzaba por mi cerebro. Sí, la ciencia ficción siempre me llena la cabeza de posibles futuros que pueden venir detrás cuando veo una nueva innovación.

Figura 1: La Policía Nacional detiene a un cibercriminal que usaba

DeepFakes para obtener Certificados Digitales gracias a un Glitch

Durante esos años, comenzamos a trabajar mucho en el equipo de Ideas Locas con las técnicas de FaceSwapping, los Autoencoders, las herramientas para hacer DeepFakes, y las técnicas de detección. El famoso Test de Voight-Kampff digital que tanta falta sabíamos que hacía, especialmente para un mundo que se estaba yendo a 100% digital, y donde los procesos de Know-Your-Customer (KYC) debían hacerse totalmente online.

Figura 2: Técnicas de IA en ciberseguridad y su impacto en Deepfakes 

Hoy en día, las técnicas de DeepFake son de gran calidad, y los cibercriminales, los estafadores en las redes sociales, y los APTs a las organizaciones las tienen como una herramienta más. En el mundo del uso de la IA para el Cibercrimen, como os conté en el artículo de "Weaponized AI", las herramientas para generar identidades digitales con DeepFake totalmente identificados, documentadas y funcionales, es una pieza más del sistema. 

Figura 3: Vídeo de Haotian AI. DeepFake de Vídeo y Voz

Que sean tan perfectas las herramientas exige en los entornos de alta necesidad de seguridad que estas identidades sean verificadas de formar remota con una gran robustez, si no, se podría estar poniendo a los cibercriminales las cosas sencillas. Por supuesto, entornos de banca, o, como en este caso, Entidades Certificadoras Autorizadas que entregan Certificados Digitales asociados a una Identidad Verificada - por su DNI y su Prueba de Vida - en un proceso de KYC, necesitan, obligatoriamente usar técnicas avanzadas de detección de DeepFakes.

La Policía Nacional detiene a un ciberdelincuente que utilizaba una técnica pionera mediante IA para obtener certificados de firma electrónica

La Policía Nacional, publicó en su Sala de Prensa el pasado 11 de Agosto como habían detenido a un cibercriminal que se había dedicado a sacarse más de 30 Certificados Digitales conseguidos en más de 38 intentos en un Entidad Certificadora Autorizada en España usando, para ello técnicas de DeepFake, trabajadas con iluminación, y documentos falsos que debía mostrar a la cámara.

Figura 4: La Policía Nacional detiene a un ciberdelincuente que utilizaba una

técnica pionera mediante IA para obtener certificados de firma electrónica

El cibercriminal creaba primero la identidad, sobre ella creaba unos documentos de identidad falsos, y luego hacía el proceso de Know Your Customer onnline con sofisticadas técnicas de iluminación para conseguir reproducir los destellos de los hologramas y las medidas de seguridad físicas de los DNIs, asociando el uso del programa de DeepFake al mismo tiempo para salir en vídeo.

Por supuesto, su red de anonimato iba mucho más allá, ya que tenía 320 líneas telefónicas, asociadas a 24 dispositivos móviles distintos, de los cuales la gran mayoría eran contratadas con identidades suplantadas y adquiridas en puntos de venta geolocalizados en Murcia, de donde es el cibercriminal.

Figura 5: "Ciberestafas: La historia de nunca acabar" (2ª Edición).por Juan Carlos Galindo en 0xWord.

En las empresas, los ataques a las organizaciones con empleados falsos empiezan a hacer esto. Primero poner a personal altamente cualificado para pasar el proceso de entrevistas. Hacen un currículo con IA que responda perfectamente a la oferta en concreto - siempre buscando trabajar en remoto - y luego pasan los procesos de selección y onboarding con estas técnicas, para luego dejar el equipo en una granja de ordenadores conectados a empresas que los atacantes pueden utilizar aprovechando las credenciales que la organización le ha entregado.

Figura 6: Glitch en Wikipedia ES

En este caso, todo iba bien, hasta que en uno de los procesos, por la iluminación, un fallo en el equipo, o por simplemente el azar, el software de DeepFake sufrió un Glitch, es decir, un fallo momentáneo como los que tiene nuestra querida Vanellope von Schweetz en la película de Rompe Ralph, y el proceso de Know Your Customer grabó su imagen por un segundo. Si no... difícil cada vez más detectar a estos "Replicantes Digitales".

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

¿Cómo solucionas las vulnerabilidades del software de tu PYME? Haz un diagnóstico gratuito con ironGate CyberSecurity

Cuando hablamos con responsables de PYMEs sobre ciberseguridad, casi todos me dicen lo mismo: "tenemos antivirus" o incluso "tenemos un EDR". Y me alegra escucharlo, porque hace unos años eso ni se planteaba. Pero cuando rascas un poco más y preguntas "¿y las vulnerabilidades de tus equipos, quién las cierra?", la respuesta casi siempre es un silencio.

Figura 1: ¿Cómo solucionas las vulnerabilidades del software de tu PYME?

Haz un diagnóstico gratuito con ironGate CyberSecurity

Y ahí está el problema. La inmensa mayoría de los incidentes que se producen en pequeñas empresas no nacen de un ataque sofisticado ni de un 0-day exótico. Nacen de una vulnerabilidad conocida, publicada, con parche disponible desde hace semanas o meses, que sencillamente nadie ha instalado. Un sistema operativo sin actualizar, una versión de un software ofimático con un CVE crítico por el que se te va a colar un ransomware, un firmware que lleva dos años igual con un bug que permite ejecución de código remoto, etcétera. La puerta estaba ahí, abierta, y nadie la cerró

Figura 2: "Ciberestafas: La historia de nunca acabar" (2ª Edición).por Juan Carlos Galindo en 0xWord.

Esto, con el nuevo Crimeware que usan los cibercriminales empoderados con Agentes de IA para encontrar las vulnerabilidades de las empresas, hacen que muchas empresas se estén convirtiendo en carne de cañón, y estemos viendo un repuntar de ataques e infecciones en las empresas con menos madurez en la gestión de seguridad.

Escanear no es lo mismo que remediar

Aquí es donde muchas soluciones de seguridad se quedan a medias. Hacen un escaneo de vulnerabilidades, generan un informe en PDF con una lista de CVEs ordenados por gravedad… y ahí termina el servicio. El informe se queda en una bandeja de entrada, y la responsabilidad de parchear, priorizar y comprobar que el cambio no rompe nada, recae sobre un departamento de IT que, en una PYME, normalmente no existe, o es una sola persona con otras cien cosas que hacer.

Figura 3: Gestión de parches y vulnerabilidades en ironGate Cybersecurity

Ese hueco entre "sabemos que hay un problema" y "el problema está resuelto" es exactamente donde se cuelan la mayoría de los atacantes. En ironGate Cybersecurity no nos quedamos en el informe: Remediamos vulnerabilidad a vulnerabilidad, hasta dejar el equipo a cero.

Figura 4: ironGate Cybersecurity - Security Operations Center (SOC)

para PyMes, Autónomos y Particulares

Esto es algo que en IronGate Cybersecurity hacemos de forma distinta a lo que he visto en el mercado: cuando detectamos las vulnerabilidades de un equipo, no nos limitamos a generar un aviso. Nos ponemos en contacto con el cliente y empezamos a remediar, vulnerabilidad a vulnerabilidad, hasta que ese equipo se queda completamente a cero. No es un informe que alguien tiene que interpretar y ejecutar por su cuenta: es un trabajo de remediación activa, dispositivo por dispositivo, dentro del mismo servicio de MDR que ya vigila esos equipos 24x7.

El tiempo para explotar una vulnerabilidad cada vez es más corto

Con la llegada de modelos de IA cada vez más capaces —no es necesario que sea Mythos, que está generando preocupación en la banca a nivel mundial, porque cualquiera de los que uttilizan los ciberscriminales son un buen ejemplo de ello— el tiempo que pasa entre que se publica una vulnerabilidad y que alguien la explota de forma automatizada se ha reducido muchísimo. 

Figura 5: Gestión de seguridad profesional para PYMEs

Ya no hablamos de semanas de margen. A veces son horas, por eso estamos viendo un aumento de las demandas en nuestros servicios de Gestión de Seguridad. Dejar una vulnerabilidad sin cerrar durante meses, en este contexto, es jugar con fuego.

Por dónde empezar

Si no sabes cuántas vulnerabilidades tiene tu empresa ahora mismo, en ironGate Cybersecurity ofrecemos un Diagnóstico de Seguridad Gratuito que te dice exactamente eso: Qué vulnerabilidades tienen tus equipos y qué riesgo suponen. A partir de ahí, nosotros nos encargamos de cerrarlas, una por una.

Figura 6: Haz un diagnóstico gratuito con ironGate CyberSecurity

Cerrar una vulnerabilidad cuesta minutos. Recuperarte de que alguien la haya explotado, cuesta mucho más —en dinero, en tiempo y en disgustos—. Si tu PYME es tu forma de vida, no dejes la puerta abierta. Además, si luego quieres este servicio, es 100% Financiable con el Kit Digital.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Contactar con Chema Alonso

Anthropic LLM ATT&CK Navigator

Esta semana pasada, el equipo Red de Anthropic, ha publicado su LLM ATT&CK Navigator, que es una herramienta gráfica que permite ver, mapeados con la Matrix Mitre ATT&CK, qué estaban haciendo las 832 cuentas bloqueadas, que fueron un total de usaron un total de 13.873 técnicas ofensivas para hacer ataques. 

Figura 1: Anthropic LLM ATT&CK Navigator

Como sabéis, existe una versión de Matrix Mitre ATT&CK para LLMs llamada Atlas, pero el equipo de Anthropic, para crear su LLM ATT&CK Navigator ha utilizado la matriz general de Mitre ATT&CK, y ha clasificado los datos en qué porcentaje de cuentas han sido baneadas, además de una media ajustada por relevancia y una media en bruto del AI Risk Enablement Score (ARiES).

Figura 2: Anthropic LLM ATT&CK Navigator

En la web tenéis la herramienta interactiva, pero si vemos cómo se han distribuido las técnicas de ataque por cada uno de los elementos de la Matriz Mitre ATT&CK, podemos ver por colores el porcentaje de cuentas baneadas que estaban utilizando los modelos de Antrhopic para hacer estas actividades. He querido capturar todo en una única imagen para poder utilizarla en presentaciones, así que haz clic en ella para ampliarla.

Figura 3: Anthropic LLM ATT&CK Navigator

El informe revela tres hallazgos cruciales que redefinen la ciberseguridad actual. En primer lugar, el riesgo y la sofisticación de los ataques están aumentando exponencialmente. La proporción de actores de riesgo medio o alto saltó del 33% al 56% en la segunda mitad del año analizado. La IA está democratizando el cibercrimen, permitiendo que atacantes con menores habilidades técnicas ejecuten operaciones complejas a lo largo de toda la cadena de ataque (killchain), concentrándose en actividades dañinas como el volcado de credenciales y el movimiento lateral.

Figura 4: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

Si miramos en el gráfico siguiente, podemos ver que entre las 25 técnicas más utilizadas están las de desarrollar malware, exfiltrar datos, encontrar y explotar vulnerabilidades,  pero como hemos visto antes el uso de la IA es para casi todas las técnicas de la matriz de ataques.

Figura 5: Las 25 técnicas más utilizadas por las cuentas baneadas

En segundo lugar, el verdadero factor diferenciador ya no es la habilidad técnica del atacante ni las instrucciones dadas al modelo, sino el "Andamiaje de Agentes IA" (Agentic Scaffolding). Esto se refiere al código y la arquitectura externa construida alrededor de los modelos de IA para permitirles encadenar fases de ataque de forma totalmente autónoma.

Figura 6: Técnicas por Táctica usadas. Las Técnicas de Evasión son las más demandadas.

Un ejemplo de esto fue la campaña de ciberespionaje GTG-1002, desarticulada en noviembre de 2025, donde el operador humano solo dictó directrices estratégicas mientras el agente de IA tomaba decisiones tácticas en tiempo real, explotando vulnerabilidades y extrayendo información de manera independiente.

Figura 7:"Bug Hunter" escrito por David Padilla en 0xWord

En le gráfico siguiente vemos cuáles son las técnicas y tácticas ponderadas por los valores de AI Risk Score de cada uno de los actores, donde se puede ver que el movimiento lateral es la que marca la diferencia. ¿Por qué? Pues por el comportamiento de los Agentes IA de Seguridad Ofensiva, que no buscan vulnerar un servicio o un servidor, si Ownear una organización completa, así que una vez que entran intentan meterse en todos los servidores y servicios de la organización.

Figura 8: Tácticas ponderadas por AI Risk Score

En tercer lugar, el marco clásico MITRE ATT&CK se encuentra desactualizado ante este paradigma. La taxonomía actual carece de identificadores para registrar acciones autónomas, decisiones de pivotaje en tiempo real o ejecuciones guiadas por IA sin intervención humana. Anthropic pide  expandir este vocabulario compartido, aunque, como he dicho, existe ya ATLAS, que es el que debería evolucionarse.

Figura 9: Distribución de técnicas y tácticas por actor

En el gráfico anterior se puede ver el nivel de intensidad de los actores a la hora de utilizar la IA para realizar sus ataques, ya que estamos en niveles medios de más de 100 tácticas por actor adversario, y por más de 40 técnicas de media por cada actor. Es decir, uso intensivo de la IA para realizar los ataques.

Figura 10: Distribución del riesgo de las acciones de las cuentas baneadas

de Marzo a Septiembre de 2025 y de Octubre de 2025 a Marzo de 2026.

Ha incrementado el riesgo considerablemente

Actualmente, el uso más frecuente de la IA (69% de los casos) es el desarrollo de capacidades ofensivas, destacando la creación de malware personalizado, la ofuscación de información y la degradación de defensas. Para contrarrestar esto, Anthropic ha reforzado las salvaguardas en tiempo real de Claude y colabora activamente con MITRE para actualizar los sistemas de detección. 

Figura 11: "The Art of Pentesting" El nuevo libro de

0xWord para formarse como pentester

A largo plazo, el informe concluye que, si la industria actúa con celeridad, la IA beneficiará más a los defensores al detectar errores antes de que se despliegue el código, pero por ahora... más vale que tomes muchas protecciones de seguridad en esta tormenta perfecta que se ha dado con la llegada de la IA al mundo de la ciberseguridad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)