Cómo resolver los Captchas Cognitivos Visuales y Auditivos de GitHub con Gemini (o cualquier MM-LLM) sin despeinarte

Cuando empecé a jugar con los Captchas Cognitivos hace unos años estaba claro que los MM-LLMs iban a merendarte estos retos con una facilidad asombrosa, y esto es lo que ya sucede hoy en día. Este sábado, cuando estaba jugando con el Vibe Coding para Locomotive BASIC 1.0 de AMSTRAD CPC fui a recuperar la contraseña de mi cuenta de experimentos en GitHub, y de repente... me toca un Captcha Cognitivo.

Figura 1: Cómo resolver los Captchas Cognitivos Visuales y Auditivos

de GitHub con Gemini (o cualquier MM-LLM) sin despeinarte

El Captcha Cognitivo es de FunCaptcha, y por supuesto está dentro los atacados y explotados por el Crimeware. En estos servicios basados en generar Malware as as Service, puedes pedir exploits, scripts de ofuscación, de movimiento lateral, de búsqueda de datos sensibles en una post-explotación, o de generación de persistencia, y por supuesto de resolución de Captchas Cognitivos.

Figura 19: Planes empresariales para resolución

de Captchas Cognitivos vía API

Entre estos servicios, cómo no, los negocios de resolución de Captchas Cognitivos as a Service, que están sacando el máximo partido posible al mundo de la Inteligencia Artificial. Así que, si los malos pueden, tú también puedes sacarle partido a la IA para hacer cosas buenas.

Figura 3: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

FunCaptcha utiliza retos Visuales Cogntivios para detectar a los humanos, y aunque al principio eran complejos de automatizar, desde la llegada de MM-LLMs ha sido un juego. Yo he estado jugando con ellos, ya que los utilizan HBO Max, Linkedin, Twitter/X, etcétera, y os he ido dejando artículos para que pudierais ver cómo funcionan:

• Captcha Cognitivo de Twitter (X) con GPT4-Vision & Gemini
• Captcha Cognitivo de Twitter (X) con Anthropic Claude 3.0 Opus
• Captcha Cognitivo de Twitter (X) con GPT-4o
• Captcha Cognitivo de Administración Pública con ChatGPT
• Captcha Cognitivo de la mano y la plancha en HBO max
• Captcha Story X: I am not a Robot, I am a GenAI Multimodal Agent
• Reto hacking con un Captcha Cognitivo para romper con GenAI
• Solución al Reto de Hacking de un Captcha Cognitivo Visual
• Anthropic Claude 3.5 Sonnet & Cognitive Captchas
• LinkedIN + ChatGPT: El Captcha Cognitivo del Objeto Descolocado
• Captcha Cognitivo de Twitter / X de Sentar Personas Correctamente: Probando con ChatGPT & Gemini

En este caso, en el Formulario de Recuperación de Contraseñas de GitHub, que puedes probarlo para automatizar tu propia API, puedes ver que aparece el Captcha Cognitivo. Este puede ser visual o auditivo. En el visual, que es este primero, hay que alinear la orientación de dos objetos "extraños"

Figura 4: Captcha Cognitivo de FunCaptcha en GitHub

Para probarlo, subo una imagen inicialmente para ver qué tal analiza los dos objetos y su orientación, con la pregunta más sencilla posible. Nada de complicarse, a ver qué me contesta.

Figura 5: Preguntando si estás mirando hacia el mismo sitio?

Y la respuesta es de lo más elaborada, así que vamos a tener que decirle que se atenga a Sí o No para poder apificar esto sin desperdiciar muchos tokens, que no está la vida como para ir tirando tokens a lo loco por ahí.

Figura 6: Explicación larga para decir que lo puede hacer.

Pues nada, te haces un Agentic AI que recorte las imágenes, y le diga a Gemini que te diga si esos dos objetos están en la misma dirección. Si Sí, pues Submit, si No, pues nada, mover la flecha hacia un la derecha (comienza a la izquierda del todo siempre).

Figura 7: No están en la misma dirección, así que hay que mover la flecha

Cuando estén en la misma dirección, como este otro ejemplo, pues nada, habremos terminado y sólo hay que dar al botón de Submit. Algo que para un Agente IA de hoy en día no es nada difícil de realizar. Es por eso que en el mundo del Crimeware los MM-LLMs son tan importantes.

Figura 8: Cuando están orientados, pues Submit

Pero vamos ahora a la parte Auditiva. Es decir, a resolver el Captcha Cognitivo con los sonidos que nos ofrece el Formulario de Recuperación de Contraseñas de GitHub. Aquí, en este vídeo tenéis el audio completo de cómo funciona este reto de inteligencia auditiva.

Figura 9: Captcha Cogntivio Auditivo de FunCaptcha en GitHub

Usar el audio es algo que ya hemos estado viendo en otros artículos, y comenzamos hace mucho tiempo con ReCaptcha v2 de Google, porque esta es otra línea de investigación que permite conseguir el mismo objetivo por otros medios. A veces más costoso, a veces más fácil.

• ReCaptchav2 de Google con Cognitive Services
• Captcha Cognitivo de HBO max de reconocer de sonidos con ML & GPT4-o

Hoy en día, con los MM-LLMs, es bastante sencillo, porque sólo he tenido que grabar el audio y subirlo a Gemini para obtener el resultado que deseaba.

Figura 10: Subiendo el audio a Gemini

Y el resultado lo tenemos a la primera, como podéis ver en la siguiente imagen, donde Gemini da la respuesta correcta. Pero como el Formulario de Recuperación de Contraseñas de GitHub está abierto, podéis probarlo vosotros mismos con diferentes imágenes y audios que os de.

Figura 11: Respuesta correcta. Submit.

Resolver los FunCaptcha, cada día es más sencillo, ya que cada vez funcionan mejor los MM-LLMs. En este ejemplo con Gemini se puede ver cómo a la primera resuelve el reto del Formulario de Recuperación de Contraseñas de GitHub.

Figura 12:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que se han  escrito, citado o publicado en este blog sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Cómo configurar y Monitorizar un Cloud Web Application Firewall para proteger tu Web en un Internet muy peligroso

Puede que en tu empresa el problema sea que casi nadie lo esté mirando, pero la web está siendo atacada constantemente. Este fenómeno suele pasar desapercibido para la mayoría de organizaciones. En los últimos años, las noticias más visibles en el ámbito de la ciberseguridad han estado centradas en incidentes de gran impacto, como ataques de ransomware, filtraciones de datos personales o campañas avanzadas de amenazas persistentes (APT).

Figura 1: Cómo configurar y Monitorizar un Cloud Web Application Firewall

para proteger tu Web en un Internet muy peligroso

No obstante, rara vez se habla del volumen constante de escaneos y ataques automatizados que reciben diariamente las páginas y servicios web en Internet. Únicamente los ataques DDoS de gran magnitud suelen captar la atención mediática en lo que respecta a la seguridad de servicios web. Para que os hagáis una idea, en el Threat Report 2026 de Cloudflare, la compañía está bloqueando más de 230 Billones de amenazas al día. Ese es el nivel de agresividad que vivimos hoy en día en Internet.

En el caso de VapaSec, poco después de comenzar nuestra actividad, empezamos a monitorizar la seguridad de nuestras infraestructuras expuestas a Internet. A pesar de contar con un número reducido de sistemas, detectamos más de 15.000 eventos de seguridad en un corto periodo de tiempo. La gran mayoría de estos eventos se originaban en tan solo dos servicios web.

El impacto de un Web Application Firewall

Este hallazgo nos llevó a una conclusión relevante: disponer de un WAF (Web Application Firewall) no es suficiente si no está correctamente configurado y gestionado. Inicialmente, no estábamos bloqueando ninguno de estos ataques. 

Figura 2: Eventos de Seguridad en la web antes del WAF

Esto es comprensible, ya que, como ocurre con muchas soluciones de seguridad, su eficacia depende en gran medida de la configuración y del mantenimiento continuo.

Figura 3: Eventos de seguridad en la web tras configurar el WAF

Tras implementar una gestión activa del WAF, bloqueando el tráfico malicioso de forma proactiva, logramos reducir los eventos diarios a apenas una veintena.

Internet es un escáner permanente

El análisis del tráfico de cualquier aplicación o servicio web revela una realidad clara: no es necesario ser una organización conocida para convertirse en objetivo. Basta con estar conectado a Internet. Los atacantes no seleccionan objetivos de forma personalizada en la mayoría de los casos. Operan mediante escaneos masivos y automatizados en busca de sistemas vulnerables. Si encuentran una oportunidad, pueden utilizar el sistema comprometido para minar criptomonedas, distribuir malware, lanzar ataques contra terceros o interrumpir el servicio web y pedir un rescate para recuperar su actividad. Todas estas actividades no buscan otra cosa más que obtener un retorno económico.

Figura 4: Libro de "Hacking Web Technologies Silver Edition"

de Enrique Rando, Pablo González, Amador Aparicio,

Ricardo Martín y Chema Alonso

Una forma sencilla de comprobar si has sido escaneado, es revisando los logs del servidor web (Apache, Nginx, etcétera). Es habitual encontrar intentos de acceso a rutas sensibles como .env, .git, paneles de administración o copias de seguridad. También son frecuentes los ataques de fuerza bruta contra formularios de autenticación, procedentes de múltiples direcciones IP.

Figura 5: Eventos en el log que indican escaneos

Cabe destacar que muchos de estos ataques no se caracterizan por un alto volumen de peticiones, sino por su persistencia y automatización. En nuestra experiencia, solo aquellas empresas cuyo modelo de negocio depende directamente de la protección del contenido web muestran un mayor nivel de concienciación en materia de seguridad y gestión de la exposición en Internet.

Figura 6: Acciones de bloqueo diarias por dominios

Es común encontrar organizaciones que implementan plugins o frameworks de seguridad directamente en sus servidores. Aunque estas soluciones son útiles y mitigan una parte significativa de los ataques, presentan ciertas limitaciones:

• Consumen recursos locales (CPU, memoria y ancho de banda).
• No evitan que el tráfico malicioso alcance la infraestructura protegida.
• Pueden resultar insuficientes frente a ataques de denegación de servicio DDoS.

Por este motivo, resulta recomendable utilizar soluciones de WAF en la Cloud. Este enfoque permite filtrar y mitigar amenazas en un punto previo a la infraestructura que presta el servicio web. De esta forma se optimiza el uso de recursos y se mejora la resiliencia del servicio.

Figura 7: Cloudflare WAF

Dentro de estas soluciones, una de las más extendidas y usadas es Cloudflare WAF. Cloudflare dispone de plan gratuito, que permite a muchos creadores de contenidos y pequeñas empresas disfrutar de soluciones de primer nivel sin hacer un desembolso económico.

Mis dominios están en Cloudflare. ¿Quién los gestiona?

Migrar tus dominios a Cloudflare aporta mejoras significativas en el rendimiento y gestión de la infraestructura IT. Al utilizar Cloudflare consiguen un mejor rendimiento de los servicios Web y una gestión ágil y rápida del DNS. Además de la mejora en el rendimiento, Cloudflare permite establecer un nivel de seguridad avanzado configurando algunos parámetros de seguridad.

Sin embargo, es importante destacar que el simple hecho de migrar tu infraestructura a Cloudflare no establece por defecto un nivel de seguridad alto. La configuración del WAF y de las políticas de seguridad es un aspecto crítico.

Figura 8: VAPASEC en RootedCON Madrid 2026

En diferentes conversaciones mantenidas durante eventos como RootedCON, hemos detectado la excesiva confianza en que con el uso de Cloudflare, por sí solo, proporciona seguridad completa. La realidad es que estas herramientas requieren una gestión activa y continua para ser efectivas, para poder adecuarse a las amenazas cambiantes.

Primeros pasos para mejorar la seguridad

A continuación, os dejo algunas medidas iniciales que pueden ayudar a reforzar la seguridad de un sitio web, que como podéis ver, es algo que requiere trabajo de gestión y configuración, así como de mantenimiento y operación.

Figura 9: Hacking Web Applications: Client-Side Attacks
de Enrique Rando en 0xWord

El primer paso que se deben dar es activar el Proxy, de esta forma conseguimos beneficiarnos de la capacidad de caché y CDN que ofrece Cloudflare, pero también tenemos otra ventaja. No soy amigo de la seguridad por oscuridad, pero el activar el Proxy hace que la IP que vean los visitantes de nuestro sitio web no sea la de nuestra máquina si no una de las direcciones IP de entrada a la red de Cloudflare.

Figura 10: Configuración del Reverse Proxy en Cloudflare

Una vez activado el Proxy, podemos implantar reglas que protejan nuestro sitio web de visitantes no deseados. Una primera medida puede ser crear una regla que bloquee el acceso desde determinados países en los que mi organización no tiene actividad comercial. Por ejemplo si no tenemos actividad comercial en países como Afganistán, Irak, Irán, Ucrania, Rusia, Bielorrusia, Somalia o Korea del Norte, puede ser interesante bloquear el acceso desde esos países con una regla como esta.

Figura 11: Reglas de origen en el WAF de Cloudflare

Otro paso que se puede dar para mejorar la seguridad de nuestro sitio web es restringir el acceso de scripts o programas automáticos estén visitando nuestro sitio web. Por ejemplo, con esta regla podemos evitar que programas en Python o automatizaciones que usen curl nos resten recursos de nuestro servidor web.

Figura 12: Regla por USER-Agent de origen en el WAF de Cloudflare

Igual has terminado de leer este post y te has ido a revisar el log de tu servidor web y te has dado cuenta que hay algunos visitantes con direcciones IP de mala reputación que lanzan peticiones de manera constante, solicitando recursos en rutas muy sospechosas. Podrías bloquearlas o someterlas a un reto introduciéndolas en una regla.

Figura 13: Reglas en el WAF de Cloudflare por direcciones IP de origen

Por separado cada una de estas tareas no son una gran carga para el día a día del operador de ciberseguridad, pero hay que ejecutarlas todos los días y dependen del escaso tiempo de los operadores de seguridad, lo que puede llevar a que esta tarea no se ejecute.

Automatizacion de la protección: el enfoque de VapaSec

Hace tres años nos encontramos con esta misma problemática en VapaSec. La gestión manual de la seguridad web no era escalable, ni sostenible en el tiempo. Como respuesta, desarrollamos VapaSec Web Protection, inicialmente como herramienta interna, y posteriormente como solución accesible para terceros. Web Protection no es un WAF, Web Protection automatiza y mejora la gestión de tu WAF. Es una solución que protege los servicios web mediante múltiples capas de protección:

Figura 14: VAPASEC Web Protection

El primer nivel que implementamos consiste en el bloqueo de direcciones IP con mala reputación, que realizan escaneos constantes sobre nuestros servicios web. VapaSec Web Protection cuenta con un motor propio que permite evaluar la reputación de cada IP mediante un sistema de scoring de riesgo. En función de este score, determinamos automáticamente si se debe aplicar un bloqueo o un mecanismo de desafío (challenge) a dicha dirección.

Este sistema de reputación se apoya en una base de datos donde se almacena información sobre las direcciones IP que han mostrado comportamiento malicioso de forma recurrente contra nuestros clientes desde el inicio del servicio. La base de datos se mantiene actualizada mediante la integración de fuentes tanto públicas como privadas, lo que nos permite identificar direcciones IP que están participando activamente en ataques y aplicar medidas preventivas en los WAF que gestionamos. De este modo, evitamos que estos actores maliciosos accedan a los servicios protegidos. Asimismo, las direcciones IP  son eliminadas de la base de datos cuando dejan de presentar actividad maliciosa, garantizando así un enfoque dinámico y ajustado a la realidad del tráfico.

Además, esta información se comparte entre todos los dominios integrados en la solución a través de una funcionalidad que denominamos Inteligencia Colectiva. Gracias a este enfoque, cuando un atacante es detectado en uno de los dominios, queda automáticamente bloqueado en el resto, reforzando la protección de todo el ecosistema.

Otra de las medidas que implementamos en los dominios que protegemos consiste en restringir el acceso desde países en situación de conflicto bélico o que presentan un origen recurrente de actividad maliciosa. Este tipo de control es una práctica habitual en la configuración de WAF, ya que permite reducir la superficie de ataque filtrando tráfico en función de su procedencia geográfica . No obstante, es importante señalar que estos países no siempre representan el principal origen de los ataques bloqueados por Web Protection, tal y como se puede observar en la imagen inferior.

Figura 15: Bloqueos por países

En el segundo nivel implementamos reglas especializadas orientadas a la protección de los activos web. Estas reglas se nutren de información actualizada sobre amenazas activas en Internet, lo que nos permite anticiparnos y mitigar intentos de ataque antes de que impacten en los dominios que gestionamos.

Adicionalmente, establecemos políticas específicas para proteger los paneles de acceso de nuestros clientes. Para ello, incorporamos un mecanismo de control que limita el acceso a estos puntos críticos, de forma que únicamente los usuarios previamente identificados mediante su dirección de correo electrónico puedan acceder al formulario donde se introducen las credenciales de autenticación.

Figura 16: Protecciones con challenge

Otra de las capas de seguridad que incorporamos al servicio es la denominada Real Time Protection. Esta capa opera de forma continua, analizando las peticiones que recibe el servidor web protegido por Web Protection. En caso de detectar indicios de actividad maliciosa, el sistema responde automáticamente aplicando contramedidas sobre el visitante sospechoso.

En VapaSec consideramos que la mejor forma de evaluar este tipo de soluciones es mediante su uso en un entorno real. Siguiendo un enfoque similar al de Cloudflare con su plan gratuito, hemos desarrollado una prueba sin coste que permite utilizar Web Protection durante 30 días. De este modo, cualquier organización puede analizar de forma directa el volumen de tráfico no deseado que recibe diariamente y valorar el impacto real de la solución en su postura de seguridad.

Un saludo,

Autor: Pablo San Emeterio, fundador de VapaSec

Contactar con Pablo San Emeterio

Cloudforce ONE: Cloudflare Threat Report 2026

Cloudflare tiene una visibilidad de lo que está sucediendo en Internet muy especial. El 20% del tráfico mundial HTTP pasa por el Edge de Cloudflare, lo que permite que la compañía puede ver desde una posición privilegiada las amenazas, los ataques, y las evoluciones de tendencias que se están produciendo en tiempo real en la red.

Figura 1: Cloudforce ONE. Cloudflare Threat Report 2026

Estos datos, además de mostrarse muchos abiertos a todos en Radar, se procesan, se generan insights de ciberseguridad, y están dentro del servicio de Cloudforce One, que se puede configurar para unidades de ciberinteligencia, CERTs, CSIRTs, etcétera.

Figura 2: Cloudforce ONE

Aprovechando esos datos, el equipo ha publicado el Cloudflare Threat Report 2026 que puedes descargar desde la siguiente URL: 2026 Cloudflare Threat Report, y que tiene la siguiente tabla de contenidos, donde como podéis ver, se analiza el mundo del Cibercrimen y los ataques Nation State.

Figura 3: Tabla de contenidos del Cloudflare Threat Report 2026

En el se analizan los principales insights de ciberseguridad que son de interés en este año 2026, donde como se puede ver, la automatización de los ataques usando Inteligencia Artificial, es decir, el Hacking con IA, sigue siguiendo el primero de los temas a tener presentes. Por supuesto, los ataques Nation State, que hace años parecían "de película" y hoy en día, con el ecosistema geopolítico que se ha creado es el día a día en Internet.

Figura 4: Principales Insights

También los ataques a servicios SaaS y cadena de suministro son una de las grandes preocupaciones a tener en cuenta este año, por ser uno de los grandes riesgos de ciberseguridad para las empresas, así que hay que reforzar seriamente ese apartado.

Figura 5: Principales Insights

Además, hay que tener en cuenta los insiders en forma de empleados remotos que utilizan sistemas de DeepFakes, los ataques DDoS Volumétricos, así como ataques explotados por algunos grupos de cibercrimen robando tokens 2FA, y fallos en el relay de correo electrónico. Estos ataques DDoS han continuado batiendo records en tamaño, por lo que infraestructuras como la de Cloudflare son las únicas con capacidad global para detener dichos ataques.

Figura 6: Records de los ataques DDoS Volumétricos parados por Cloudflare

En el informe también se dedica un amplio espacio - el informe tiene 52 páginas - a los grupos de cibercrimen y Nation State que están activamente operando en Internet, por si tienes curiosidad. Aquí tenéis un resumen de algunas operaciones en EMEA.

Figura 7: Grupos operando en EMEA

Como recomendaciones, el informe hace especial énfasis en aquellos puntos que deben ser prioridad para los equipos de seguridad de las empresas, donde el despliegue seguro de Inteligencia Artificial es una de las primeras prioridades a tener en cuenta.

Figura 8: Recomendaciones de seguridad

Además, reforzar la gestión de la identidad pasando de MFAs a Identity First, para tener una monitorización constante de las identidades - incluidas las Non Human Identities -, y, por supuesto, toda al gestión de seguridad de los SaaS utilizados.

Figura 9: Recomendaciones de seguridad

En el punto 4, la verificación humana de los empleados como recomendación de seguridad debido a la cantidad de ataques con DeepFakes en empleados remotos. Por supuesto, tener un sistema en Internet preparado para detener ataques DDoS Volumétricos, además de reducir drásticamente la superficie de exposición debido a los SaaS, y reforzar la seguridad de los sistemas de correo electrónico.

Figura 10:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Y por supuesto, además de aprender cuáles son los riesgos de los sistemas, tener información actualizada en tiempo real de amenazas y protecciones a tener en cuenta. Insights e información de Ciberintelgiencia.

Figura 11: Cloudforce ONE

Si estás en un CERT o un CSIRT, te recomiendo que le eches una mirada a Cloudforce ONE que tiene información única aprovechando la escala de la infraestructura de Cloudflare.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

2026 Year of the Evasive Adversary

Ese es el título que le ha puesto el equipo de Crowdstrike a su informe de inteligencia "2026 Global Threat Report - Year of the Evasive Adversary", donde recoge datos de cómo el mundo del Cibercrimen se ha ido adaptando masivamente a las nuevas herramientas de ciberseguridad, pero también al mundo de la Inteligencia Artificial.

Figura 1: 2026 Year of the Evasive Adversary

En nuestro primer libro dedicado al uso de GenAI nos centramos en el uso de Inteligencia Artificial para hacer Hacking & Pentesting, o lo que es lo mismo, para usar la Inteligencia Artificial en fases de Seguridad Ofensiva, que es lo que principalmente interesa al mundo del cibercrimen.

Figura 2: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

En el informe de Crowstrike no sólo se habla de la parte de Inteligencia Artificial, sino especialmente de los grupos de adversarios que están más activos en el mundo del cibercrimen, con operaciones de Ransomware, intrusiones en sistemas, y explotación de todas las vulnerabilidades conocidas y no conocidas, a través de cadena de suministro, usuarios, o dispositivos conectados a las redes. 

Figura 3: Tabla de contenidos del informe de Crowdstrike

Para la parte de Seguridad Ofensiva en el mundo del Cibercrimen, el informe tiene algunos datos muy curiosos, como poor ejemplo el incremento del uso de IA por parte de los adversarios en un 89%, algo que ya vimos en también en el informe de Weaponized AI.

Figura 4: Datos de incremento de la actividad de los adversarios

La media de tiempo que necesitan los atacantes para conseguir acceso a los sistemas es de 29 minutos, y algunos solo 27 segundos, gracias a exploits como los de React (10/10) que tuvimos el año pasado. Además se han detectado 24 nuevos grupos de adversarios, y el uso de vulnerabilidades de 0Day compradas en el mercado negro.

Figura 5: Menciones de modelos de IA en foros de cibrercrimen

Entre los datos curiosos del informe, está el gráfico anterior, donde se recogen, mes a mes, las menciones en los foros de Cibercimen con respecto a los modelos de IA, lo que demuestra cómo el interés principal sigue siendo en ChatGPT, seguido de Gemini, Grok DeepSeek y Claude. 

Al final, como hemos visto en muchos casos, el uso de IA es clave para estos grupos adversarios, donde se usa para construir la explotación, para evitar ser detectados, o recopilar el máximo posible de datos de las máquinas infectadas.

Figura 6: Usos de IA por parte de los grupos adversarios

Además, se ha podido comprobar como muchos grupos hacen el malware completamente usando Prompts en LLMs, para conseguir la explotación perfecta de los equipos infectados. En la imagen siguiente un LLM-Enabled Malware del grupo FANCY Bear que a golpe de Prompt ejecuta sus acciones.

Figura 7: LLM-Enable Malware

Pero no sólo se hace uso de Inteligencia Artificial para ejecutar sus acciones, sino que además se ha empezado a detectar el uso de ataques especialmente diseñados para servicios digitales hechos con Inteligencia Artificial, es decir, Hacking IA.

Figura 8:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

En la siguiente imagen se ven cómo se han detectado explotación de vulnerabilidades de sistemas de Inteligencia Artificial como el CVE-2025-3248 de Langflow, o ataques saltándose los controles de seguridad para explotar MCP (Model Context Protocol).

Figura 9: Threats de servicios de IA.

De todo esto os he hablado muchas veces, en mis conferencias, así que si te interesa este tema, te dejo una conferencia donde hablo de estos temas, además de recomendarte "strongly" nuestro último libro de "Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment".

Figura 10: Ciberseguridad & Inteligencia Artificial enNerdearla España 2025 por Chema Alonso

Para que os hagáis una idea, la última parte del informe trae varias recomendaciones, pero os dejo la primera de todas, que es que si quieres sacar provecho de los modelos de Inteligencia Artificial, tienes que hacer despliegue de guardarails en la empresa para asegurar que no estamos poniendo la compañía en riesgo.

Figura 11: Recomendaciones de seguridad en el informe

Como podemos ver, la Ciberseguridad y la Inteligencia Artificial son ya inseparables, así que más vale que conozcas todas estas disciplinas de Machine Learning, Cognitive Services, GenAI, etcétera, tanto como herramientas para hacer Seguridad Offensiva, como objetivos a fortificar para evitar los bugs que llevan consigo.

Figura 12: Libro de Machine Learning aplicado a Ciberseguridad de
Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández

Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)