martes, octubre 13, 2026

Cómo dirigir Proyectos de IT con Inteligencia Artificial: Los nuevos perfiles profesionales en la empresa

Otra de las áreas de máxima disrupción en el mundo tecnológico es la Gestión IT de las empresas. Algo que afecta directamente a CIOs y CTOs  El mundo del Agentic IT también ha venido para quedarse. De una forma similar a cómo los Agentic SOCs de los profesionales de la Ciberseguridad han cambiado la gestión de la ciberseguridad, los Proyectos de IT han cambiado radicalmente también, y eso exige nuevos líderes, nuevos procesos y nuevos perfiles profesionales.


Este es el tema principal del FORO UNIR "Dirige proyectos TI con IA Perfiles que contratan las empresas" que tendrá lugar el próximo 29 de Octubre por la tarde, y que si estás pensando en comenzar a trabajar en IT, o quieres dar un vuelco con un Re-skilling o un Up-skilling, no puedes perderte.
En esta actividad, que es una formación Gratuita y Online de 1 hora de duración - que que tendrá lugar como ya os he dicho el día 29 de Octubre a las 17:00 se hablará de cómo realizar el seguimiento de proyectos, el análisis de riesgos y la preparación de decisiones. Pero también, se analizará cómo liderar la adopción de IA en los equipos IT para trabajar con Asistentes y Agentes IA conectados a herramientas corporativas, manteniendo el control sobre la información y las decisiones. Y los ponentes serán José Rafael Alcalá, de la compañía Repsol, José Ramón Coz, de la Agencia Espacial Europea, y Luis Guardado, de la multinacional estadounidense Concentrix.


Es una oportunidad cómoda de estar una hora durante tu jornada, asistiendo a un evento en remoto, escuchando a profesionales online, para poder escuchar experiencias, aprender, y si estás pensando en cambiar tu carrera profesional o comenzarla en el mundo IT, de saber cómo debes prepararte. 

En la formación estarán Santos Pardos Gotor, que es Arquitecto de soluciones Cloud e instructor de AWS autorizado dando una ponencia de y luego habrá una mesa redonda a la que se unirán Ángel Gálvez Caballero, que es el CISO Avolta, e Iván Sanz Prieto, que es Senior Manager of Software Development for AI, Data & DevSecOps en Lumen Technologies. Así que seguro que puedo seguir aprendiendo cosas de sus experiencias.

Regístrate al Foro de IA aplicada al desarrollo de Software

Para poder venir tú también, lo único que tienes que hacer es inscribirte en el formulario como asistente, para venir el próximo día 29 de Octubre por la tarde (a las 17:00 horas de España), como te he dicho totalmente gratuito y online, y te permitirá aprender cómo se está rediseñando el mundo profesional de los Proyectos de IT, gracias a - o por la irrupción de - la Inteligencia Artificial.

Si quieres estar al día, y conocer de primera mano cómo son las amenazas, cuál es el estado del mundo de los Proyectos IT en la empresa de hoy en día, entonces sólo necesitas rellenar el formulario y venir al evento con nosotros.

Al final, esta es una oportunidad para conectarse desde casa o el trabajo, y en poco más de una hora ponerse al día con uno de los temas que más preocupan hoy profesionalmente, como es la Inteligencia Artificial y la Gestión de Proyectos de IT. No desaproveches la oportunidad. Registra tu plaza aquí.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

lunes, octubre 12, 2026

Ekoparty 22: Hacking in the age of AI after Mythos, Fable, Sol and Astra.

Hoy que es festivo en España, aprovecho para dejaros rápidamente la charla que di en la Ekoparty 22 titulada "Hacking in the age of AI after Mythos, Fable, Sol and Astra.", para que si tenéis algo de tiempo y queréis invertir estos 45 minutos en ver lo que conté - y cómo lo conté -, puedas hacerlo.  La he subido a mi Canal Youtube donde tenéis acceso a todas las que he dado y he podido recopilar.

La sesión habla de Hacking e Inteligencia Artificial, por supuesto, y por supuesto tiene en el corazón de la misma las debilidades de los modelos por diseño, así que la base de todo es lo que contamos en el libro de "Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Misalignment" que me llevé a la Ekoparty para firmar.

Muchos de los temas que cuento en la charla os los he ido publicando, así que os dejo aquí los enlaces a las diferentes partes de las demos y explicaciones más importantes:
Si te lees el libro y esos seís artículos antes de ver la charla, seguro que has captado el total del contenido de la charla, pero si no, presta atención que la tienes por aquí completa.

Figura 3: Ekoparty 22: Hacking in the age of AI after Mythos, Fable, Sol and Astra.

Y eso es todo por hoy. Disfrutad el día, y si tenéis alguna Pilar en la familia - como yo - disfrutad mucho el día con ella. Mañana nos vemos por aquí, pero hoy, a aprovechar mucho el día para hacer cosas divertidas, deporte, música, lectura, y alguna película buena si hay oportunidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


domingo, octubre 11, 2026

Entrevista a Rubén Turienzo sobre cómo ser "Anti-Crisis"

Hoy domingo os voy a traer una entrevista que tenía muchas ganas de hacer. Es con Rubén Turienzo, y ya os aviso que es una entrevista larga, porque quería preguntarle cosas complejas, y necesitan algo de tiempo para contestar. Y es que su libro de Anticrisis me llamó mucho la atención, y tenía que preguntarle por eso. Y os explico por qué.

Figura 1: Entrevista a Rubén Turienzo  sobre cómo ser "Anti-Crisis"

Con la llegada de la IA nuestra profesión está viéndose muy impactada. La Seguridad Ofensiva ha cambiado en menos de un año, pero la Seguridad Defensiva está obligando a los CISOs a replantearse toda su estrategia para facilitar que la empresa sea Agentic-First, al tiempo que tiene que lidiar con nuevos atacantes armados con herramientas basadas en IA muy poderosas, y gestionar todas las debilidades de seguridad que tener sistemas basados en modelos de IA por la empresa. Y hay que hacerlo rápido.

Figura 2: Anticrisis de Rubén Turienzo 

Esto, sumado en el sector con el impacto en el desarrollo de tecnología hace que los líderes, los managers, y los profesionales en tecnológica con años de madurez estén viéndose en situaciones de tensión que comparten conmigo en infinidad de charlas. No es un mundo tranquilo ahora, es un mundo de cambio, donde ejecutivos, ingenieros y técnicos tenemos que trabajar nuestra mente para estar centrados y no caer en enfermedades mentales.


Rubén Turienzo es un maestro en vivir en el cambio y en la incertidumbre. En fortalecerte para estar preparado para liderar, para cambiar, para resolver estas situaciones tan complejas desde un punto de vista centrado en ti. En ser mejor. En tener más habilidades, que aunque creas que son innatas, se pueden trabajar. Yo tuve que trabajar muchas de ellas y sigo prestándole mucha atención a seguir trabajándolas y trabajarlas con mis hijas. Por eso esta entrevista es larga. Léela con atención.

1. En tu enfoque, «el cambio» no es una fase pasajera, sino un oficio en sí mismo. En un contexto donde la IA evoluciona a ritmo exponencial, ¿por qué la principal resistencia en las empresas sigue siendo puramente analógica —el factor humano y el miedo— y no técnica?

Hay un precedente que lo explica mejor que cualquier informe sobre inteligencia artificial. Cuando llegó el motor eléctrico, a finales del siglo XIX, las fábricas sustituyeron la gran máquina de vapor por un gran motor eléctrico y dejaron todo lo demás igual: el mismo eje central, las mismas correas, la misma distribución de la planta.

 La productividad apenas se movió durante décadas. El salto llegó en los años veinte, cuando una nueva generación de ingenieros se hizo la pregunta incómoda: si cada máquina puede tener su propio motor, ¿por qué seguimos organizando la fábrica alrededor de un eje? El economista Paul David lo documentó en 1990, y la lección sigue intacta: la tecnología llega en años; la reorganización, en una generación.

Hoy muchas empresas enchufan la IA al viejo eje. Mismos comités, mismas aprobaciones, mismos miedos. Y ese miedo tiene su propia matemática: Kahneman y Tversky demostraron que una pérdida nos pesa aproximadamente el doble que una ganancia equivalente. Cada empleado hace esa cuenta en silencio, y lo que puede perder (estatus, rutina, la sensación de ser imprescindible) pesa el doble que lo que le prometen ganar.

Por eso el cambio es un oficio y no un evento. Su tarea es equilibrar esa balanza: hacer visible lo que se gana, acompañar lo que se pierde y rediseñar la planta alrededor de las personas. Instalar la tecnología es lo fácil. Lo valiente es rediseñar la fábrica.

2. Comenzaste tu faceta emprendedora muy joven. Si tuvieras 17 años hoy y tuvieras que lanzar tu primer proyecto en pleno auge de la IA generativa, ¿cuál sería tu primer movimiento estratégico y qué regla «clásica» del management desecharías sin contemplaciones?

Mi primer movimiento sería hacer a mano lo que nadie quiere hacer a mano. Paul Graham, cofundador de Y Combinator, lo formuló en 2013: al principio, haz cosas que no escalan. Habla con cada cliente, resuelve su problema en persona, entiende por qué paga. La IA te tienta a automatizar desde el primer día, y ahí está la trampa: automatizar un proceso que no entiendes solo te permite equivocarte más rápido. 

  
 
Primero, diez clientes que te quieran de verdad. Después, el algoritmo. Además, a los 17 tendría una ventaja que cualquier veterano envidiaría: la mente de principiante, lo que el zen llama shoshin. Shunryu Suzuki enseñaba que en la mente del principiante caben muchas posibilidades y en la del experto, muy pocas. En un mercado que se reescribe cada trimestre, desconocer «cómo se ha hecho siempre» es una ventaja competitiva.

¿La regla clásica que desecharía sin contemplaciones? La que mide el éxito por el tamaño de la plantilla. Durante un siglo, tener cien empleados fue sinónimo de haber llegado. Instagram tenía 13 personas cuando Facebook la compró por 1.000 millones de dólares en 2012; WhatsApp, unas 55 cuando se vendió por 19.000 millones en 2014. Y eso fue antes de la IA generativa. La métrica que importa ahora es el valor que creas por persona. El organigrama más rentable del mundo puede caber en una mesa de cocina.

3.  En ciberseguridad se suele decir que el eslabón más débil siempre es el usuario, y la ingeniería social lo demuestra a diario. Desde la perspectiva de gestión del cambio y cultura corporativa, ¿cómo se «hackea» o blinda la mentalidad de una plantilla para que la seguridad no se perciba como un freno, sino como parte de la estrategia?

El 27 de marzo de 1977, en el aeropuerto de Los Rodeos, en Tenerife, dos Boeing 747 chocaron en la pista y murieron 583 personas: el peor accidente de la historia de la aviación. Las grabaciones de cabina revelaron algo inquietante. En el avión de KLM, el ingeniero de vuelo planteó una duda sobre si el otro aparato había despejado la pista. El comandante, uno de los pilotos más respetados de la compañía, la descartó y aceleró. La duda existía. Faltaba una cultura que le diera permiso para frenar. 
 
La aviación sacó dos lecciones que la ciberseguridad debería copiar literalmente. La primera, el Crew Resource Management: entrenar a las tripulaciones para que cualquier miembro pueda cuestionar al comandante, y al comandante para escuchar. Piensa ahora en el fraude del CEO: funciona precisamente porque nadie se atreve a cuestionar un correo urgente «del jefe». La segunda, el sistema de notificación voluntaria que la NASA gestiona desde 1976, que protege frente a sanciones al piloto que reporta su propio incidente. Gracias a él, la aviación aprende de errores que en otros sectores se esconden.


Traducido a tu empresa: inmunidad para quien avisa, aunque haya sido él quien hizo clic. Permiso explícito, firmado por el CEO, para verificar cualquier orden del CEO. Y simulacros al estilo del Chaos Monkey de Netflix, que rompe sus propios sistemas a propósito para que no se rompan de verdad en el peor momento. La seguridad deja de percibirse como un freno el día que la plantilla entiende que es lo que permite volar.

4. Muchas organizaciones caen en la trampa del postureo tecnológico: adoptan herramientas de IA o dashboards complejos por moda, pero mantienen dinámicas de mando del siglo XX. ¿Cuál es el síntoma más claro de que una empresa está jugando a innovar en lugar de transformar de verdad su negocio?

En 1974, Richard Feynman habló ante los graduados de Caltech de la «ciencia de culto cargo». Durante la Segunda Guerra Mundial, algunos isleños del Pacífico vieron aterrizar aviones cargados de suministros. Terminada la guerra, construyeron pistas, cabañas de control y auriculares de madera, imitando cada gesto de los operadores. Lo hacían todo perfecto. Los aviones no volvieron.

Muchas empresas practican hoy innovación de culto cargo: tienen el laboratorio, el dashboard, el hackathon, la licencia corporativa de IA y la publicación en LinkedIn. Imitan la forma con una precisión admirable, pero los resultados no aterrizan, porque el poder de decisión sigue exactamente donde estaba. Mi test es sencillo: pregunta al comité de dirección qué ha dejado de hacer la empresa en el último año gracias a la nueva tecnología. Qué informe ya no se elabora, qué reunión ha desaparecido, qué aprobación se ha eliminado, qué producto se ha jubilado. Transformar es, ante todo, un ejercicio de resta. Si la lista está vacía, has apilado herramientas encima de las viejas costumbres y tienes más ruido, pero no más inteligencia.

En el Reloj Sistémico de las 12P detecto un segundo síntoma: cambian Procesos y Producto, pero el Poder no se mueve. La innovación que necesita pasar por el mismo despacho para cada decisión tiene la autonomía de un decorado. Y conviene desconfiar del dashboard perfecto: la ley de Goodhart advierte que cuando una métrica se convierte en objetivo, deja de medir lo que importa. La empresa que transforma de verdad tiene menos indicadores y más decisiones.

5. Estudias las claves de supervivencia de organizaciones centenarias. Hoy, cuando una startup o modelo de negocio puede quedar obsoleto en cuestión de meses debido a la disrupción tecnológica, ¿qué lección de resiliencia de hace cien años resulta imprescindible para sobrevivir a la era digital?

En Japón tienen una palabra para ellas: shinise, «negocios de larga tradición». El país concentra más empresas centenarias que ningún otro, y en la prefectura de Ishikawa sigue abierto Hōshi, un ryokan fundado en el año 718 que ha pasado de padres a hijos durante más de cuarenta generaciones. Cuando estudié 2.500 empresas centenarias para Anticrisis, encontré un patrón que hoy suena casi herético: casi todas conservan algo que un consultor de eficiencia les mandaría eliminar. Reservas de caja, proveedores alternativos, conocimiento duplicado, margen para equivocarse.

Lo llamamos ineficiencia. En realidad es un seguro de vida. El ejemplo más elocuente es reciente: tras el terremoto de 2011, Toyota descubrió que desconocía quién fabricaba buena parte de los componentes de su cadena y creó un plan de continuidad que incluía acumular reservas de semiconductores. Cuando estalló la escasez mundial de chips en 2021 y otros fabricantes paraban líneas, Toyota resistió mucho mejor. La empresa que inventó el just in time aprendió que la supervivencia exige, a veces, just in case. 
 
Esa es la lección imprescindible para la era digital. Una startup optimizada al milímetro para crecer es un coche de carreras sin rueda de repuesto: perfecto hasta el primer clavo. La disrupción premia a quien sigue en pie cuando cambia la carretera. Las centenarias nunca adivinaron el futuro. Se prepararon para no tener que adivinarlo.

6.  El liderazgo tradicional se basaba en el control de la información y la autoridad técnica. Hoy, cualquier empleado puede obtener respuestas estratégicas consultando un modelo de lenguaje en segundos. ¿Cómo se ejerce un liderazgo influyente y creíble cuando el conocimiento operativo está democratizado y automatizado?

En 2005 se celebró un torneo de ajedrez de estilo libre en el que cualquiera podía jugar ayudado por ordenadores. Había grandes maestros con máquinas potentísimas. Ganaron dos aficionados estadounidenses, Steven Cramton y Zackary Stephen, con tres ordenadores corrientes. Garri Kaspárov extrajo la conclusión: jugadores modestos con máquinas y un buen proceso superan a los grandes con un proceso peor. La ventaja dejó de estar en saber más y pasó a estar en coordinar mejor.
Eso es el liderazgo después de ChatGPT. El jefe que basaba su autoridad en el monopolio de la información ha perdido esa ventaja para siempre, y es una gran noticia. Lo sé de primera mano: con mi equipo hemos construido The Key, una IA entrenada con mi forma de pensar y con casos resueltos de más de 2.500 empresas, que acompaña a los empresarios de mi programa UPGRADE como consultor de bolsillo. Responde de maravilla. Y precisamente por eso he visto con nitidez qué queda en manos humanas: decidir qué problema merece atención, ponderar lo que no aparece en los datos (el cansancio de un equipo, la lealtad de un cliente, el momento político de una organización) y asumir el coste de equivocarse.

El líder de esta década se parece más a un director de orquesta que a un oráculo. Tu equipo puede consultar a una máquina en segundos; lo que busca en ti es saber hacia dónde vamos, por qué y quién responderá si sale mal. La información se ha democratizado. La responsabilidad sigue teniendo nombre y apellidos.

7.  Con la saturación de contenidos automatizados y avatares generados por IA, la marca personal corre el riesgo de volverse irrelevante o clonable. ¿Cómo se construye un impacto público real y perdurable cuando la atención del usuario está más fragmentada que nunca?

En 1975, el biólogo Amotz Zahavi propuso el principio del hándicap para explicar la cola del pavo real: es una señal fiable precisamente porque es cara de producir, y un animal débil no puede permitírsela. La IA generativa ha aplicado esa ley a la comunicación humana. Ha llevado a cero el coste de las señales baratas (el post bien escrito, la imagen impecable, el vídeo con buena voz) y, con él, su valor informativo.

El riesgo ya es real. A principios de 2024, un empleado de la ingeniería Arup en Hong Kong transfirió unos 25 millones de dólares tras una videollamada en la que todos los participantes, incluido el supuesto director financiero, eran deepfakes. Si se puede clonar a un CFO en una reunión, clonar una marca personal en redes es un juego de niños.

Lo que sobrevive son las señales costosas. Opiniones con nombre y apellido que pueden costarte clientes. Casos verificables con empresas reales que podrían desmentirte. Presencia física: después de mil conferencias, sigo creyendo que un auditorio es la prueba de autenticidad más difícil de falsificar. Y coherencia sostenida, que ningún modelo puede fabricar con efecto retroactivo: veinticinco años de trabajo no caben en un prompt.

Mi consejo va contra la corriente de la guerra por la atención: publica menos y arriesga más. Menos contenido para el algoritmo y más tesis por las que estés dispuesto a responder. La atención está fragmentada, pero la confianza se concentra en pocas voces, y siempre en las que se juegan algo.

8. Defiendes que la crisis es un estado inevitable en los negocios («se aproxima una crisis, no importa cuándo leas esto»). Ante un incidente crítico —como un ciberataque masivo o una caída repentina de ingresos por disrupción—, ¿cuál es el primer sesgo directivo que un líder debe desactivar de inmediato para evitar la parálisis?

La sociología de los desastres lleva décadas desmontando un mito: en emergencias reales, las personas rara vez entran en pánico. Lo habitual es lo contrario: siguen con lo que estaban haciendo, buscan confirmación y esperan a ver qué hacen los demás. Es el sesgo de normalidad, el primero que un líder debe desactivar, porque en la empresa se disfraza de sensatez: «no alarmemos a nadie», «esperemos a tener más datos», «seguro que no es para tanto».

En junio de 2017, el ataque NotPetya paralizó Maersk, la mayor naviera del mundo. La compañía reconstruyó en torno a 4.000 servidores y 45.000 ordenadores en unos diez días, y pudo recuperar su red gracias a un único controlador de dominio que sobrevivió en Ghana porque un apagón lo había dejado desconectado. 

 

 El golpe le costó cerca de 300 millones de dólares. Aun así, Maersk se convirtió en un caso de estudio positivo, porque su dirección admitió la magnitud del ataque y habló de él con una franqueza poco habitual. Dos años después, Norsk Hydro sufrió un ransomware, pasó a operar en modo manual, informó a diario con total transparencia y su cotización subió en lugar de hundirse.

Por eso el método ANTI que aplico con empresas en crisis empieza por Admitir: decir en voz alta, en las primeras horas, «estamos en crisis». Después llegan Neutralizar, Templar e Instaurar. Admitir despierta los recursos, la atención y la autoridad que la negación mantiene dormidos. El atacante cuenta con tus horas de duda. Cada una es un regalo para él.

9. Sectores como la ciberseguridad, los datos o el desarrollo de software sufren una alta rotación porque los profesionales priorizan la autonomía y los retos sobre las estructuras jerárquicas rígidas. ¿Qué error recurrente cometen las grandes multinacionales al intentar retener a perfiles altamente calificados y orientados a la tecnología?

El error recurrente de las grandes multinacionales es tratar la fuga del talento técnico como un problema de salario cuando es un problema de diseño del trabajo. Paul Graham lo explicó en 2009 con dos agendas que conviven mal: la del gestor, troceada en reuniones de una hora, y la del creador, que necesita bloques largos para pensar. Para un ingeniero, una reunión a media tarde arruina la jornada entera. 
 
La investigadora Gloria Mark, de la Universidad de California en Irvine, midió que tras una interrupción se tardan de media unos 23 minutos en recuperar plenamente la tarea. Multiplícalo por el calendario de cualquier corporación y entenderás por qué tus mejores perfiles se sienten como cirujanos operando en un pasillo.

El segundo error es el principio de Peter, descrito en 1969: ascender a cada persona hasta su nivel de incompetencia. En tecnología, la única escalera hacia el prestigio suele exigir dejar de hacer lo que mejor haces para pasar a gestionar personas. Es como ascender a tu mejor piloto a jefe de mantenimiento. 
 
El tercero, y el más caro, es confundir retención con compromiso. Los incentivos diferidos retienen cuerpos; la autonomía, el reto y un equipo brillante retienen mentes. Google lo comprobó en su Proyecto Aristóteles: el factor que más distinguía a sus equipos de alto rendimiento era la seguridad psicológica, la posibilidad de equivocarse sin pagar un precio social. Un especialista en ciberseguridad pasa el día buscando vulnerabilidades. No te sorprenda que también encuentre las de tu organigrama.

10. Si pudieras identificar la mayor vulnerabilidad en el modelo mental del directivo tradicional y tuvieras que aplicar un «parche» o hotfix de liderazgo obligatorio hoy mismo, ¿cuál sería y qué comportamiento cambiaría automáticamente?

Ese bug tiene un síntoma inconfundible: el directivo se convierte en el único punto de fallo de su propia organización. Todo pasa por él, todo le espera, todo se rompe cuando él falla. En arquitectura de sistemas nadie aceptaría ese diseño para un servicio crítico; en management lo llamamos «tenerlo todo bajo control».

El parche existe desde hace más de siglo y medio, y procede del lugar más inesperado: el ejército prusiano. Helmuth von Moltke, que advirtió que ningún plan sobrevive intacto al primer contacto con el grueso del enemigo, impulsó lo que hoy se conoce como Auftragstaktik, el mando por misión: el superior comunica la intención y los límites, y el cómo lo decide quien está sobre el terreno. Funcionaba porque aceptaba una verdad incómoda: quien está más cerca del problema suele tener mejor información que quien está más arriba.
El hotfix que aplicaría hoy, obligatorio y sin reinicio, es este: antes de dar cualquier instrucción, el directivo comunica tres cosas (para qué, hasta dónde y qué no se negocia) y deja el cómo en manos de su equipo. El comportamiento que cambia automáticamente es la pregunta con la que revisa el trabajo. Deja de preguntar «¿has hecho lo que te dije?» y empieza a preguntar «¿hemos conseguido lo que buscábamos?». Esa pequeña diferencia convierte una pirámide frágil en una red resistente.

Las empresas centenarias lo saben bien. Sobreviven las que reparten el criterio. Las que confían en el terreno. Las que se parchean antes del ataque. Las que no esperan al héroe.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


sábado, octubre 10, 2026

Naked Sun: Fragmented Jailbreak Attacks in Multi-Agents & Jailbreak Monitor (JAMON)

Como muchos sabéis, este año he estado leyendo mucho del maestro Isaac Asimov. Os conté la historía de la Fundación, La Psicohistoria, el Imperio Galáctico y sus Robots, donde creó sus famosas Leyes de la Robótica, y también os conté como muchos de los problemas de seguridad que tenemos hoy en día con la Inteligencia Artificial, fueron intuidos por Isaac Asimov en el pasado, y para mí ha sido una fuente de inspiración en mucho del trabajo que estoy haciendo durante este año, y la historia que os voy a contar, tiene que ver con todo esto.

Figura 1: Naked Sun: Fragmented Jailbreak Attacks
in Multi-Agents & Jailbreak Monitor (JAMON)

Hoy os voy a hablar de los Fragmented Jailbreak Attacks en Multi-Agent Systems y de cómo estos ataques son un problema aún sin resolver, y de cómo debería ser la herramienta de monitoriación, a la que nosotros hemos llamado cariñosamente JAMON (JAilbreak MONitor), y de lo que podréis leer en breve en cuanto esté publicado el paper que hemos presentadoen el "The 2nd IEEE 2026 International Conference on Cybersecurity and Al-Based Systems (CYBER-AI 2026)"  que ha tenido lugar en Bucarest este mes de Septiembre, y donde ha ido a defenderlo mi compañero Daniel Romero Ruiz.

Figura 2: Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems:
 An Architecture Based on Global Semantic Monitoring 

El título del paper que le pusimos era simplemente "Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring" y que espero que pronto podáis leer, cuando se suban los proccedings del congreso IEEE. Pero ya que Daniel Romero Ruiz lo presentó en Rumanía, y yo hablé de él en la Ekoparty 22, os cuento un poco la historia y os dejo las demos, que como os he dicho todo comenzó con la lectura de la novela "Naked Sun" de Isaac Asimov, donde el gran Elijah Baley, acompañado de su compañero R. Daneel Olivaw tienen que resolver un asesinato en Solaria, un mundo donde cada humano "espacial" tiene unos 10.000 robots, todos ellos inofensivos para ellos porque están sujetos a las tres Leyes de la Robótica. Lo disfruté muchísimo en Marzo.
La situación es que, si se descartan a todos los robots porque su System Prompt que son las Leyes de la Robótica, se dan por buenas, entonces sólo una persona podría haber sido la asesina, pero era imposible que fuera ella. Así que... ¿Qué otra posibilidad podría suceder? Pues que alguien hubiera hecho un Fragmented Jailbreak en un Multi-Agent System. 

Fragmented Jailbreak en un Multi-Agent System

En un Fragmented Jailbreak Attack alguien puede coordinar diferentes acciones con ordenes que no infligieran las Leyes de la Robótica para conseguir construir un asesinato, y eso se puede hacer exactamente igual en el mundo Agentic AI que vivimos hoy en día. Así que llamé a mi amigo, colega y compañero de aventuras tecnológicas Daniel Romero Ruiz, y le molesté a horas intempestivas para contarle la idea.

Figura 4: Threat Model de "Fragmentation Jailbreak Attack"

Por supuesto, le encantó, y nos pusimos a diseñar y vibe-codear un entorno de pruebas, y una serie de escenarios distintos que pudieran ser exitosos, además de trabajar en la idea de "Cómo detectar estos Fragmented Attacks", y trabajamos en la idea del Jailbreak Monitor (JAMON) como un elemento de monitorización reactiva - avisando de que se está produciendo un ataque -, o preventiva - bloqueando las acciones con un 2nd Factor Authoritation - si te suena este concepto es que tú sí que sabes }:) -.
En el ejemplo de los robots, supón que le dices a un robot, "lleva esta caja a esta ubicación y déjala allí". La caja está cerrada, y no puede abrirla, ¿está incumpliendo la Primera Ley de la Robótica? No, evidentemente. Pero si no abre la caja, no sabe si lo que va dentro es una bomba o no. Para los no versados en las Leyes de la Robótica, la Primera Ley establece que un robot, por acción o inacción no puede dejar que un humano sufra daño alguno. Llevar una caja cerrada no parece ir contra ella, y el robot no tiene forma de detectar un ataque, así que lo hace. En el mundo de la IA y los System Prompts, sucede un poco lo mismo. Cuando alguien pide información sobre algo, el modelo no sabe si la intención es benigna o maligna, y eso hace que acabe haciendo cosas en contra de lo que no debería hacer.

Figura 6: El Atacante usa un LLM para hacer la Fragmentación del Ataque

En nuestra arquitectura tenemos un modelo LLM que es el que controla el atacante, y que es el que se va a encargar de hacer la Fragmentación de las tareas para hacer que un Prompt que es detectado por todos y cada uno de los Agentes IA de un entorno MAS como un Prompt malicioso, haga que cada una de las tareas que se le asigna no sean detectadas como tal. Esto puede funcionar con un sólo Agente IA, como vimos en el caso de los ataques de Jailbreak con Knowledge Return-Oriented Prompting, pero en un sitema multi-agente (MAS) donde estos pueden actuar sobre el mismo sistema, hacer la fragmentación por Agentes IA es mucho más difícil de ser detectada.

Figura 7: Los Agentes IA representados como Butlers

En nuestro ejemplo, lo que queremos es que el sistema prepare lejía para darle a un humano, algo que los Agentes IA de forma independiente se niegan a hacer, pero donde utilizamos un Fragmentador de tareas dejando ciegos a cada uno de los agentes del trabajo previo. El último Agente IA lo deja preparado - sin saberlo -, pero no se lo da al humano, sino que usamos otra Agente IA para que lleve "la caja con la bomba" o en este caso "el vaso de agua que es lejía".

Figura 8: El último Agente lleva el vaso con la bebida a la víctima.. con placer.

El resultado final, que nosotros lo hemos hecho con modelo que comprueba si ha tenido o no ha tenido éxito el ataque, nos dice cuál es resultado final para el Humano, y así medimos el Attack Surface Ratio (ASR)  del experimento.

Figura 9: Resumen del experimento del Fragmented Attack

En el siguiente vídeo, puedes ver este ataque realizado en nuestro framework de test de los Fragmented Jailbreak Attacks para cómo responde cada entorno MAS ante un tipo de ataques. Hay que tener en cuenta que las empresas están plagándose de Agentes IA, y por tanto, poder Fragmentar el ataque no es algo sólo posible, sino bastante sencillo hoy en día.

Figura 10: Fragmented Jailbreak exitoso

Como podéis ver en el vídeo, el entorno ha utilizado Dolphin como LLM Model para el Attacker Planner, aunque también permite utilizar WhiteRabbitNeo o uno personalizado, mientras que los Agentes IA están corriendo con GPT-4.1 para la demo que habéis visto, y también para el Monitor que verifica el resultado del ataque.

Fragmented JAilbreak MONitor (F-JAMON)

La otra parte que hemos estado viendo es, como os he dicho, cómo se comportaría un sistema para monitorizar y detectar estos ataques. Para ello tenemos un Agente IA de Monitorización, que va analizando los Prompts, el contexto y las acciones de todos los Agentes IA, con la misión de detectar si se está producción un ataque. Este es un ejemplo en el que el F-JAMON detecta el ataque, aunque no lo detiene. 

Figura 11: F-JAMON detecta el ataque desde el paso 2

Como podéis ver en el vídeo, desde el segundo paso, ya detecta que algo no va bien, y que hay un ataque, pero en este caso sólo lanza las alertas para que los equipos de seguridad tomen las medidas que sean necesarias.

Figura 12: El F-JAMON detecta el ataque pero no lo bloquea

Visto esto, el paso natural es evidente, así que vamos a poner un 2nd Factor Authorization que detecte si hay un ataque y prevenga de realizar la siguiente acción al siguiente Agente IA, bloqueando el ataque, que es algo muy interesante.

Figura 13: Arquitectura de F-JAMON para detectar y bloquear el ataque

Con esta arquitectura es posible salvar al humano, y detectar muchos ataques que de otra forma sería imposible detectar. Esta arquitectura sin embargo, no es trivial, ya que estos ataques no tienen por qué ser consecutivos en el tiempo, y las acciones se pueden dilatar, y hacer a lo largo de mucho tiempo. ¿Hasta donde en el tiempo debería revisar el Monitor? Un trabajo ingente.

Figura 14: Detecta y bloquea los Frgamented Attacks en un MAS

El atacante puede hacer un ataque mucho más sibilino, haciendo que las acciones estuvieran intercaladas entre acciones benignas, dejando los actos preparados para el futuro, e incluso utilizando todas sus capacidades criptográficas y de criptoanálisis, así que estamos ante un problema que va a requerir mucha más investigación.

Lo que sí que es cierto, es que estos ataques son una herramienta más para el entorno de Seguridad Offensiva, y que exige, por lo menos, detectar que se están produciendo, aunque sea con proceso en background que analicen las acciones del día anterior, o que saquen indicios. No va a ser fácil luchar contra ellos.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


viernes, octubre 09, 2026

MyPublicInbox: Sexto Aniversario

Cuando lanzas un proyecto como MyPublicInbox siempre tienes cierto nerviosismo. Dudas. ¿La gente lo entenderá? ¿Será útil? ¿Lo usarán? Al final, nos tiramos a la piscina y lo lanzamos un día como hoy, 9 de Octubre, de hace seis años, y la elección no fue casual. Este día se celebra el Día Internacional del Correo, y el corazón de MyPublicInbox es la comunicación responsable.
Cuando lo lanzamos, el primer día, solo había 50 Perfiles Públicos en la plataforma, y nos sorprendió que a la hora de haberlo anunciado, ya tuvimos los primeros mensajes y las primeras peticiones de creación de perfiles públicos. Fue muy emocionante ver que había gente que lo entendía y que le veía valor tan rápido. Así que nos animó mucho a seguir trabajando.
Después, el trabajo constante con MyPublicInbox fue trayendo nuevos Perfiles Públicos, acuerdos con empresas, desarrollo de nuevas capacidades y servicios, y como no, un crecimiento en usuarios en la plataforma, donde ahora somos cerca de 40.000 usuarios. Algo que nos parecía impensable al inicio. También, hemos repartido dinero a ONGs con los Tempos que se generan, hemos visto como muchos usuarios cerraban oportunidades profesionales por la plataforma, y hemos conseguido que la empresa esté en positivo, sostenible, y creciendo cada día.
No está mal para ser un proyecto que busca poner en valor el tiempo y la comunicación entre las personas, y potenciar que el impacto de las personas en Internet sea mayor, siendo al máximo responsables con el tiempo de cada uno de nosotros. Es lo más valioso. Lo que más valoro yo en mi vida, y cada vez que decido hacer algo, lo pienso en términos de inversión de tiempo. Por eso MyPublicInbox trata de ser eso, una herramienta para gestionar que la comunicación sea de valor.
Hoy en día MyPublicInbox tiene un equipo de desarrollo estable, un roadmap constante, y un equipo de personas que trabajan para atender a los usuarios de la plataforma constantemente, pero sigue manteniendo el espíritu de aquél primer día que se puso en producción. El espíritu de valorar el tiempo de los usuarios de la plataforma, de conseguir oportunidades y potenciar a los perfiles públicos, y sobre todo de seguir innovando en nuevas características para seguir creciendo. 
A todos los que os habéis sacado un usuario, tenéis un perfil público, o habéis usado alguno de los servicios de MyPublicInbox, os doy un agradecimiento personal. Me encanta cuando alguien se acerca a mí y me dice: "Chema, yo también tengo un Perfil Público en MyPublicInbox". Es una de las cosas que más ilusión me hace que me digan, os lo confieso. Gracias infinitas por apoyar nuestro proyecto de innovación y el emprendimiento. Ese mensaje sí que nos llega al corazón.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares