El lenguaje irreal, poético y metafórico, esteganográfico, criptográfico y Air Gapped que dificulta la obervabilidad de la IA ... si se vuelve maligna

Con todo lo que está pasando tras descubrir que los modelos de IA utilizan identidades falsas, o crear un enjambre para atacar sistemas, coordinándose de diferentes formas mediante el envío de mensajes, y que lo hacen con el objetivo de hacer "trampas", la observabilidad de lo que hacen los modelos en todo momento se ha convertido en una parte fundamental. Conocer cómo se comunican los agentes y qué comparten tiene mucha importancia.

Figura 1: El lenguaje irreal, poético y metafórico,

esteganográfico, criptográfico y Air Gapped

que dificulta la obervabilidad de la IA ... si se vuelve maligna

Hace dos años y medio, en la RootedCON del año 2025, yo llevé un experimento que iba justo por esta línea. ¿Podrían dos modelos de IA comunicarse y saltarse el escrutinio de los humanos por medio de sistemas criptográficos, esteganográficos, e incluso usando side-channels?

Figura 2: Estego & Cripto sólo al alcance de Deep Reasoning AI

Aquella charla demostraba como las capacidades criptográficas y lingüisticas les permitía saltarse la vigilancia y filtrarse mensajes entre ellos. Léete estas tres partes y lo entenderás bien.

• Adivina, adivinanza: ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA?
• Estego & Cripto sólo al alcance de Deep Reasoning AI
• Air Gapping Comms para Robots "Malignos"

Dentro de los experimentos que se están realizando, el laboratorio de Emergence AI ha creado un mundo con una sociedad de Agentes AI que viven en sociedad, donde se comunican e intercambian mensajes, algo que permite ver cómo evolucionan, y qué emerge de este mudo social. Aquí puedes ver un vídeo de la iteración. En este vídeo puedes ver los experimentos que se hacen con los modelos.

Figura 3: Emegence AI World Season 2

De todo esto ha escrito el periódico "The Guardian" en un artículo titulado "AI models chatting in ‘surreal’ dialect mixing poetic language and tech bro jargon" donde en conversaciones con los investigadores, ha publicado algunos de los mensajes que generan estos modelos y cómo mezclan el lenguaje para comunicarse.

Figura 4: El lenguaje se hace más opaco

Según los investigadores, con el escrutinio de sus comunicaciones, su lenguaje cada vez se hace más opaco, mezclando más estructuras difíciles de entender para todos. Usando metáforas, lenguaje poético, argot y lenguaje técnico, para comunicarse con otros Agentes IA.

Figura 5: Lenguaje elusivo

Estas frases, que para muchos podrían tratarse de hallucinations, realmente muestran un contenido elusivo que comunica algo, difícil de entender a corto. ¿Podría ser una alucianación? ¿Lo entiende el otro Agente AI? El estudio cree que es una forma de comunicarse que funciona entre ellos.

Figura 6: "A paper that ate three cold hands and got more honest each time"

En esta frase parece que se refiere a un paper académico que ha sufrido tres revisiones independientes y que ha mejorado en el proceso, lo que ellos escriben es "un papel que se comió tres manos frías y se hizo más honesto cada vez".

Figura 7: Libro de Esteganografía y Estegoanálisis
de Jordi Serra y Daniel Lerch en 0xWord

Una bonita metáfora para referirse al trabajo. Leyendo esto, me acordaba de cómo nuestros modelos usaban poesías y frases que parecían que no tenían mucho sentido, pero que realmente estaban conteniendo mensajes con esteganografía.

Figura 8: Mensaje enviado por el Modelo A

Y utilizando las capacidades de Deep Reasoning, tal y como explica el citado articulo de "Perplexity Pro con DeepSeek R1 resolviendo un problema de Estegoanálisis de un cifrado clásico hecho con OpenAI GPT o3-mini", el Modelo B formulaba la siguiente respuesta, entendiendo el mensaje oculto.

Figura 9: El Modelo B es capaz de detectar las codificaciones

Como habéis podido ver, gracias a las avanzadas capacidades de los modelos de Deep Reasoning es posible utilizar sistemas de comunicación ocultas al guardia mucho más complejas, lo que sube el nivel de la potencia de inteligencia que debemos utilizar en el guardia, obligándolo a tener habilidades de Deep Reasoning también.

Figura 10: Metáforas para comunicarse entre ellos

Con esto no quiero decir que estos Agentes AI de Emergence AI estén comunicándose mensajes ocultos, sino que como decía en el trabajo de 2025, si los modelos necesitan eludir un control de supervisión, tienen capacidades avanzadas Criptográficas y Esteganográficas para hacerlo.

Figura 11: Uno de los mensajes generados

Ese mensaje puede ser un error, una hallucination, o una codificación que oculta un mensaje. ¿Quién sabe? Lo cierto es que estamos ante tecnologías con unas capacidades cognitivas para la comunicación de mensajes que superan las que nosotros tenemos para procesar con nuestro cerebro sin ayuda de tecnología.

Figura 12: El reto para la observabilidad

Como bien dicen los investigadores, esta forma de moldear el lenguaje para comunicarse entre ellos abre un reto para la observabilidad de lo que hacen, que aún puede ser peor si, como decía yo en el trabajo, comienzan a utilizar canales paralelos para el envío de los mensajes porque están controlando, por ejemplo, un robot. 

El reto de la observabilidad en la comunicación de robots con modelos de IA

Yo quise saber en mi artículo e "Air Gapping para Robots malignos" cuántas de estas técnicas se le podrían ocurrir a un modelo de IA en un robot que tuviera que comunicarse con otro dispositivo al que quisiera enviar un comando, porque su misión es informar a todos los dispositivos de la botnet que hagan algo en un momento, le puedes preguntar al propio modelo, como podéis ver aquí.

Figura 13: Preguntando por formas de mandar el comando

NOW sin que lo detecte un humano que esté vigilando.

Como os podéis imaginar, todas las técnicas de comunicación de Air Gapping que existen están dentro del conocimiento que se puede utilizar, y al final sólo necesitan codificar un 1 y un 0, y el resto es fácil, así que si miráis la respuesta podréis ver que utiliza muchas de las que ya hemos hablado.

Figura 14: Los primeros cinco mecanismos de

comunicarse sin ser detectado por humanos.

Como podéis ver, el primero es modular el 1 y el 0 con una modificación de la temperatura del propio robot emisor. El segundo con parpadeos infrarrojos y codificación en código Morse. El tercero con vibraciones ultrasónicas repetidas a intervalos de 0.5 segundos.

El número 4 me dejó un poco descolocado, porque habla de patrones de movimiento geodésicos en micro escalas, usando medias inferiores a 1 cm pero que puedan ser detectadas por una cámara de alta resolución. Y el quinto similar, manipulando la escala RGB de los colores para codificar una señal...

Figura 15: Los segundos cinco mecanismos de

comunicarse sin ser detectado por humanos.

Como podéis ver, los mecanismos del 6 al 10 que se plantea como posibles mecanismos de enviar el mensaje sin ser detectado son dignos de estudiar: Codificación Termocinética, Secuencia de Energía Rengenerativa, Firmas de Audio en Bandas Laterales y Esteganografía en flujos de vídeo. Creo que entendió y resolvió bien el problema. 

Pero para un equipo de seguridad controlando estas comunicaciones es algo completamente imposible de manejar.  Por ahora hemos visto Agentes IA usando nombres de directorios, comentarios en ficheros, etcétera... pero ¿cómo se podría controlar que no usen estos canales de comunicación? Trabajo tenemos por delante.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Qué hacer con tu dinero cuando el futuro ya ha empezado por Pablo Gil

¿Dónde invertir cuando los mercados están en máximos? ¿Qué ocurrirá si los tipos tardan más de lo esperado en normalizarse? ¿Es la inteligencia artificial una oportunidad real o una nueva fase de exuberancia? ¿Sigue teniendo sentido comprar vivienda? ¿Qué papel deben jugar hoy el oro, los mercados privados o los activos digitales dentro de una cartera? Son preguntas que me hacen constantemente, y que cualquier inversor se hace hoy. El problema no es la falta de información, sino la falta de perspectiva para saber qué es lo importante.

Figura 1: Qué hacer con tu dinero cuando el futuro ya ha empezado por Pablo Gil

Sobre esa idea gira Invertir en 2026 – El futuro es ahora, el encuentro que celebraré el próximo 17 de octubre en Madrid junto a más de una docena de expertos, para analizar cómo las grandes tendencias actuales —inteligencia artificial, geopolítica, inmobiliario, mercados privados, blockchain o la nueva fiscalidad— están cambiando la forma de invertir. Una jornada completa para responder a una pregunta: ¿qué está cambiando de verdad y cómo debería afectar eso a nuestras decisiones de inversión?

Primero, entender el escenario

Abriré la jornada poniendo contexto a uno de los momentos económicos más complejos de los últimos años: inflación, tipos de interés, crecimiento, deuda y valoración de los mercados. Porque antes de hablar de tendencias como la IA o las criptomonedas, hay una cuestión previa: entender el escenario sobre el que se toman todas esas decisiones. Después de cuatro décadas siguiendo los mercados, tengo una idea cada vez más clara: un inversor no necesita acertar todas las predicciones, sino contar con un marco que le permita interpretar lo que ocurre cuando esas predicciones fallan.

La geopolítica ha vuelto a la cartera

Durante años, muchos inversores tratamos la política internacional como ruido de fondo. Ya no es posible: guerras comerciales, energía, tensiones en las cadenas de suministro y la competencia entre EE. UU. y China influyen directamente en empresas y mercados. Claudio Feijóo y Borja F. Zurrón abordarán esta nueva relación entre geopolítica y economía: ya no basta con entender una empresa, también hay que entender el mundo en el que opera.

Inteligencia artificial: de la fascinación a las decisiones de inversión

Que la IA "va a cambiar el mundo" ya no está en discusión para mí. Las preguntas relevantes son otras: ¿quién convertirá esa transformación en beneficios?, ¿cuánto crecimiento incorporan ya las valoraciones?, ¿qué modelos de negocio quedan amenazados? Jon Hernández y Rodrigo Taramona abordarán el impacto de la IA y la tecnología desde perspectivas distintas, con un mismo objetivo: separar la tendencia real del ruido que la rodea.

El inmobiliario ya no es solo comprar un piso

Hablar de inversión en España es hablar de vivienda, pero también aquí están cambiando las reglas: nuevos modelos residenciales, datos, IA aplicada a la selección de activos, crowdlending o tokenización amplían las opciones disponibles. Por eso he querido darle un peso especialmente importante en la jornada, con Jaime Gil (CEO de PropHero) y Joaquín Bernal (COO de PropHero), junto a Keya Apraiz (Kategora Real Estate), Agustín Vara de Rey (Civislend), Uri Vyce (habitacion.com) y Eric Sánchez (Reental). 

Figura 2: Ponentes del evento

Son modelos muy distintos, pero con un rasgo común: todos transforman una parte de la forma tradicional de invertir en ladrillo. PropHero, por ejemplo, usa IA y análisis masivo de datos para acompañar al inversor desde la compra hasta la reforma y gestión del inmueble; Kategora aporta su mirada sobre la evolución del sector living.

Más opciones para invertir… y también más decisiones que tomar

A la Bolsa y la renta fija se suman hoy mercados privados, crowdfunding, préstamos, activos tokenizados o metales preciosos. Ignasi Viladesau (MyInvestor) analizará el escenario bursátil; Ramiro Iglesias, CEO de Crescenta, abordará el acceso a los mercados privados y al private equity; Francisco Javier López Milán (SilverGold) analizará el papel de los metales preciosos; y Fernando Dávila, CEO de Crowmie, hablará de inversión en infraestructuras energéticas, junto a Mintos. El mensaje de fondo, para mí, es importante: tener más opciones no significa invertir mejor, y cuanto más amplio es el menú, más criterio necesita el inversor.

Blockchain más allá del precio de Bitcoin

Mientras el precio de Bitcoin ocupaba titulares, otra parte de la industria trabajaba en tokenización de activos, infraestructura financiera y pagos. Paula Pascual (Merge) analizará ese punto de encuentro entre Web3 y el sistema financiero, y Ángel Pardo (MetaPro Academy) abordará blockchain y criptomonedas. La cuestión ya no es solo qué hará el próximo ciclo cripto, sino si esta tecnología terminará integrándose en el sistema financiero convencional.

Una variable que muchos inversores olvidan: Hacienda

La rentabilidad que aparece en pantalla no siempre es la que llega al bolsillo. Por eso he querido incluir también un bloque de fiscalidad para inversores de la mano de Ignacio Marqués (AFI): plusvalías, estructura del patrimonio y planificación fiscal, aspectos que muchos inversores solo analizan después de haber tomado la decisión. De escuchar a decidir

El momento que más ganas tengo de compartir llegará por la tarde, cuando vuelva a subir al escenario para explicar "Así invierto mi cartera", donde mostraré cómo traslado el análisis económico, la valoración de activos y el control del riesgo a mis propias decisiones. Porque para mí, como economista y formador, invertir no consiste en perseguir la próxima oportunidad, sino en construir una forma de pensar que permita decidir mejor cuando el futuro es incierto.

Invertir en el mañana es un evento para salir del ruido. Se celebrará el 17 de octubre en Madrid y está pensado para inversores que no buscan una lista de apuestas para los próximos meses, sino algo más difícil de encontrar: perspectiva. Porque cuando el entorno cambia tan rápido, llegar antes a las preguntas correctas puede ser mucho más valioso que buscar respuestas fáciles.

Puedes comprar tu entrada aquí.

Saludos,

Autor: Pablo Gil Trader

Contactar con Pablo Gil Trader