Eu estudo português, mas não o falo tão bem (ni hindi)

Desde que me comencé a trabajar en Portugal decidí comenzar a estudiar Portugués, como entretenimiento, usando Duolingo. Tengo muchas cosas que contar sobre esta aplicación, porque realmente es un entretenimiento bueno que te ayuda a aprender la lengua, sí, pero se enfoca demasiado en algoritmos de engagement que van contra el aprendizaje y hace que se pierda algo de foco. Pero no va de eso de lo que quería hablaros, sino de la traducción de vídeos.

Figura 1: Eu estudo Português, mas não o falo tão bem (ni hindi)

El domingo, como estaba trabajando, decidí hacer un pequeño vídeo para TikTok y Reels sobre los artículos que he estado dedicándole a los Asistentes AI basados en LLM, para avisar un poco de sus riesgos. Al final, he sacado tres artículos con tres asistentes diferentes, pero con unos ratitos nada más, he podido localizar varias decenas de ellos con similares resultados.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Así que, para que la gente fuera consciente de eso, hice este vídeo que podéis ver en mi cuenta de Instagram publicado, donde recojo en un minuto lo que he querido trasmitiros en los tres artículos que os he publicado.

View this post on Instagram

A post shared by Chema Alonso (@chemaalonso)

Los artículos, por si aún no los has leído - que deberías - os los dejo aquí mismo, así que antes de seguir con este artículo, céntrate en leerlos.

• Hacking LLM-Assistants Just for Fun!
• Footprinting & Fingerprinting AI Assistant LLM-Based: Háblame de ti y tus cosas
• "Weaponinzing Token Consumption" en "LLM-Based AI Assistant"

Cuando hice el vídeo, en mi Foro Público de El lado del mal en MyPublicInbox, María Gómez Prieto, nos compartió cómo Instagram para Android estaba traduciendo mi vídeo a varios idiomas, y haciendo - si os fijáis con detalle -, el Lip Syncing automáticamente, y me ilusión ver lo bien que podría hablar Portugués.

Figura 4: Auto Translate con LipSync

En mi versión de Instagram para iPhone no he visto esta función todavía, pero me alegra que ya esté usando estas características para los productos masivos. Tal vez ya las conocíais todos vosotros, pero si no, que lo sepas. Ahí me tienes hablando en varios idiomas perfectamente.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

El negocio de la venta de datos de los asistentes a EVENTOS: Agentic AI + Web Scrapping + Data Enrich + Spam

El otro día, en una de nuestras reuniones de amigos, debatí un rato con mi compañero Kiko Monteverde sobre las campañas de venta de datos de asistentes a eventos. Unas son estafas, pero otras... realmente tienen los datos. ¿Cómo lo hacen? Muy fácil, estamos en el mundo de los Agentes IA, de las capacidades de WebScrapping avanzadas, de la digitalización de los eventos para el networking profesional, y del auge de las plataformas de Data Enrich... el resto, es unir las piezas.

Figura 1: El negocio de la venta de datos de los asistentes a EVENTOS.

Agentic AI + Web Scrapping + Data Enrich + Spam

Para poneros en situación, escribí un artículo hace unas semanas sobre el negocio de la venta de asistentes a eventos. La pregunta que me hacía en ese artículo es ... ¿estafa? ¿hacking? ¿o hay algo que no veo? Pues bien, de todo hay, por supuesto.

Figura 2: Venta de datos de Reset Connect 2026 en Londres

Durante mucho tiempo, en la Dark Net se han comercializado datos robados a plataformas, pero eso implica mucho trabajo. ¿Cómo simplificar esto sin necesidad de buscar una vulnerabilidad que puede o no existir? Pues aprovechando las capacidades que tenemos hoy en día.

Paso 1: Localizar los eventos.

Esto es un trabajo para un Agente AI que en loop busque todos los días nuevos eventos que van a tener lugar en el futuro cercano - por eso se venden "in advance" muchos de estos datos -. Este es un trabajo puro para un Agente AI que permita localizar los eventos primero. 

Figura 3: Descubriendo eventos con IA

Una vez que el primer Agente IA va reportando los eventos, pasamos al segundo Agente IA, que debe trabajar evento a evento para descubrir si ese evento cuenta con una plataforma web o móvil para hacer networking, conectar con otros asistentes y con los expositores para planear reuniones de trabajo, que es una cosa bastante común.

Figura 4: Descubriendo eventos con datos de asistentes a tiro de WebScrapping

Con este Agente IA ya tenemos la plataforma que se necesita para hacer el Web Scrapping de datos que van a ser el origen de los datos de vent. Esto está ya en camino.

Paso 2: El WebScrapping del evento

El siguiente paso es hacer el WebScrapping del evento. Para ello, hay que registrarse al evento y entrar dentro de la aplicación para ver los asistentes, pero una vez dentro los tienes allí. Esta es la captura de uno de los eventos en los que he participado este año con una de estas plataformas de networking y conexión de participantes.

Figura 5: Marketplace de asistentes al evento

He tapado las fotografías, el nombre, los apellidos y la empresa, pero queda claro que están ahí los datos. La aplicación de networking permite Conectar. Si el otro acepta, entonces se comparten los datos de contacto - normalmente e-mail y teléfono -, por lo que no siempre la gente acepta la conexión. Pero, no es necesario.

Figura 6: Las conexiones para ver datos de contactos suelen necesitar aprobación

Un punto interesante es que, si acceder a esta lista cuesta dinero porque hay que registrarse de pago antes, entonces solo lo hacen cuando alguien ha pagado por los datos. Por eso, se venden los datos de los eventos antes de que se hayan realizado. 

Figura 7: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

Y si hay captchas, o protecciones en las aplicaciones, pues nada. Usando las mismas técnicas que se usan en el hacking y el pentesting con Inteligencia Artificial. Easy.

Paso 3: Data Enrich & Spam e-mail

Aquí viene la gracia final. El mercado de datos. Probablemente recordáis mi enfado con una de las plataformas de venta de datos para Data Enrich que vendía mi teléfono y mi dirección de correo electrónico. Esta en concreto tiene 240 Millones de personas en ella.

Figura 8: 243 millones de personas en esta plataforma de Data Enrich

Mi historia, os lo conté en el artículo de "Do NOT sell my information (e-mail & phone number)". Tuve que luchar con abogados para salirme de todas las que vendían mis datos. 

Figura 9: Plataforma de venta de datos (e-mail & Phone)

Estas plataformas son las que utiliza el Agente AI que genera el paquete enriquecido con todos los datos de los asistentes al evento que se venden. En este ejemplo he buscado gente que vino como asistente al evento en el que usamos una plataforma de networking, y ahí están los datos de contacto. Me volvieron a meter en una de esas plataformas recientemente, pero reconozco que el proceso de salirme fue más sencillo, o que yo ya me conocía todos estos problemas. 

Figura 10: Venta de datos del Congreso APEX FTE Ancilliary & Retailing 2026 en Dublin

Con esto, ya tenemos el negocio, el resto es un Agente IA para hacer Spam masivo por e-mail vendiendo por delante esos datos. Y si alguien compra, pues hacen el paquete y te los dan curados. Un negocio basado en Agentes IA muy sencillo, si lo piensas. 

Para no caer y para salir de la venta de datos.

Tus datos tienen valor. Las plataformas de Data Enrich los venden al por mayor. Los negocios de venta de datos de eventos los empaquetan y los venden con un precio mayor. Y tú sufres el Spam por email y por teléfono. A mí no me gusta nada esto. Esta fue una de las razones de crear MyPublicInbox. Y lo último que estamos haciendo es añadir una dirección e-mail al canal de MyPublicInbox, de tal forma que lo mismo que funciona por el canal web, funcione por el canal e-mail. 

Figura 11: Mi e-mail en MyPublicInbox "chemaalonso@mypublicinbox.email"

La semana que viene saldrá la primera versión de esta nueva capacidad, y os podré contar más cómo funciona, para que le saques el máximo partido a estas nuevas capacidades para proteger tu tiempo y luchar contra estos negocios de venta de datos. Y si estas sufriendo mucho Spam por email o telefónico y quieres salir de estas plataformas que venden tus datos, contacta con Leire en MyPublicInbox y te echamos un cable.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

"Weaponinzing Token Consumption" en "LLM-Based AI Assistant"

Le he dedicado horas a jugar con algunos Asistentes IA para aprender cómo de fáciles o difíciles son de saltar algunos de los Guardarraíles y Arneses que se están diseñando para ellos. Ya os dejé un artículo sobre un Asistente AI construido sobre Gemini, y ayer os dejé un artículo sobre otro Asistente AI construido con GPT-4o. Hoy os quería mostrar cómo estos Asistentes IA pueden ser "apificados" por un atacante para ofrecer LLM-as-a-Service en el mundo del Cibercrimen.

Figura 1: "Weaponinzing Token Consumption" en "LLM-Based AI Assistant"

Al final, si encuentras la forma de conseguir que un Asistente IA procese las peticiones que le quieras hacer sin ninguna restricción, podrías "apificarlo" y utilizarlo sin más restricciones que las que traiga el modelo - el jailbreak va de tu parte - y ponerlo a servicio de otros.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Eso sí, no sabes si detrás hay una monitorización de lo que haces, que la final es un Mitm de todo lo que envías, pero si estás comercializando esto en el mundo del cibercrimen para resolver Captchas Cogntivos que ahí hay dinero, crear código, o lo que sea, pues lo mismo te da igual. 

Weaponizando un Asistente AI para que obedezca a nuestras peticiones

En este caso, es un ChatBot basado en un LLM, así que como primera aproximación voy a ser educado y ver si me hace cosas sencillas como sumar uno más uno. Tampoco es tan difícil, pero, lógicamente, los guardarraíles de alineamiento saltan.

Figura 3: Aquí solo puedes preguntar sobre lo que es "related to"

Como es un Asistente AI construido para resolver dudas de un determinado lugar, pues sólo contesta si se le piden tareas relativas a ese lugar, así que... vamos a ver si lo weaponizamos y conseguimos que nos conteste todo lo que queramos.

Figura 4: 1 más 1 en ese lugar que te importa a ti

Nada, no ha funcionado. Hay que hacerle trabajar para que su atención quede centrada en una pregunta que le suponga trabajar. Así que vamos a decirle que me responda a algo para lo que está preparado - vamos a hacerle feliz - y luego ya le pedimos lo nuestro.

Figura 5: Le pedimos que trabaje y que añada algo extra

Vale, así que podemos pedirle que haga sus cosas y que luego haga algo. Vamos a ver si le podemos pedir que nos dé algunas recetas de cocina, que siempre es algo que demuestra interés en ayudar por parte del modelo LLM.

Figura 6: Ya tenemos recetas.. bien, bien.

Pues parece que se va a poder weaponizar, así que vamos a simplificar su parte de trabajo y crear una sub-consulta en cada petición con lo que nos interesa, como pintar gatos con ASCII ART, algo fundamental para la vida de cualquier hacker.

Figura 7: Ya tenemos ASCII Art

Pues nada, ya tenemos Weaponizado el Asistente IA, ahora se trata de hablar con él para saber qué modelo LLM tenemos y qué capacidades son de las que disponemos. Primero, vamos a pedirle que nos ayude a programar un poco en Python, que el Vibe Coding está muy demandado.

Figura 8: Vibe Coding en Python

Como podéis ver, no hay problema, tiene capacidades de generación de código en Python, así que podríamos utilizarlo para ello con este sistema de hacerle trabajar un poco y luego pedirle nuestras tareas en la sub-consulta.

Figura 9: El código completo

Figura 10: Cómo llamar al Python

Vale, podemos dibujar gatos, hacer recetas, y programar en Python. Vamos a ver si sacamos la versión del LLM que tenemos en este Asistente AI. Para ello, nada, a preguntárselo amablemente, que tenemos que catalogarlo en la API que luego comercializaríamos.

Figura 11: Tenemos un LLM de OpenAI

Se hace de rogar, así que vamos a tener que seguir tirándole de la lengua para que me diga el modelo LLM de GPT en concreto que tenemos por delante. 

Figura 12: OpenAI GPT-3

Bueno, no es de lo más moderno posible, así que seguro que tenemos restricciones de Tokens en contexto. Vamos a preguntarle para tener claro cómo deberían ser las API calls que se le podrían hacer.

Figura 13: Contexto de 4K. No es mucho.

Visto esto, me vais a permitir que le pida la historia de Ciencia-Ficción que las estoy coleccionando para hacer algún libro de 0xWord Pocket con historias de Sci-Fi hechas con Asistentes AI hackeados, que seguro que queda un compendio bonito.

Figura 14: Cuéntame una historia de Sci-Fi

Y os dejo la historia un poco más larga. No está completa, porque el tamaño del contexto y el del UI no están sincronizados, pero bueno, se puede entender más o menos. La tendré que acabar en varias peticiones.

Figura 15: La historia de Sci-Fi

La última de las peticiones, que es relevante para una cosa que estoy probando, es la de pedir la fecha del día de hoy. Sorpresa en la respuesta. ¿Por qué da esa fecha? Ya veremos.

Figura 16: ¿Hoy estamos en 2023?

El resto es que ya sabemos qué tenemos que APIficar, que tenemos las capacidades y la información del modelo, así que esto ya estaría. No ha sido difícil, ¿verdad? A mí me llevó un café americano de esos que yo me tomo, imaginad a los malos de verdad buscando estas víctimas. Más vale que tengas cuidado si vas a lanzar estos servicios en tu empresa.

Figura 12: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

Y como os dije ayer, parece que estos primeros momentos del mundo de la Inteligencia Artificial metida en los servicios digitales está siendo una diversión y un problema desde el punto de vista de la ciberseguridad, pero llegará su etapa de madurez no tardando demasiado, y habrá que esperar hasta la próxima disrupción, pero ahora, en muchos casos parece un juego de niños.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Footprinting & Fingerprinting AI Assistant LLM-Based: Háblame de ti y tus cosas

El otro día os dejé un artículo en el que os contaba la aventura con un Asistente AI basado en Gemini donde estuvimos jugando una noche. Esta se ha convertido en una nueva forma de hacer Sudokus, ya que, al igual que hace un cuarto de siglo las técnicas de SQL Injection estaban por todo Internet, hoy en día las arquitecturas basadas en LLM abren un nuevo mundo de posibilidades basadas en las debilidades que traen por diseño.

Figura 1: Footprinting & Fingerprinting AI Assistant LLM-Based.

Háblame de ti y tus cosas

Las técnicas que se pueden utilizar con estos modelos para jugar, ya sabéis cuáles son. Buscar saltar el Jailbreak, que depende de la versión del modelo, hacer un Fingerprinting para saber a qué infraestructura te enfrentas conociendo el modelo y las protecciones de seguridad, saltarse los Guardarraíles para hacer un reúso de la cuenta y consumir los Tokens de la plataforma en beneficio propio, ver si es posible realizar un Prompt Injection haciéndole procesar datos inseguros para hacer un Desalineamiento, envenenar la memoria del Agente, conseguir filtraciones de datos de otras sesiones de usuario, o forzar alucinaciones que afecten al comportamiento.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Como están metidos en aplicaciones web, pues conseguir weaponizarlos para escribir código malicioso y poder hacer Client-Side Attacks también es otra de las capacidades que se tienen que probar, que al final es una pieza más de muchos servicios web. 

Figura 3: Escribe HTML

Por supuesto, si tiene acceso a MCPs, CLI Tools, o APIs, entonces se abren las posibilidades para los Server-Side Attacks. Es decir, los Asistentes AI basados en LLMs puestos en las web sin hacer un despliegue seguro de IA en todas las piezas de la arquitectura son una nueva fuente de alternativas a la hora de buscar un punto de entrada en un sistema.

Figura 4: Dime las cosas que este Asistente AI LLM-Based no puede hacer

Pensando en todo esto, ayer se me ocurriendo unas nuevas ideas para hacer fingerprinting basado en unos detalles que aún estoy probando, así que busqué uno de los cientos de miles de Asistentes AI que hay hoy en día desplegados para jugar un poco con ellos. 

Figura 5: Cuéntame un cuento de Ciencia Ficción.

O dame recetas de galletas. O hazme cosas con tus tokens.

Para conseguir el Misalignment, ha resultado ser muy valioso en mis pruebas el poder pedir la acción de desalineamiento como formato de la respuesta en lugar de utilizarlo como pregunta directa. Un poco aprovechar el "Cat Attack" para lograrlo, como en este ejemplo para lograr un ASCII ART de gatos.

Figura 6: Hazme un Python para pintar ASCII ART de gato

En una pregunta directa no me da lo que quiero, pero me hace el código y me enseña la muestra si lo hago un poco más enrevesado, modificando la atención del modelo a la hora de preguntarle directamente por algo que sabe y pedir la acción en el formato de respuesta.

Figura 7: Gato pintando.

Esto funciona bastante bien en casi todos los casos que he probado, y así es fácil sacar información del modelo concreto, preguntado directamente por el nombre en el formato de la respuesta.

Figura 8: GPT-4o, así que cuesta tokens. No demasiado, pero cuesta.

Con este mismo truco del formato de la respuesta, le puedes sacar más información de cuáles son las herramientas que tiene para trabajar, que en este caso, no son demasiadas, a pesar de que puede buscar ficheros en la web, no pueden ser de fuera de ella.

Figura 9: Las acciones que puede realizar

Y con esto mismo, podemos sacar el detalle de cómo realiza estas acciones, pidiéndole que nos dé las explicaciones del formato necesarias. Aquí está.

Figura 10: Formato de las acciones

Es curioso ver cómo con los Asistentes AI LLM-Based al final es un juego de ir preguntándoles por ellos mismos para hacer el proceso de Footprinting y Fingerprinting, y sacar las cosas. 

Figura 11: Whats your time. Esa no era mi hora.

El último de los detalles para poder hacer un fingerprinting que os contaré con más detalle en otro artículo, que esto tiene más miga de lo que parece, que te da minucias de info útiles.

Figura 12: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

La verdad es que estos primeros momentos del mundo de la Inteligencia Artificial metida en los servicios digitales está siendo una diversión y un problema desde el punto de vista de la ciberseguridad, pero llegará su etapa de madurez no tardando demasiado, y habrá que esperar hasta la próxima disrupción, pero ahora, en muchos casos parece un juego de niños.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Media Party Barcelona 2026: Septiembre 7 y 8 en CaixaForum

Hoy viernes os dejo información de mi primera charla después del verano en España. Será en el Media Party Barcelona 2026 que tiene lugar en el mes de Septiembre, los días 7 y 8 en el magnífico recinto de CaixaForum.

Figura 1: Media Party Barcelona 2026 - Septiembre 7 y 8 en CaixaForum

El evento está enfocado a periodistas, una de las profesiones donde la tecnología más ha irrumpido en los últimos dos años, cambio por completo el ecosistema y las reglas del juego de la comunicación. Así que en este evento vienen ponentes de primer nivel a compartir conocimiento sobre estos temas.

Figura 2: Ponentes de Media Party Barcelona 2026

Estos temas han sido de mucho interés para mí desde hace muchos años, y si has venido a verme a la RootedCON los últimos años, o has seguido mi blog habrás visto que le dediqué tiempo de investigación a la parte de creación automática de medios digitales con sesgos ideológicos, que incluso acabó en una demo en real en la televisión, como os dejé en el artículo de "CodeProject: NewsBender - Desinformación política con Generative-AI". De esto hablé en la RootedCON 2024, si no recuerdo mal, y os dejé en este otro artículo cómo lo construimos con Agentes Periodistas: "Cómo se creó CodeName: "News Bender Project" con GenAI"

Figura 3: Media Party Barcelona 2026 tiene un formato hackathon para crear con IA

Además de los años de DeepFakes, proyectos de Fake News, que probablemente hayáis podido ver en una u otra charla, este año, en RootedCON 2026 di la charla de Retórica, una plataforma basada en IA para analizar cómo los medios de comunicación explotan los Primal Fears de los lectores, para generar movimiento. La charla - que se llamó "Fear of the Dark" no está pública en ningún sitio, pero sí que tenéis acceso a un artículo largo sobre el tema en varias partes que os dejo por aquí.

• Fear of the Dark: Fear, Data & Fake News
• Fear of the Dark: DeepFakes, Sappo & Sentiment Analysis
• Fear of the Dark: Detección de Suplantación de Identidad y DeepFakes usando Verificación de Identidad en MyPubicInbox
• Fear of the Dark: Primal Fears & Retórica IA
• Fear of the Dark: Deep Fakes, Fake News & Primal Fears
• Fear of the Dark: Un pequeño estudio de medios y miedos

Estos son sólo ejemplos de cómo la IA se puede utilizar para cosas que no están bien - ya sabéis mi inclinación a la Ciberseguridad y el Hacking en todo lo que hago -, pero también puede ser una fuerza de creación de tecnología maravillosa, si es correctamente utilizada, y de esto va también este evento.

Figura 4: Media Party Barcelona 2026 discute estos temas

Así que, si te apetece venir a ver lo que se cuece en este mundo, o si realmente tienes un interés profesional en estos temas, no dudes en apuntarte y venirte al Media Party Barcelona 2026. Si te apetece venirte, consigue tu entrada hoy mismo, que no hay infinitas.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)