Mostrando entradas con la etiqueta redes sociales. Mostrar todas las entradas
Mostrando entradas con la etiqueta redes sociales. Mostrar todas las entradas

lunes, agosto 24, 2026

Tempos por Tweets: Tempos para tu Comunidad, y Tempos por apoyar perfiles en X

El servicio de Tempos x Tweets lleva años funcionando en MyPublicInbox, pero recientemente ha sufrido un rediseño de funcionamiento, y quería contaros cómo funciona. Yo reparto todos los días Tempos gratis a todos los usuarios de Twitter/X que me apoyan por MyPublicInbox, y hace que los artículos que escribo lleguen a más gente, además de que permite a los que me apoyan conseguir Tempos.
Además de repartir Tempos entre los que te apoyan, también puedes ganar Tempos apoyando a otros perfiles públicos que promocionan sus Posts en X, o Tweets en Twitter (como se día antes), a través de MyPublicInbox. Os cuento como funciona esto.
Para premiar a los que apoyan a tus Posts en X, solo necesitas ir a Mi Impacto en Internet -> Twitter / X y tendrás las dos opciones. Si deseas premiar a tu comunidad, el funcionamiento es extremadamente sencillo, como ves aquí.
Basta con que copies el enlace al Post en X para el que quieres apoyos, y selecciones cuántos apoyos quieres, y qué cantidad de Tempos quieres repartir entre tu comunidad, como puedes ver aquí.
Si ya llevas utilizando un tiempo este servicio de apoyos, tendrás un grupo de personas que te "Apoyan Siempre", y lo harán de manera automática, así que rápidamente tu Post tendrá visibilidad y alcance en la red de X. 
Además, si das a "Ver detalles", verás quién te ha apoyado, y tienes estadísticas de todos los apoyos que has recibido a lo largo del tiempo.

Apoyar a Perfiles Públicos y Ganar Tempos

Por otro lado, si lo que quieres es apoyar a Perfiles Públicos y Ganar Tempos, debes ir a Tempos -> Tempos Gratis -> Tempos por Tweets, y podrás ver las campañas de apoyo que están activas en este momento.
Para poder apoyar a los Perfiles Públicos, primero deberás vincular tu cuenta de Twitter/X con MyPublicInbox, así que si no lo has hecho aún, tendrás una opción para hacerlo siguiendo este asistente.
Cuando la hayas vinculado, ya podrás Apoyar los Posts de X desde la plataforma, y podrás hacerlo una única vez, o Automática, apoyando siempre a todas las campañas de apoyo de ese Perfil Público que estás apoyando ahora.
Y por supuesto, tendrás tus estadísticas de todos los apoyos que hayas realizado a lo largo del tiempo del servicio, y todos los Tempos que has ganado con tu cuenta de X en MyPublicInbox. Irás viendo como tus Tempos crecen día a día.
Una vez que tengas los Tempos, los puedes usar para lo que quieras. Para canjearlos por libros de 0xWord, para canjearlos por bonos de descuento de entradas a eventos y cursos, para comunicarte con Perfiles Públicos, para convertirte en un Perfil Público, o para cualquier servicio de la plataforma.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


martes, mayo 05, 2026

El Captcha Cognitivo de TikTok al estilo de "The Secret of the Monkey Island" que resuelve la Inteligencia Artificial

Este puente lo he dedicado en soledad a hacer muchos proyectos personales que tenía atrasados. También a ponerme al día con mis series, deporte, libros, y preparar las presentaciones de los eventos en los que voy a participar esta semana. Además, he aprovechado a recuperar horas de sueño, así que ha sido uno de esos puentes que necesitas de vez en cuando para despegar la mente y el cuerpo... pero por el camino, se me cruzaron un perro y un cactus en unos Captchas Cognitivos, así que tuve que detener todo para ocuparme de ellos.

Figura 1: El Captcha Cognitivo de TikTok al estilo de
"The Secret of the Monkey Island"
que resuelve la Inteligencia Artificial

Este ese el Captcha Cognitivo que utiliza TikTok para evitar que usuarios no autenticados en la plataforma puedan acceder a los vídeos publicados en la plataforma a través del cliente web. Supongo que para evitar que los Agentes AI estén llevándose el contenido o vigilando a los usuarios. Ya sabéis, TikTok es una gran fuente OSINT para investigar personas e identidades en Internet.

Pero para mí, era un nuevo pasatiempo, porque es de un tipo de Captcha que aún no había visto. Así que había que jugar con él un rato para que engrosara la lista de los Captchas Cognitivos con los que he ido jugando y que tenéis publicados en estos artículos.
Al final, resolver Captchas Cogntivos es algo que en el mundo del Crimeware as a Service está bastante industrializado, y que si estás haciendo scripts de Hacking & Pentesting con IA, debes tenerlo más que presente, por lo que siempre que me encuentro con uno, juego hasta que veo cómo se puede resolver y automatizar usando Inteligencia Artificial.
En este caso, el Captcha Cognitivo está formado por dos una imagen que está dividida en dos círculos que debes alinear para formar una imagen. Vamos, si has jugado a "The Secret of Monkey Island" original seguro que recuerdas "La rueda marcapiratas" que había que girar para que se alinearan las caras que te pedían en el juego. If you know, you know.
En este caso mirando cómo funciona el sistema, se puede ver que cuando mueves la barra horizontal gira la imagen interior y la imagen exterior hasta encontrarse. Lo puedes probar entrando en mi perfil de TikTok sin autenticarte en la plataforma y te saldrá.

Cuando mueves la barra horizontal gira la imagen interior hasta un máximo de180 grados en el sentido de las agujas del reloj mientras que la imagen exterior se mueve también hasta un máximo de 180 grados en sentido contrario. 

Figura 6: Las dos imágenes giran 180 grados
a lo largo del desplazamiento de la barra

Con esto en mente se me ocurrió que la solución sería fácil, bastaría con pedirle a Gemini que me dijera cuántos grados hay que girar la de dentro para alinearlas, dividir entre dos para quitar el efecto del giro contrario ya que las imágenes se encontrarían a mitad del camino de la alineación.

Figura 7: La solución buscada (esto lo hice yo manualmente)

Para completar la resolución, que después ese ángulo lo convirtiera en un porcentaje del total máximo de giro - que son 180 grados -, para así hacer un porcentaje de desplazamiento de la barra.

Figura 8: Petición a Gemini para resolver el Captcha Cognitivo

Y bueno, lo hizo bien con los cálculos, como podéis ver a continuación, donde dice que hay que mover como a la mitad la barra de desplazamiento para alinear las imágenes.

Figura 9: Cálculos realizados por Gemini.
Nota: Se ha dado cuenta de que es un CAPTCHA.

Eso sí, cuando le pedí que me hiciera la imagen de cómo debe quedar, se ve que el perro lo ha puesto como un señor en lugar de alinear las imágenes - me eché unas buenas risas cuando vi al perrinchi todo chulo mirándome como un señor -, además que en la solución real se necesitaba la barra un poco desplazada.

Figura 10: La solución de Nano Banana es genial.

Así que lo quise ajustar un poco con otro ejemplo, en este caso con un cactus, que como podéis ver mantiene la misma estructura y límites de giro, lo que permite automatizarlo como estaba contando antes con el perro.

Figura 11: Vamos con el cactus

En este caso, le di alguna explicación más de cómo quería que configurase la barra de desplazamiento, y de cómo debía hacer el cálculo de los ángulos, que quería ver si lo dejaba funcional.

Figura 12: El prompt más especificado

Lo de pintar la imagen resultante con Nano Banana solo es para publicarlo en este artículo puesto que para automatizarlo lo único que se necesita es el porcentaje de desplazamiento para que lo haga el Agentic AI, pero quería ver cómo quedaba.

Figura 13: Los cálculos de Gemini para resolver el Captcha

En este caso queda más aproximado con la ubicación del botón - me ha pintado hasta la regla como le he pedido -, y con esto se resolvería el Captcha Cognitivo, aunque de nuevo vuelve a hacer la imagen como le place, totalmente inventada. Debería darle más explicaciones, está claro.

Figura 14: A la izquierda la resolución manual. 
A la derecha la resolución por Gemini.
(Importa solo la posición de la barra)

Lo cierto es que me pasé el rato jugando con este Captcha Cognitivo de Tiktok visual, pero como tiene una versión para resolver con audio, esto es más sencillo aún. Aquí tenéis el vídeo que grabé para el artículo de hoy.

Figura 15: El Captcha Cognitivo Auditivo de Tiktok

Como sabéis, este truco ya lo habíamos utilizado en el pasado para resolver con Cogntive Services el ReCaptcha v2 de Google, hace mucho tiempo, así que aquí la idea era hacer lo mismo con Gemini.

Figura 16: Captcha Auditivo de TikTok en Gemini

Extraído el audio, y subido a Gemini, le pido que me diga lo que se escucha allí, y como podéis ver son sólo una secuencia de letras, así que bastante sencillo.

Figura 17:Captcha Auditivo de TikTok en Gemini Resuelto

Como os decía, empieza a ser más fácil resolver los Captchas Cognitivos con Inteligencia Artificial que siendo humano, así que vamos a tener que aprender nuevos juegos para resolver este problema. ¿Cuál?

Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que se han  escrito, citado o publicado en este blog sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


jueves, abril 02, 2026

Cómo lograr el Check de Verified en LinkedIn con una Identidad Pública que no coincide con la Identidad Legal

Durante los últimos años, las redes sociales han ido incorporando sistemas de verificación con el objetivo de reforzar la confianza entre los usuarios. Estos sistemas consisten en un mecanismo mediante el cual la plataforma confirma que la persona o entidad que gestiona una cuenta es realmente quien dice ser. La recompensa visible para el usuario es una insignia, un pequeño icono —el conocido check— que, para muchos, simboliza autenticidad y fiabilidad.

Figura 1: Cómo lograr el Check de Verified en LinkedIn con una
Identidad Pública que no coincide con la Identidad Legal

En el caso de LinkedIn, esta insignia de verificación pretende indicar que un perfil pertenece a una persona real y que la información presentada coincide con su identidad profesional, pero hay que entender que no tiene por qué ser la información legal. A través de estos distintivos, la plataforma busca generar un entorno más seguro, donde los usuarios puedan interactuar con confianza, evitando suplantaciones y facilitando la creación de redes profesionales legítimas. Además, el sistema permite verificar no solo la identidad, sino también documentación, garantizando que determinada información que aparece en el currículo de la persona es correcto.

Sin embargo, esta lógica presenta un matiz a conocer. La verificación no siempre vincula de manera técnica y directa la identidad visible del perfil con la identidad que se ha validado internamente. Algo que hay que entender si te dedicas a la investigación de identidades en Internet. Es decir, un usuario podría mostrarse como verificado gracias al check, pero no existir una correspondencia completa entre los datos de la persona que aparece en el perfil y aquella que ha pasado el proceso de validación. 

La insignia ofrece cierta seguridad y confianza, pero no asegura la correspondencia absoluta entre la identidad verificada y la visible, por lo que debes conocer su funcionamiento correctamente para entender sus límites. En LinkedIn, un perfil verificado transmite una idea muy concreta, detrás de ese nombre hay una identidad confirmada, pero podría darse el caso que no fuera exactamente la visible, que es lo que la mayoría de usuarios interpreta sin pensarlo demasiado. 

 o que vas a ver a continuación no muestra una intrusión, ni una toma de cuenta, ni una vulnerabilidad técnica clásica. Muestra algo distinto, un flujo de verificación para reforzar la autenticidad del perfil, pero que deja que la identidad visible de una cuenta sea distinta de la identidad legal acreditada. Esto, si lo conoces, no tiene por qué ser malo. Muchas personas tienen nombres públicos que no son los que están en sus identidades legales, como Moxie Marlinkspike o Chema Alonso, pero aún así se puede verificar que son ellos. Moxie Marlinsspike protagonizo en un evento una anécdota que se hizo famosa cuando le pedían un ID con su nombre en un evento, y el dijo simplemente: "Google me", para que la persona que le registraba supiera que él era Moxie Marlinspike, - una identidad creada por él mismo - incluso si su identidad legal era otra.

Dicho de otra forma, el sistema comprueba que hay una persona real detrás - que ha hecho el proceso de Know Your Custormer -, pero el usuario final puede seguir sin saber quién es realmente esa persona . Cuando una insignia de verificación deja de responder a la pregunta “quién está detrás” y pasa a responder sólo a “hay alguien detrás”, el modelo de confianza debe ser otro. Es cierto que, si hay algún problema, la plataforma que ha verificado a esa cuenta, sabe quién está detrás de ella. Es decir, la identidad legal del que controla esa cuenta.

Lo curioso es que, de acuerdo con el flujo operativo descrito, ante una discrepancia, LinkedIn propone una salvaguarda consistente en mostrar el nombre oficial como complemento público en el perfil. Incluso llega a mostrar una vista previa en la que el alias, la insignia de verificación y el nombre legal aparecen conjuntamente, reforzando la transparencia y autenticidad del perfil. 

Sin embargo, esto no parece la mejor idea para perfiles que tienen una identidad pública bien reconocida que prefieren conservar la privacidad de su identidad legal. Como vamos a ver en esta demostración, aunque la intención declarada por LinkedIn en la ayuda es mostrar la identidad legal, el resultado operativo final, y el resultado finalmente visible demuestra que se puede ocultar la identidad legal, divergente con la identidad pública.


La prueba de concepto que sigue documenta precisamente eso. Cómo un perfil con un nombre divergente puede atravesar el proceso de verificación documental y biométrica, llegar hasta la fase en la que LinkedIn reconoce la discrepancia - y aunque promete transparencia -, terminar finalmente con la insignia añadida sin que se muestre tu identidad legal. Aunque hay discrepancia, la identidad legal no queda visible como complemento en el perfil. No se trata de una hipótesis. Se trata de una secuencia reproducida, documentada y observable. Vamos al grano.

1. Preparación de la cuenta y estado inicial

Qué se quiere demostrar con esta prueba de concepto:
  • Se parte de una cuenta con un nombre de perfil divergente respecto del nombre del documento.
  • El proceso de verificación documental y biométrica se completa correctamente.
  • LinkedIn detecta la discrepancia y ofrece una salvaguarda de transparencia.
  • La vista previa muestra que el nombre oficial aparecería entre paréntesis.
  • El resultado final observado es un perfil verificado con alias y sin nombre complementario visible.
La cuenta utilizada en la prueba muestra un nombre de perfil divergente, "El lado del mal", y en ese momento todavía no dispone de ninguna verificación añadida. 

Figura 4: Estado inicial de la cuenta: nombre de perfil divergente
y ausencia de verificación previa. 

Este punto es importante porque fija el estado previo. El alias visible, cuenta operativa y cero insignias activas.

2. Verificación documental y biométrica

El flujo de Persona valida la identidad de la persona real detrás de la cuenta. El material gráfico permite ver que el proceso pasa por el escaneo físico del documento, la comprobación biométrica y la validación final de identidad. 

Figura 5: Secuencia resumida del proceso de "Know Your Customer".
Escaneo del documento, verificación biométrica y validación positiva de identidad.

Para evitar exponer datos innecesarios, en esta versión se han omitido capturas donde aparecen campos documentales completos.

3. LinkedIn detecta la discrepancia y propone una salvaguarda

Una vez verificada la identidad real, LinkedIn no añade todavía la insignia. En ese punto aparece un mensaje explícito: el nombre del ID no coincide con el nombre del perfil y, como alternativa para poder verificar la identidad, se ofrece mostrar el nombre del documento oficial como complementario en el perfil.

Figura 6: Aviso de discrepancia de nombre y activación
de la salvaguarda propuesta por LinkedIn.

4. La propia plataforma enseña el resultado esperado

La siguiente pantalla es decisiva porque ya no es una interpretación del investigador. Es la propia plataforma la que muestra una vista previa de cómo debería quedar el perfil si se acepta la opción propuesta: alias visible, insignia de verificación y nombre oficial entre paréntesis como complemento público.

Figura 7: Vista previa del comportamiento esperado. El nombre oficial
aparece como complemento visible junto al alias.

5. Resultado final observado

Tras completar el flujo, la verificación queda añadida al perfil. No obstante, el resultado visible no coincide con la vista previa anterior, el perfil termina mostrando la insignia de verificación sobre el alias, pero sin el nombre oficial complementario que LinkedIn había presentado como mecanismo de transparencia.

Figura 8: Comparativa directa entre el resultado que LinkedIn
promete y el resultado finalmente observado en el perfil.

6. Interpretación técnica de la evidencia mostrada

La imagen documenta el estado final de la prueba de concepto y concentra, en una sola vista, el núcleo del fallo de lógica observado en el flujo de verificación de LinkedIn. Desde el punto de vista técnico, lo que se aprecia es la coexistencia de tres elementos que no deberían convivir de esta forma si la salvaguarda de transparencia se aplicara correctamente, según la ayuda de la plataforma.
  • Un nombre de perfil arbitrario o alias visible
  • Una insignia de verificación de identidad activa
  • La ausencia del nombre legal complementario que el propio flujo promete mostrar cuando detecta discrepancia entre identidad acreditada e identidad mostrada.
Figura 9: Resultado obtenido BYPASS Business Logic Error
 / Broken Identity Binding

Esto permite inferir que el proceso de validación documental y biométrica ha finalizado con éxito - se ha hecho el KYC,  el backend ha marcado la cuenta como verificada y tiene la documentación almacenada, pero que la capa de representación pública del perfil no está materializando de forma efectiva el mecanismo de unión entre identidad legal e identidad pública, que es algo que debes tener en cuenta.

Dicho de manera más precisa, la plataforma resuelve correctamente la pregunta “existe una persona real detrás de esta cuenta y sabemos quién es”, pero “la identidad pública que se muestra al resto de usuarios no tiene por qué ser la identidad legal que ha sido acreditada”.

Lo que se muestra no es una simple anomalía visual o un problema cosmético. Lo que refleja es una posible desincronización entre el estado de verificación concedido y la política de exposición del atributo de identidad complementaria descrito en la ayuda de Linkedin. En otras palabras, el sistema concede el distintivo sin hacer cumplir de manera consistente la condición de transparencia que él mismo presenta como alternativa cuando existe un desajuste de nombres, pero que por otro lado permite a las identidades públicas mantener la privacidad de sus identidades legales.

A nivel de lógica de negocio, esto encaja con un escenario de Broken Identity Binding, la identidad  legal validada existe, pero no queda correctamente enlazada con la identidad pública consumida por terceros. El resultado práctico es que el usuario que observa el perfil recibe una señal de autenticidad fuerte, pero que si carece del contexto mínimo necesario para interpretar correctamente qué ha sido verificado y bajo qué identidad, podría llevarle a confusión o error. 

7. Implicación de seguridad y abuso potencial de esta evidencia

En un sistema de verificación bien ligado, la insignia debería actuar como un atributo de confianza contextualizado. Es decir, no solo debería indicar que el proceso de validación ha sido superado, también debería permitir interpretar correctamente qué identidad ha quedado acreditada frente al resto de usuarios. Cuando esa unión falla, el distintivo conserva su fuerza visual, pero pierde precisión semántica. Es decir, podría parecer que la identidad legal es la que se ve públicamente es la misma - porque no aparece entre paréntesis otro nombre), sin ser así.

Eso abre la puerta a varios escenarios a tener en cuenta. Lógicamente, hay que pensar en la suplantación creíble con validación, ya que un actor podría construir un perfil con un alias, una identidad visual cuidada o incluso una identidad coincidente con la de un tercero, completar la verificación con su propia documentación legítima y terminar mostrando públicamente una cuenta que transmite autenticidad sin revelar el contexto real de la verificación. Para el observador externo, la insignia refuerza la apariencia, para el atacante, reduce el riesgo de ser detectado y aumenta credibilidad. Para limitar la suplantación de personas conocidas, por supuesto, Linkedin tiene los mecanismos de denuncia de suplantaciones, y por eso las empresas monitorizan las identidades de sus ejecutivos en la red para detectar estos posibles casos.

Hay que añadir que, además, en caso de que esta identidad fuera parte de un delito que se investigara, la plataforma podría entregar la documentación que usó la persona en el proceso de KYC, pero para engaños individuales a personas a través de redes sociales, podría dar a la identidad un halo de ser lo que se ve, cuando realmente es otra persona.

En este caso, el objetivo ya no es parecer una persona concreta, sino parecer una entidad fiable. Nombres como “Security Team”, “Compliance Department” o cualquier otra formulación institucional adquieren más potencia cuando van acompañados de una verificación activa. El problema no es solo el alias, también que el distintivo puede ser interpretado por la víctima como una validación indirecta del rol, del contexto o de la autoridad del emisor. Para ello hay que entender que las verificaciones pueden verificar también la documentación, pero puede ser que alguien verifique su identidad con este proceso, pero no verifique sus aptitudes, por lo que podría ser mintiendo en sus títulos y acreditaciones.

Cuando una plataforma proyecta una señal fuerte de autenticidad, terceros pueden usarla como referencia adicional en procesos de evaluación, contacto profesional, validación de antecedentes o interpretación pericial informal. Hay que entender bien los límites de la verificación, y si la identidad visible no queda unida con transparencia a la identidad legal acreditada - lo que podría ser una opción de privacidad - ,  y los que consumen estos límites no lo conocen, la plataforma introduce sin quererlo ruido precisamente en el punto donde debería reducirlo.

En otras palabras, el problema no está en que LinkedIn permita usar identidades públicas o alias. El problema aparece cuando el distintivo de verificación sigue actuando como una señal fuerte de identidad legal - tal y como dice en su ayuda - sin que el usuario pueda interpretarlo correctamente. Es decir, si la Verificación permite el uso de Identidades Públicas con privacidad de Identidades Legales, no debería decir que si hay discrepancia entre ellas mostrará las dos en la Verificación y luego que se pueda evitar eso.

Saludos,


lunes, marzo 09, 2026

Fear of the Dark: DeepFakes, Sappo & Sentiment Analysis

En la primera parte del artículo os dejé la introducción pre GenAI, que una vez que llegó el mundo de la Inteligencia Artificial Generativa todo ha cambiado. Hemos pasado a tener un conjunto de herramientas mucho más peligroso para la explotación de los miedos, como son las técnicas de DeepFakes de las que tanto he hablado por aquí y, como no, la posibilidad de generar todo tipo de artículos, vídeos, audios, música, fotografías falsas para manipular a un posible espectador.

Figura 13: Fear of the Dark.
DeepFakes, Sappo & Sentiment Analysis

Las DeepFakes comenzaron en el año 2017 a ser un auténtico problema. En aquel entonces las técnicas de FaceSwapping con Autoencoders eran cosas graciosas al principio que saltaron a los medios con la aparición de las DeepNudes, donde se podía poner la cara de una persona famosa a un vídeo de contenido pornográfico, y, como no, a un vídeo donde se quisiera difamar a una persona haciendo algo reprobable. 
En aquel entonces se trataba de hacer alteraciones de contenido parcial, y como pudimos ver con el tiempo se podían hacer en tiempo real, como la GAN de Chema Alonso que utilizábamos en el ataque del CDO que presentamos en alguna de las RootedCON.
Estas técnicas, también saltaron a la palestra con la DeepFake de Leonid, el supuesto político contrario al régimen ruso que se entrevistó con un Europarlamentario para luego sacar todas las declaraciones de este último cortadas, extrapoladas, en la televisión y generar un clima "anti-ruso" desde Europa. Aquella manipulación generó mucho ruido, y todo el mundo comenzó a trabajar en la Detección de DeepFakes.
En aquel momento eclosionaron masivamente las DeepFakes de Audio, donde haciendo un clonado de la voz a partir de cualquier fichero, se podía hacer un vídeo de cualquier persona diciendo cualquier cosa. Hoy en día esto ya es un juego de niños y vemos a vídeos del Presidente Trumpo hechos a la carta, jugando a la guerra memética con GenAI.
Pero claro, también lo vemos en vídeos que no pretenden ser graciosos ni memes, sino vídeos que pretenden ser cortes de programas de noticias, documentales, o entrevistas por la calle, que buscan generar un impacto en las redes sociales en todos aquellos que los ven.

GenAI para Ciberdefensa

Por supuesto, en la parte de protección contra DeepFakes, nosotros estuvimos mucho tiempo trabajando en esto, y creamos nuestro DeepFake Detector, donde aplicábamos todas las técnicas conocidas hasta ese momento para detectar una DeepFake en tiempo real, pero también para detectarla en modo Análisis Forense. En esta presentación, yo hablaba de todas ellas: "Blade Runners: Cómo crear un Test de Voight-Kampff para DeepFakes". 


Llevábamos años trabajando con los Cognitive Services de Sentiment Analysis, y los había utilizado para muchas cosas. Entre otras para hacer el proyecto de Twitter (puedes llamarlo X si quieres) Detox, donde analizábamos el sentimiento de los Tweets que tenías en tu feed analizando lo que publicaba la gente que seguías.
Llevamos tiempo con el análisis de sentimiento, así que para el trabajo de DeepFake Detector, a parte de detectar fallos en la biometría de la imagen, también comenzamos a trabajar en la parte de fingerprinting, y, por último, añadir una capa patentada por nosotros que tenía que ver con el análisis de sentimiento cognitivo del vídeo y el audio. Nuestra querida patente de Sentimetrics que os conté en la RootedCON Madrid del año pasado.
En el ejemplo del vídeo anterior podemos ver que la expresión facial es normal, el tono del audio es neutro, pero el texto del mensaje parece alegre. Algo que suena extraño. De hecho, nuestro compañero Fran ha tenido que hacer auténticos ejercicios de teatro para controlar las tres piezas de la comunicación y conseguir los ejemplos para las demos. Aquí le tenemos en otra inconsistencia.
En este caso la expresión facial, y el tono del audio es alegre, pero el texto del mensaje es triste, así que hay incongruencia. Esta búsqueda de incongruencias es un vector más de detección de DeepFakes, que puede ser de utilidad en una vídeo conferencia en tiempo real, pero también en vídeos manipulados.

Tendring Topic de Fakes News

Viendo todo esto, y con la llegada de los LLMs, en la RootedCON  Madrid del año 2024 creamos NewsBender, para generar directamente las Fake News Políticas que nos apeteciera de manera automática.  Y acompañarlas todas ellas de mensajes en Twitter con emociones a favor o en contra. Todo a la carta.

Figura 22: Desinformación política con GenAI en Horizonte.
(A partir del minuto 36:50)

Este proyecto lo llevé al programa de Iker Jiménez y Carmen Porter. evolucionado para conseguir directamente crear campañas Trending Topic con bots en Twitter, y bueno... ya sabéis que en directo hicimos que Tistimito se hiciera famoso a nivel nacional, y generamos una polémica inexistente.

Figura 23: Demo de cómo funciona el proceso

Para hacer la botnet de Twitter (sí, X), utilizamos la herramienta del Sappo que os habíamos contado en la RootedCON Madrid de 2016, donde robando tokens OAuth te podías hacer con el control de centenares de cuentas de la red social y luego ya, controlarlas desde un panel de control. En este caso, lo que hacemos es que le pedimos que nos publique los Tweets que generamos con un LLM. GenAI, Redes Sociales y Fake News todo junto. 

Figura 24: Demostración de Sappo hecha en Chile

Así que, llegados a este punto, y con la evolución de la GenAI hasta el punto de poder hacer contenido imposible de detectar como falso, me preguntaba... ¿Qué podemos hacer para protegernos de todo esto? Y bueno, os lo cuento en la siguiente parte.
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


domingo, marzo 08, 2026

Fear of the Dark: Fear, Data & Fake News

Este año la charla de RooteddCON Madrid 2026 fue sobre el miedo, la explotación del miedo, y el uso de la tecnología para detectar qué miedos quieren activar en mí. Una charla que buscaba juntar las piezas tecnológicas para detectar como se insufla miedo a escala y cómo se polariza a las sociedades por medio de virales bien construido que están pensados para activar subliminalmente los miedos de las personas. Esos miedos que hacen que las personas se muevan.

Figura 1: Fear of the Dark: Fear, Data & Fake News

Escribe Don Arturo Pérez-Reverte en su libro de libro de "El Capitán Alatriste: Misión en París" que "Todo es posible en España, donde antes te mueve del sitio un doblón que un toro". Esta es una frase que me encanta, pues juega con el doble sentido de "doblón", que en tauromaquia un "doblón" es un pase, y al mismo tiempo es dinero. Esa frase mezcla mucho trilero, donde para mover a alguien se puede usar el miedo - al toro -, al mismo tiempo que la avaricia, ya sea por dinero o por un engaño - el doblón como pase de torero - pueden ser más útiles. Preciosa forma de conseguir los objetivos, a base de miedo y avaricia. 

Fear

Lo cierto es que el ser humano es la especie dominante sobre el planeta Tierra gracias a la capacidad que tiene su cerebro de tomar decisiones inteligentes y rápidas, con el objetivo de maximizar la supervivencia. No tenemos el cerebro más grande, ni el más rápido, ni tampoco el que más recuerda o con mejor claridad, pero en toma de decisiones rápidas e inteligentes somos los dominantes. Usamos el miedo como forma de medir el riesgo, y después, tomamos la decisión inteligente al respecto.

Sin embargo, el Miedo es una poderosa arma de manipulación. Pues el ser humano es capaz de tener miedo por cosas que no ha visto, que no existen, o que directamente son imposibles. Puede tener miedo a Monstruos inventados, a peligros que realmente no están presentes, o a situaciones que nunca van a pasar. Da igual, el ser humano tiene miedo por precaución y anticipación. Así, la RAE define el miedo como "angustia por un riesgo o daño real o imaginario"
Y he aquí la magia. Cualquiera puede crear miedo, lo que hace que sea la principal vulnerabilidad a explotar en las personas y las sociedades. Crear miedo está al alcance de cualquiera. Cualquiera que pueda contar una historia. Cualquiera que pueda imprimir un cartel, un folleto, un libro. Esto ha sido así desde hace muchos siglos. 

Pero... cuando llagamos al Siglo XXI, con las redes sociales, el big data, los medios de comunicación digitales y, especialmente, el Machine Learning y la Inteligencia Artificial de hoy en día, crear miedo masivamente es una poderosa arma GeoPolítica, GeoEstratégica, y CiberGuerra. Crea el miedo adecuado, elige el malo correcto, y tendrás a los seres humanos de un país "tomando decisiones inteligentes y rápidas" para evitar ese riesgo que no existe.
Al final, si un ser humano ve un cocodrilo que está saliendo del rio para comérselo, la decisión inteligente y rápida es salir corriendo o subirse a un árbol. Se ha tomado una decisión después de sopesar el riesgo y evaluar que el cocodrilo puede que no corra tanto como él o que no pueda trepar a los árboles. Inteligente.  Ahora, si el miedo que aterroriza al ser humano es la llegada de un Vampiro o la de Aliens que leen los pensamientos, entonces tendremos al ser humano por la calle llevando collares de ajos o sombreros de papel de aluminio. Son decisiones inteligentes para protegerse de un miedo, en este caso imaginario.

La pregunta es... ¿de cuantos miedos imaginarios o exagerados, o inventados, o retorcidos nos estamos protegiendo cada uno de nosotros? ¿Cuantos miedos me están lanzando constantemente a través del contenido digital que estoy recibiendo todos los días por las redes sociales, los medios de comunicación, o los contenidos que consumo en los grupos de chats a los que pertenezco?

El miedo se expande por todos los canales, porque es una poderosa forma de "movilizar" a las personas. Movilizarlas para que compren, para que voten, para que se suscriban, para que viajen, para que vayan a una manifestación, para que se queden en casa, para que vean bien determinadas normas y otras no. Todo es una sencilla ecuación de miedos. Pon los miedos adecuados, y el ser humano buscara tomar la decisión inteligente y rápida para resolverlo, aunque sea salir a la calle con ajos al cuello y papel de aluminio en la cabeza.

Miedos, Memes, y Redes Sociales

Dicho todo esto, éste es un tema que llevo años revisando de una y otra forma. He de decir que no soy un gran amante de las historias bélicas de tiempos pasados, pero la parte de propaganda, ciberguerra y ciberespionaje siempre me ha interesado. 

En el Siglo XXI, en el año 2011, tuvo lugar la incursión de Anonymous en los servidores de la empresa HBGary, una de las contratas del gobierno de USA en materia de seguridad, una de las revelaciones que se pudo ver es que tenían equipos de dibujantes y psicólogos para meter ideas en las redes sociales. La guerra de la propaganda que antaño se hacía con panfletos lanzados desde los aviones o radios puestas en las puntos controlados, llevadas al mundo de Internet.

Figura 4: Imágenes sobre Iran creadas por HBGary

Meter una idea en la cabeza de grupos de una sociedad, o en la cabeza del mundo globalizado hoy en día, es el reto de muchos organizaciones Nation State, de grupos terroristas, de facciones nacionalistas de toda índole. "Ya te he dado la idea, ahora actúa en base a ella."  No hay nada más poderoso que una idea, como decía la maravillosa película Origen" (Inception). Esto dio origen a la Guerra Memética, o el uso de caricaturas, imágenes que insuflaban una idea de manera graciosa, rápida y fácil de infectar a las personas. Los memes. Sorprendente.

Esto, en la serie de The Boys, en la Temporada 2, es un arma poderosa que utilizan constantemente para hacer campañas, generar opinión y división. Pero esto no es nada nuevo. Es la "propaganda" de tiempos pasados llevada a Internet. 

Figura 5: A Homelander no le hizo pizca la gracia este meme

En los datos conocidos con el hack de HBGary por parte de anonymous y la publicación de los documentos internos, se explicaba cómo se utilizaban grupos de psicólogos para gestionar perfiles falsos en redes sociales - en concreto Facebook - y diseminar memes virales graciosos para compartir ideas que prendieran fuego en la sociedad.  Y curiosamente, ahí surgió "La primavera árabe".

Años después, con la aparición de los medios digitales, comenzó una nueva época. La época de las Fake News, las noticias distorsionadas, y la Post-Verdad. En este caso, los memes se tornaron noticias que, con halo de ser rigurosas, serias, y auténticas, distorsionan la realidad, buscan dar una interpretación plausible a hechos comprobables llenando los huecos entre los hechos con información inventada, sesgada e interesada.  
Esta es de las más difíciles de detectar, y todas las personas que tienen una mínima exposición pública te hablarán de ello. De cómo las noticias de click-bait de los más pobres periodistas se visten con halos de "investigación" cuando sólo conectan hechos, distorsionados, extrapolados, manipulados, con mensajes sesgados e, incluso, falsas fuentes informadas basadas en rumores de terceros inventados.

Yo en el año 2018 sufrí una campaña de Fake News con mi supuesta salida de Telefónica para irme a trabajar a Palo Alto, de la que ya os hablé muchas veces. Se trataba de un blog-post presentado como medio de comunicación que escribió una noticia sin firmar tan siquiera en la que al más puro estilo de "alguien ha dicho algo",  decía que yo me estaba preparando para dejar Telefónica e irme a Palo Alto. 

Figura 7: El 7 de Agosto de 2018, siendo CDO

En pleno mes de Agosto de 2018. Una noticia en la que "alguien decía algo" (¿has visto algún artículo que usa este tipo de fuentes? Pues lo mismo) que a él le parecía que podía ser así, y que llevaba todos los clichés de "fichaje súper galáctico" que podía para intentar hacer de un bulo una noticia. Lo peor, al día siguiente otros dos medios se hicieron "eco" de esa noticia" y tuve que poner un mensaje para dejar claro que no había nada de verdad en ella.

Por supuesto, la noticia era un bulo interesado en plan Fake News, que salió justo después de que yo escribiera un par de semanas antes lo motivado que estaba con el proyecto que tenía por delante. Y de que matriculara a mis niñas en el colegio para comenzar el curso escolar en septiembre.

Figura 9: La Fake News se hace viral en otros medios que sin contrastar publican

Pues bien. La noticia salió en otros medios en los que ahora sí - por que ya tenían una fuente - el periodista firmaba la noticia. Claro, ellos se estaban haciendo "eco" de algo que había sido publicado en un sitio en la red. Por supuesto, no comprobaron nada, y ese bulo lo dieron por bueno y lo transmitieron a gente que leía sus canales, generando una desinformación y un ruido innecesario.

Figura 10: Más eco sin contrastar la información

Por supuesto, no había nada de verdad en aquello, y hoy, ocho años nunca he tenido una conversación con Palo Alto, además de estar en Telefónica hasta Septiembre del 2025, que pudiera significar si quiera un interés por su parte o mi parte de unir nuestros caminos profesionales, y todo fue inventado por alguien que quería generar ruido. Lo peor, los medios que se hicieron eco.

Por eso, cuando en mi grupo de amigos mandan alguna noticia con "según parece", "según fuentes cercanas", "podría ser según cuentan miembros de su partido", "al parecer sería posible", y la más ladina que pone en condicional el hecho pero remarca la negatividad de la consecuencia:

"si se demostraran los hechos significaría que ha cometido delito de injurias, delito de cohecho, delito de robo, delito de dejar la cama sin hacer y llevar los calcetines sucios, o lo que es lo mismo, ser e el peor ser del mundo". 

El uso "weaponizado" de todas estas capacidades, tuvo su explosión en el escándalo de Cambridge Analytica, donde el uso de campañas de Fake News y Posverdad, viralizado por redes sociales llevó al éxito con impacto decisivo en muchas campañas. De esto puedes ve en el documental de "El gran hackeo".


Una de las campañas diseñadas por Cambridge Analytica fue diseñada para "todos" los jóvenes de Trinidad y Tobago. La campaña "Do So" fue creada en ingeniería para decirle a los jóvenes del país que no votaran, a sabiendas de que una de las etnias - la que ellos querían que ganara - iba a hacer caso a sus padres y votar. Y así consiguieron que su cliente ganara las elecciones.

Figura 12: Campaña "DO SO!" de Cambridge Analytica

A todo este ecosistema, donde de momento tenemos Internet, Redes Sociales, Medios Digitales y algoritmos de Machine Learning, se iba a unir de manera muy importante la Inteligencia Artificial Generativa o GenAI, con capacidades de generar DeepFakes y de crear textos, música, imágenes y vídeos a golpe de Prompt, pero eso... lo dejo para la siguiente parte de este artículo.
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares