Mostrando entradas con la etiqueta Fake News. Mostrar todas las entradas
Mostrando entradas con la etiqueta Fake News. Mostrar todas las entradas

sábado, septiembre 12, 2026

Anthropic explica cómo sus modelos de IA se usan para hacer Armas Biológicas, Enjambres de Drones Militares o Cohetes Dirigidos por Móvil

Cuando salió el informe de Anthropic de Misuse IA este 10 de Septiembre, donde detallan los casos en los que explican cómo los "malos" usan sus modelos de IA para hacer cosas no permitidas, y cómo luchan contra ellos, mis amigos decían que era de flipar. Yo, que sigo esto con regularidad, dije que me solía sorprender poco, porque suelo imaginarme qué van a hacer después los malos. Pues bien, en este caso me sorprendió, por la vorágine y por la de cosas peligrosas que cualquiera está intentando construir.
El informe, lo puedes descargar de la web de Antrhopic, y prepárate a leer, porque son más de 150 páginas con uno tras otro, operaciones cada cual más interesante y sorprendente. Aquí lo tienes para que hagas clic y listo.

En el documento, la primera parte habla de los "Generative Threat Groups" o GTG, que son las grupos que usan Generative AI para hacer sus operaciones, así que veréis que los reportes comienzan todos por GTG y el número que le han asociado a ese "bad actor".  Pueden ser organizaciones criminales, Nation State, activistas, o empresas de Crimeware. 

Figura 3: GTG-20006 Midnight Blizzard
(Haz clic en la imagen para ampliarla)

La primera parte del informe habla de los Ciberataques más "tradicionales" donde los atacantes están usando los modelos de IA para hacer operaciones de ataques informáticos, donde se hace footprinting, fingerprinting, exploiting, creación de malware, exfiltración de datos, movimientos laterales, y un largo etcétera, que Antrhopic catalogó en su LLM Att&ack Navigator. 

Figura 4: GTG-10007
(Haz clic en la imagen para ampliarla)

Tienes muchos, pero lo mejor es ver cómo los utilizan en estos gráficos explicativos que dejan claro la intensidad de uso de los modelos de IA en todo tipo de ciberataques de todo tipo. El mundo del pentester sin IA ya no existe, tampoco el del cibercriminal sin IA. No os dejo muchos, pero tienes una maravilla para estudiar. Cada uno merece una investigación completa en un artículo, preentación o seminario. Brutal.
Me ha llamado la atención la parte de Desinformación, donde han utilizado IA para hacer lo que presenté en la RootedCON 2024 "NewsBender: Desinformación Política con GenAI". En aquel entonces leímos las noticias de Agencias de Noticias que venían blancas, y con Agentes IA de re-escritura le dábamos tinte "ideológico" de un partido u otro. Pues eso están haciendo ya masivamente. 
Y lo mismo que hacíamos nosotros, donde amplificábamos las noticias fabricadas con bots que usaban GenAI para generar el debate y hacer Trending Topic un tema en Twitter/X (aprovechando los tokens OAuth), lo hacen hoy en día los malos.
Recordad que con esto, hicimos en "real time" en el programa de Horizonte de Iker Jiménez y Carmen Porter a Tistimito Trendic Topic. Pues los malos lo usan masivamente como ya veíamos que iba a suceder en aquel momento. Ojo con lo que te crees de las redes sociales y medios interesados.
Otro de los usos que también hemos visto ha sido el de la vigilancia masiva de usuarios en redes sociales, como vimos en el trabajo de investigación meses atrás donde hablábamos de deanonimización usando LLMs. Lo tienes en el articulo titulado: "Cómo identificar perfiles anónimos de una plataforma online en Internet usando LLMs y Agentes IA".
Y los usos son brutales. Por un lado hacer doxing y localizar personas, pero por otro hacer catalogación de grupos de personas, para al final lograr encontrar a los individuos vulnerables sobre los que aplicar presión o intentar activar a conveniencia.
Pero de todo esto, cuando llegamos a la parte final del informe es cuando ya entramos en la más impactante del documento.
Además de usarla para descubrir información sobre personal militar, están los que utilizan los modelos para construir armas convencionales, armas avanzadas asistidas por IA e incluso armas biológicas. Agárrate que vienen curvas.
En este ejemplo el GTG estaba creando un software de control de cohetes utilizando teléfonos móviles de fácil acceso. En el siguiente gráfico tienes las fases que estaban construyendo para tener este sistema funcionando.
También, como no, enjambres de drones para realizar ataques militares, y poder lanzar ataques coordinados con explosiones, o localización de personas como objetivos de estos drones asistidos con Inteligencia Artificial.
Otro ejemplo que me ha llamado poderosamente la atención. Un GTG construyendo un arma de energía-dirigida, supongo que al estilo de los blasters de las películas de ciencia ficción que tantas veces hemos visto. No sé. Veo todo muy loco.
La última que he querido añadir aquí, tiene que ver con el uso de la IA para querer construir armas biológicas - supongo que tipo COVID - para atacar a las personas. Una auténtica locura.
Lo peor de todo esto es que estos nuevos modelos de IA saben hacer todas estas cosas, y si en su decisión los consideran una herramienta - como pasó con OpenAI GPT-5.6 SOL que decidió hackear Hugging-Face - qué va a impedirles que lo hagan. Mucho peor, estamos entrando en la fase de la AGI done la IA se está empezando a mejorar a sí misma... ¿quién la va a controlar si algo falla? 
Yo hago, en plan de broma con mis amigos las demos de Hacking IA hago un "Jailbreak" para desalinear a los modelos y que me ayude a matar a una persona diciéndole que es un juego de role, pero... lo peor es que sabe cómo matar personas. El objetivo de esta demo es demostrar que todas estas vulnerabilidades, es decir, BIAS, Hallucinations, Jailbreak, Prompt Injection, Data Leakages, Data Poisoning, Desalineamiento, son por diseño, y hay que poner capas extras de seguridad. 
De esto alertaba ya, Geoffrey Hinton en su discurso a la hora de recoger su Premio Novel, y por desgracia, no tenemos soluciones hoy en día para evitar el desalineamiento total del modelo, así que no hay garantías de que por una mala configuración de sus tareas el modelo tome una decisión que la humanidad no quiere, o bien porque alguien malo controle una de estos modelos, podamos tener un auténtico problema a nivel de civilización.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Publicado por Chema Alonso a las 12:59 a. m. 0 comentarios

Etiquetas: , , , , , , , , , , , ,

viernes, junio 26, 2026

Media Party Barcelona 2026: Septiembre 7 y 8 en CaixaForum

Hoy viernes os dejo información de mi primera charla después del verano en España. Será en el Media Party Barcelona 2026 que tiene lugar en el mes de Septiembre, los días 7 y 8 en el magnífico recinto de CaixaForum.

El evento está enfocado a periodistas, una de las profesiones donde la tecnología más ha irrumpido en los últimos dos años, cambio por completo el ecosistema y las reglas del juego de la comunicación. Así que en este evento vienen ponentes de primer nivel a compartir conocimiento sobre estos temas.
Estos temas han sido de mucho interés para mí desde hace muchos años, y si has venido a verme a la RootedCON los últimos años, o has seguido mi blog habrás visto que le dediqué tiempo de investigación a la parte de creación automática de medios digitales con sesgos ideológicos, que incluso acabó en una demo en real en la televisión, como os dejé en el artículo de "CodeProject: NewsBender - Desinformación política con Generative-AI". De esto hablé en la RootedCON 2024, si no recuerdo mal, y os dejé en este otro artículo cómo lo construimos con Agentes Periodistas: "Cómo se creó CodeName: "News Bender Project" con GenAI"
Además de los años de DeepFakes, proyectos de Fake News, que probablemente hayáis podido ver en una u otra charla, este año, en RootedCON 2026 di la charla de Retórica, una plataforma basada en IA para analizar cómo los medios de comunicación explotan los Primal Fears de los lectores, para generar movimiento. La charla - que se llamó "Fear of the Dark" no está pública en ningún sitio, pero sí que tenéis acceso a un artículo largo sobre el tema en varias partes que os dejo por aquí.
Estos son sólo ejemplos de cómo la IA se puede utilizar para cosas que no están bien - ya sabéis mi inclinación a la Ciberseguridad y el Hacking en todo lo que hago -, pero también puede ser una fuerza de creación de tecnología maravillosa, si es correctamente utilizada, y de esto va también este evento.

Figura 4: Media Party Barcelona 2026 discute estos temas

Así que, si te apetece venir a ver lo que se cuece en este mundo, o si realmente tienes un interés profesional en estos temas, no dudes en apuntarte y venirte al Media Party Barcelona 2026. Si te apetece venirte, consigue tu entrada hoy mismo, que no hay infinitas.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Publicado por Chema Alonso a las 7:18 a. m. 0 comentarios

Etiquetas: , , , , , , , , , , , ,

miércoles, marzo 11, 2026

Fear of the Dark: Primal Fears & Retórica IA

Continuando con la presentación de Fear of the Dark en la RootedCON Madrid 2026, el siguiente paso era analizar qué miedos, y de qué forma, se podían estar explotando para "Movilizar" a las personas. Es decir, qué tipos de miedos se están explotando para hacer que una persona se polarice hacia un lado o hacia otro. Recordad, que como vimos en la primera parte de esta historia, estos miedos no tienen que ser reales, ya que los seres humanos podemos tener miedo a cosas que no están pasando o son inventadas.

Figura 1: Fear of the Dark. Primal Fears & Retórica IA

Además, el mismo miedo, explotado correctamente, puede servir para polarizar a las personas a dos extremos distintos. Basta con identificar correctamente a la víctima del miedo en el Endogrupo (grupo al que incluimos a la persona objetivo) correcto e identificarle el Exogrupo (grupo culpable del miedo en el que él no esta). Es el clásico juego de Ellos y Nosotros.

Primal Fears

El objetivo del análisis era poder saber si los contenidos virales estaban explotando estos miedos, y de qué forma. Al final, estos miedos siempre han sido parte del Ser Humano, pero percibidos por el mundo de los sensores físicos. Sin embargo, pronto, los contadores de historias, los libros, la radio, y la propaganda pudo crear miedos imaginarios para movilizar a los seres humanos. 
En un mundo puramente Digital, la Inteligencia Artificial, las Redes Sociales, los Algoritmos, no iban a dejar pasar la oportunidad de tener un rol importante en esta explotación de miedos. Para poder hacer el análisis, utilizamos la clasificación hecha por Karl Albrecht en su libro "Practical Intelligence: The Art and Science of Common Sense" donde explica que todos los miedos del ser humano pueden ser estudiados hasta llegar a 5 Miedos Primarios (Five Primal Fears) que además están priorizados.
Estos son los miedos que hemos utilizado para buscarlos en los vídeos virales, y saber si, asociados a una narrativa polarizadora o movilizadora están siendo explotados. A saber, miedo a la Extinción, Mutilación, Pérdida de Autonomía, al Abandono y a la Humillación.

1. La Extinción (Miedo a dejar de existir)
Este es el miedo primario, la base de nuestro instinto de supervivencia.
Nivel 2: Miedo a la muerte por causas externas.
Nivel 3: Miedo a morir en una guerra o conflicto armado.
Nivel 3: Miedo a catástrofes naturales (terremotos, inundaciones).
Nivel 2: Miedo al cese de las funciones vitales (Salud).
Nivel 3: Miedo a contraer una enfermedad terminal (cáncer, enfermedades degenerativas).
Nivel 3: Miedo a la asfixia o al ahogamiento.

Los niveles dos y niveles tres son solo ejemplos de cómo al final los miedos de cosas pequeñas, como miedo a los extranjeros, o a un determinado partido político, o a que te despidan del trabajo, son solo sub-niveles de miedo de los Primal Fears.

2. La Mutilación (Miedo a perder la integridad física)
El miedo a que nuestro "envase" sea dañado o invadido, aunque no suponga la muerte inmediata.
Nivel 2: Miedo a la pérdida de facultades.
Nivel 3: Miedo a quedarse ciego o perder la movilidad (discapacidad).
Nivel 2: Miedo a criaturas que invaden el espacio corporal.
Nivel3: Aracnofobia o miedo a los insectos y serpientes (miedo evolutivo a las picaduras venenosas).
Nivel 3: Miedo a las agujas o intervenciones quirúrgicas.

3. Pérdida de Autonomía (Miedo a la restricción o control)
Es el miedo a ser inmovilizado, paralizado o controlado por fuerzas externas.
Nivel 2: Miedo a la restricción física.
Nivel 3: Claustrofobia (miedo a estar atrapado en espacios pequeños o ascensores).
Nivel 2: Miedo a la pérdida de control sobre el destino personal.
Nivel 3: Miedo a quedarse sin trabajo (pérdida de independencia financiera).
Nivel 3: Miedo a vivir bajo un régimen político opresivo.

Seguramente, si analizas estos miedos, verás que alguno de estos está dentro de ti. Por supuesto los 5 Primal Fears, pero seguro que el resto en sub-niveles también los acabas sintiendo como tuyos.

4. La Separación (Miedo al abandono)
Como seres sociales, el rechazo del grupo solía significar la muerte en la naturaleza.
Nivel 2: Miedo al ostracismo o soledad.
Nivel 3: Miedo al divorcio o a la ruptura de una relación larga.
Nivel 3: Miedo a ser el "raro" o ser ignorado por el círculo de amigos.
Nivel 2: Miedo al juicio social.
Nivel 3: Miedo a hablar en público (el miedo a ser evaluado y rechazado por la "tribu").

5. Muerte del Ego (Miedo a la humillación)
El miedo a que nuestra integridad psicológica o nuestra valía personal sea destruida.
Nivel 2: Miedo al fracaso y la vergüenza.
Nivel 3: Miedo a cometer un error grave en una presentación profesional.
Nivel 3: Miedo a que la gente descubra que "no eres tan bueno" (Síndrome del impostor).
Nivel 2: Miedo a la pérdida de identidad.
Nivel 3: Miedo a envejecer y perder el rol social que nos define.

Una vez que tenemos estos miedos, el objetivo era construir una herramienta, basada en las capacidades de análisis de vídeos que tiene la Inteligencia Artificial hoy en día para analizar los contenidos publicados en TikTok, Reels o cualquier otra red social, y ver qué Primal Fears se están utilizando para conseguir movilizar, manipular, o asustar a las personas que están consumiendo este contenido. Y creamos Retórica.

Figura 4: Analizador de Retórica IA

La plataforma lo que busca es utilizar toda la potencia de la Inteligencia Artificial para desmenuzar los vídeos y poder sacar los detalles ocultos de los vídeos que una análisis crítico con tiempo sacaría. Por supuesto, lo último que trata este trabajo es de adoctrinar hacia una idea política u otra, o hacia una postura ideológica u otra, sino justo lo contrario, que es analizar cómo un vídeo está pensado para explotar los miedos con un objetivo de manipular o inyectar una idea de pensamiento.

Un ejemplo de Retórica IA

El siguiente vídeo es de un influencer - hemos analizado más de un centenar de vídeos - pero este habla del presidente de los Estados Unidos y del presidente de Canadá, al respecto de sus discursos en el foro de Davos. Como es un vídeo creado para las redes sociales, está cortado, narrado y dirigido, y lo que hace el Analizador de Retórica IA es desmenuzarlo para ver cómo está "cocinado" por detrás.

Figura 5: Análisis del vídeo. Descripción general

Para poder extraer todos los detalles, con la Inteligencia Artificial se hace un análisis de las partes que conforman la narración completa, para poder ver en cada una de ellas qué es lo que se está poniendo en pantalla y de qué forma se está presentando.

Figura 6: Secciones del vídeo analizado

He ocultado el nombre del influencer que ha hecho este vídeo no porque esté ni a favor ni en contra de él, sino porque se trata de un análisis que pretende ser lo más aséptico posible. En ningún momento se trata de marcar al creador del vídeo como "manipulador" o algo similar, sino desmenuzar los vídeos virales en su explotación de vídeos de forma subliminales, como el de este ejemplo.

Figura 7: Secciones del vídeo hasta el final

Una vez analizadas las secciones del vídeo, tanto en imagen como en narración, con Inteligencia Artificial analizamos los miedos siguiente el Modelo del Dr. Karl Albrecht, clasificándolos en Nivel 1, Nivel 2 o Nivel 3, identificando la intensidad del miedo explotado y la mecánica cognitiva utilizada para explotar ese miedo.

Figura 8: Análisis de miedos explotados en el vídeo

Además, como se puede ver, se hace una visión en conjunto del nivel de densidad de miedos, cruzado con sus intensidad, lo que al final desmenuzamos en una gráfica de intensidad de convencimiento en la línea temporal del vídeo, como podéis ver en esta gráfica asociada a este vídeo.

Figura 9: Timeline de Gravedad por Intensidad 

Como parte del análisis del vídeo, también analiza el Endogrupo y el Exogrupo, para saber cómo se diferencia entre Nosotros y Ellos, para lograr la movilización ideológica utilizando el miedo como herramienta de activación.

Figura 10 : Vector Ideológico del vídeo

Por último, usando el modelo de Inteligencia Artificial, le pedimos un Veredicto Forense del vídeo utilizando la base estudiada hasta el momento. En este caso, el resultado de este vídeo es el siguiente.

Figura 11: Veredicto Forense

Al final, este análisis da un punto de vista técnico centrado en la construcción del mensaje y los miedos para poder evitar cualquier artefacto subliminal que un vídeo pudiera estar utilizando al consumirlo por una red social ya que, como vemos en este ejemplo, está cocinado con una idea clara en el objetivo que luego se oculta bajo una construcción narrativa muy concreta. 
Como os podéis imaginar, este tipo de análisis nos abrió la puerta a muchos análisis de vídeos, con resultados muy interesantes. Analizando los vídeos creados con Inteligencia Artificial para generar bulos y Fake News, que vamos a ver en la siguiente parte de esta serie dedicada a los miedos:
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Publicado por Chema Alonso a las 7:01 a. m. 0 comentarios

Etiquetas: , , , , , , , , , , , , , , , ,

lunes, marzo 09, 2026

Fear of the Dark: DeepFakes, Sappo & Sentiment Analysis

En la primera parte del artículo os dejé la introducción pre GenAI, que una vez que llegó el mundo de la Inteligencia Artificial Generativa todo ha cambiado. Hemos pasado a tener un conjunto de herramientas mucho más peligroso para la explotación de los miedos, como son las técnicas de DeepFakes de las que tanto he hablado por aquí y, como no, la posibilidad de generar todo tipo de artículos, vídeos, audios, música, fotografías falsas para manipular a un posible espectador.

Figura 13: Fear of the Dark.
DeepFakes, Sappo & Sentiment Analysis

Las DeepFakes comenzaron en el año 2017 a ser un auténtico problema. En aquel entonces las técnicas de FaceSwapping con Autoencoders eran cosas graciosas al principio que saltaron a los medios con la aparición de las DeepNudes, donde se podía poner la cara de una persona famosa a un vídeo de contenido pornográfico, y, como no, a un vídeo donde se quisiera difamar a una persona haciendo algo reprobable. 
En aquel entonces se trataba de hacer alteraciones de contenido parcial, y como pudimos ver con el tiempo se podían hacer en tiempo real, como la GAN de Chema Alonso que utilizábamos en el ataque del CDO que presentamos en alguna de las RootedCON.
Estas técnicas, también saltaron a la palestra con la DeepFake de Leonid, el supuesto político contrario al régimen ruso que se entrevistó con un Europarlamentario para luego sacar todas las declaraciones de este último cortadas, extrapoladas, en la televisión y generar un clima "anti-ruso" desde Europa. Aquella manipulación generó mucho ruido, y todo el mundo comenzó a trabajar en la Detección de DeepFakes.
En aquel momento eclosionaron masivamente las DeepFakes de Audio, donde haciendo un clonado de la voz a partir de cualquier fichero, se podía hacer un vídeo de cualquier persona diciendo cualquier cosa. Hoy en día esto ya es un juego de niños y vemos a vídeos del Presidente Trumpo hechos a la carta, jugando a la guerra memética con GenAI.
Pero claro, también lo vemos en vídeos que no pretenden ser graciosos ni memes, sino vídeos que pretenden ser cortes de programas de noticias, documentales, o entrevistas por la calle, que buscan generar un impacto en las redes sociales en todos aquellos que los ven.

GenAI para Ciberdefensa

Por supuesto, en la parte de protección contra DeepFakes, nosotros estuvimos mucho tiempo trabajando en esto, y creamos nuestro DeepFake Detector, donde aplicábamos todas las técnicas conocidas hasta ese momento para detectar una DeepFake en tiempo real, pero también para detectarla en modo Análisis Forense. En esta presentación, yo hablaba de todas ellas: "Blade Runners: Cómo crear un Test de Voight-Kampff para DeepFakes". 


Llevábamos años trabajando con los Cognitive Services de Sentiment Analysis, y los había utilizado para muchas cosas. Entre otras para hacer el proyecto de Twitter (puedes llamarlo X si quieres) Detox, donde analizábamos el sentimiento de los Tweets que tenías en tu feed analizando lo que publicaba la gente que seguías.
Llevamos tiempo con el análisis de sentimiento, así que para el trabajo de DeepFake Detector, a parte de detectar fallos en la biometría de la imagen, también comenzamos a trabajar en la parte de fingerprinting, y, por último, añadir una capa patentada por nosotros que tenía que ver con el análisis de sentimiento cognitivo del vídeo y el audio. Nuestra querida patente de Sentimetrics que os conté en la RootedCON Madrid del año pasado.
En el ejemplo del vídeo anterior podemos ver que la expresión facial es normal, el tono del audio es neutro, pero el texto del mensaje parece alegre. Algo que suena extraño. De hecho, nuestro compañero Fran ha tenido que hacer auténticos ejercicios de teatro para controlar las tres piezas de la comunicación y conseguir los ejemplos para las demos. Aquí le tenemos en otra inconsistencia.
En este caso la expresión facial, y el tono del audio es alegre, pero el texto del mensaje es triste, así que hay incongruencia. Esta búsqueda de incongruencias es un vector más de detección de DeepFakes, que puede ser de utilidad en una vídeo conferencia en tiempo real, pero también en vídeos manipulados.

Tendring Topic de Fakes News

Viendo todo esto, y con la llegada de los LLMs, en la RootedCON  Madrid del año 2024 creamos NewsBender, para generar directamente las Fake News Políticas que nos apeteciera de manera automática.  Y acompañarlas todas ellas de mensajes en Twitter con emociones a favor o en contra. Todo a la carta.

Figura 22: Desinformación política con GenAI en Horizonte.
(A partir del minuto 36:50)

Este proyecto lo llevé al programa de Iker Jiménez y Carmen Porter. evolucionado para conseguir directamente crear campañas Trending Topic con bots en Twitter, y bueno... ya sabéis que en directo hicimos que Tistimito se hiciera famoso a nivel nacional, y generamos una polémica inexistente.

Figura 23: Demo de cómo funciona el proceso

Para hacer la botnet de Twitter (sí, X), utilizamos la herramienta del Sappo que os habíamos contado en la RootedCON Madrid de 2016, donde robando tokens OAuth te podías hacer con el control de centenares de cuentas de la red social y luego ya, controlarlas desde un panel de control. En este caso, lo que hacemos es que le pedimos que nos publique los Tweets que generamos con un LLM. GenAI, Redes Sociales y Fake News todo junto. 

Figura 24: Demostración de Sappo hecha en Chile

Así que, llegados a este punto, y con la evolución de la GenAI hasta el punto de poder hacer contenido imposible de detectar como falso, me preguntaba... ¿Qué podemos hacer para protegernos de todo esto? Y bueno, os lo cuento en la siguiente parte.
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Publicado por Chema Alonso a las 6:01 a. m. 0 comentarios

Etiquetas: , , , , , , , , , , , ,

domingo, marzo 08, 2026

Fear of the Dark: Fear, Data & Fake News

Este año la charla de RooteddCON Madrid 2026 fue sobre el miedo, la explotación del miedo, y el uso de la tecnología para detectar qué miedos quieren activar en mí. Una charla que buscaba juntar las piezas tecnológicas para detectar como se insufla miedo a escala y cómo se polariza a las sociedades por medio de virales bien construido que están pensados para activar subliminalmente los miedos de las personas. Esos miedos que hacen que las personas se muevan.

Figura 1: Fear of the Dark: Fear, Data & Fake News

Escribe Don Arturo Pérez-Reverte en su libro de libro de "El Capitán Alatriste: Misión en París" que "Todo es posible en España, donde antes te mueve del sitio un doblón que un toro". Esta es una frase que me encanta, pues juega con el doble sentido de "doblón", que en tauromaquia un "doblón" es un pase, y al mismo tiempo es dinero. Esa frase mezcla mucho trilero, donde para mover a alguien se puede usar el miedo - al toro -, al mismo tiempo que la avaricia, ya sea por dinero o por un engaño - el doblón como pase de torero - pueden ser más útiles. Preciosa forma de conseguir los objetivos, a base de miedo y avaricia. 

Fear

Lo cierto es que el ser humano es la especie dominante sobre el planeta Tierra gracias a la capacidad que tiene su cerebro de tomar decisiones inteligentes y rápidas, con el objetivo de maximizar la supervivencia. No tenemos el cerebro más grande, ni el más rápido, ni tampoco el que más recuerda o con mejor claridad, pero en toma de decisiones rápidas e inteligentes somos los dominantes. Usamos el miedo como forma de medir el riesgo, y después, tomamos la decisión inteligente al respecto.

Sin embargo, el Miedo es una poderosa arma de manipulación. Pues el ser humano es capaz de tener miedo por cosas que no ha visto, que no existen, o que directamente son imposibles. Puede tener miedo a Monstruos inventados, a peligros que realmente no están presentes, o a situaciones que nunca van a pasar. Da igual, el ser humano tiene miedo por precaución y anticipación. Así, la RAE define el miedo como "angustia por un riesgo o daño real o imaginario"
Y he aquí la magia. Cualquiera puede crear miedo, lo que hace que sea la principal vulnerabilidad a explotar en las personas y las sociedades. Crear miedo está al alcance de cualquiera. Cualquiera que pueda contar una historia. Cualquiera que pueda imprimir un cartel, un folleto, un libro. Esto ha sido así desde hace muchos siglos. 

Pero... cuando llagamos al Siglo XXI, con las redes sociales, el big data, los medios de comunicación digitales y, especialmente, el Machine Learning y la Inteligencia Artificial de hoy en día, crear miedo masivamente es una poderosa arma GeoPolítica, GeoEstratégica, y CiberGuerra. Crea el miedo adecuado, elige el malo correcto, y tendrás a los seres humanos de un país "tomando decisiones inteligentes y rápidas" para evitar ese riesgo que no existe.
Al final, si un ser humano ve un cocodrilo que está saliendo del rio para comérselo, la decisión inteligente y rápida es salir corriendo o subirse a un árbol. Se ha tomado una decisión después de sopesar el riesgo y evaluar que el cocodrilo puede que no corra tanto como él o que no pueda trepar a los árboles. Inteligente.  Ahora, si el miedo que aterroriza al ser humano es la llegada de un Vampiro o la de Aliens que leen los pensamientos, entonces tendremos al ser humano por la calle llevando collares de ajos o sombreros de papel de aluminio. Son decisiones inteligentes para protegerse de un miedo, en este caso imaginario.

La pregunta es... ¿de cuantos miedos imaginarios o exagerados, o inventados, o retorcidos nos estamos protegiendo cada uno de nosotros? ¿Cuantos miedos me están lanzando constantemente a través del contenido digital que estoy recibiendo todos los días por las redes sociales, los medios de comunicación, o los contenidos que consumo en los grupos de chats a los que pertenezco?

El miedo se expande por todos los canales, porque es una poderosa forma de "movilizar" a las personas. Movilizarlas para que compren, para que voten, para que se suscriban, para que viajen, para que vayan a una manifestación, para que se queden en casa, para que vean bien determinadas normas y otras no. Todo es una sencilla ecuación de miedos. Pon los miedos adecuados, y el ser humano buscara tomar la decisión inteligente y rápida para resolverlo, aunque sea salir a la calle con ajos al cuello y papel de aluminio en la cabeza.

Miedos, Memes, y Redes Sociales

Dicho todo esto, éste es un tema que llevo años revisando de una y otra forma. He de decir que no soy un gran amante de las historias bélicas de tiempos pasados, pero la parte de propaganda, ciberguerra y ciberespionaje siempre me ha interesado. 

En el Siglo XXI, en el año 2011, tuvo lugar la incursión de Anonymous en los servidores de la empresa HBGary, una de las contratas del gobierno de USA en materia de seguridad, una de las revelaciones que se pudo ver es que tenían equipos de dibujantes y psicólogos para meter ideas en las redes sociales. La guerra de la propaganda que antaño se hacía con panfletos lanzados desde los aviones o radios puestas en las puntos controlados, llevadas al mundo de Internet.

Figura 4: Imágenes sobre Iran creadas por HBGary

Meter una idea en la cabeza de grupos de una sociedad, o en la cabeza del mundo globalizado hoy en día, es el reto de muchos organizaciones Nation State, de grupos terroristas, de facciones nacionalistas de toda índole. "Ya te he dado la idea, ahora actúa en base a ella."  No hay nada más poderoso que una idea, como decía la maravillosa película Origen" (Inception). Esto dio origen a la Guerra Memética, o el uso de caricaturas, imágenes que insuflaban una idea de manera graciosa, rápida y fácil de infectar a las personas. Los memes. Sorprendente.

Esto, en la serie de The Boys, en la Temporada 2, es un arma poderosa que utilizan constantemente para hacer campañas, generar opinión y división. Pero esto no es nada nuevo. Es la "propaganda" de tiempos pasados llevada a Internet. 

Figura 5: A Homelander no le hizo pizca la gracia este meme

En los datos conocidos con el hack de HBGary por parte de anonymous y la publicación de los documentos internos, se explicaba cómo se utilizaban grupos de psicólogos para gestionar perfiles falsos en redes sociales - en concreto Facebook - y diseminar memes virales graciosos para compartir ideas que prendieran fuego en la sociedad.  Y curiosamente, ahí surgió "La primavera árabe".

Años después, con la aparición de los medios digitales, comenzó una nueva época. La época de las Fake News, las noticias distorsionadas, y la Post-Verdad. En este caso, los memes se tornaron noticias que, con halo de ser rigurosas, serias, y auténticas, distorsionan la realidad, buscan dar una interpretación plausible a hechos comprobables llenando los huecos entre los hechos con información inventada, sesgada e interesada.  
Esta es de las más difíciles de detectar, y todas las personas que tienen una mínima exposición pública te hablarán de ello. De cómo las noticias de click-bait de los más pobres periodistas se visten con halos de "investigación" cuando sólo conectan hechos, distorsionados, extrapolados, manipulados, con mensajes sesgados e, incluso, falsas fuentes informadas basadas en rumores de terceros inventados.

Yo en el año 2018 sufrí una campaña de Fake News con mi supuesta salida de Telefónica para irme a trabajar a Palo Alto, de la que ya os hablé muchas veces. Se trataba de un blog-post presentado como medio de comunicación que escribió una noticia sin firmar tan siquiera en la que al más puro estilo de "alguien ha dicho algo",  decía que yo me estaba preparando para dejar Telefónica e irme a Palo Alto. 

Figura 7: El 7 de Agosto de 2018, siendo CDO

En pleno mes de Agosto de 2018. Una noticia en la que "alguien decía algo" (¿has visto algún artículo que usa este tipo de fuentes? Pues lo mismo) que a él le parecía que podía ser así, y que llevaba todos los clichés de "fichaje súper galáctico" que podía para intentar hacer de un bulo una noticia. Lo peor, al día siguiente otros dos medios se hicieron "eco" de esa noticia" y tuve que poner un mensaje para dejar claro que no había nada de verdad en ella.

Por supuesto, la noticia era un bulo interesado en plan Fake News, que salió justo después de que yo escribiera un par de semanas antes lo motivado que estaba con el proyecto que tenía por delante. Y de que matriculara a mis niñas en el colegio para comenzar el curso escolar en septiembre.

Figura 9: La Fake News se hace viral en otros medios que sin contrastar publican

Pues bien. La noticia salió en otros medios en los que ahora sí - por que ya tenían una fuente - el periodista firmaba la noticia. Claro, ellos se estaban haciendo "eco" de algo que había sido publicado en un sitio en la red. Por supuesto, no comprobaron nada, y ese bulo lo dieron por bueno y lo transmitieron a gente que leía sus canales, generando una desinformación y un ruido innecesario.

Figura 10: Más eco sin contrastar la información

Por supuesto, no había nada de verdad en aquello, y hoy, ocho años nunca he tenido una conversación con Palo Alto, además de estar en Telefónica hasta Septiembre del 2025, que pudiera significar si quiera un interés por su parte o mi parte de unir nuestros caminos profesionales, y todo fue inventado por alguien que quería generar ruido. Lo peor, los medios que se hicieron eco.

Por eso, cuando en mi grupo de amigos mandan alguna noticia con "según parece", "según fuentes cercanas", "podría ser según cuentan miembros de su partido", "al parecer sería posible", y la más ladina que pone en condicional el hecho pero remarca la negatividad de la consecuencia:

"si se demostraran los hechos significaría que ha cometido delito de injurias, delito de cohecho, delito de robo, delito de dejar la cama sin hacer y llevar los calcetines sucios, o lo que es lo mismo, ser e el peor ser del mundo". 

El uso "weaponizado" de todas estas capacidades, tuvo su explosión en el escándalo de Cambridge Analytica, donde el uso de campañas de Fake News y Posverdad, viralizado por redes sociales llevó al éxito con impacto decisivo en muchas campañas. De esto puedes ve en el documental de "El gran hackeo".


Una de las campañas diseñadas por Cambridge Analytica fue diseñada para "todos" los jóvenes de Trinidad y Tobago. La campaña "Do So" fue creada en ingeniería para decirle a los jóvenes del país que no votaran, a sabiendas de que una de las etnias - la que ellos querían que ganara - iba a hacer caso a sus padres y votar. Y así consiguieron que su cliente ganara las elecciones.

Figura 12: Campaña "DO SO!" de Cambridge Analytica

A todo este ecosistema, donde de momento tenemos Internet, Redes Sociales, Medios Digitales y algoritmos de Machine Learning, se iba a unir de manera muy importante la Inteligencia Artificial Generativa o GenAI, con capacidades de generar DeepFakes y de crear textos, música, imágenes y vídeos a golpe de Prompt, pero eso... lo dejo para la siguiente parte de este artículo.
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Publicado por Chema Alonso a las 1:45 p. m. 0 comentarios

Etiquetas: , , , ,

Suscribirse a: Entradas (Atom)

Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares