El pasado jueves, fui con
Carmen Porter e
Iker Jiménez al programa a
Horizonte a explicar algo que para los que trabajamos en la industria de la
ciberseguridad, la reputación online, o la protección de marcas personales y profesionales en las redes, conocemos desde que comenzaron las redes sociales, y que no es nada más que las guerras de opinión de los
bots en dichas plataformas sociales y cualquier otro servicio de
Internet, para conseguir meter presión a una persona o una empresa y conseguir un objetivo.
La idea es tan sencilla como controlar un gran número de cuentas en una plataforma, ya sea
Twitter (X),
Instagram,
Google (para darse de alta con la cuenta de
Google en todas ellas o poner comentarios en cualquier lugar),
Facebook, o
"elige-tú-la-plataforma-o-red-donde-quieres-montar-tu-campaña", y después hacer automáticamente con un panel de control que estas cuentas hagan masivamente cosas. Esto lo hemos visto para hacer muchas cosas malas, como el
BlackSEO, o campañas de
BlackASO, y por supuesto para generación de "
Flames" en redes sociales.
Los profesionales de la reputación online conocen bien cómo funcionan estas redes de cuentas controladas se utilizan para hacer campañas de apoyo positivo, o campañas negativas, y en el mundo de las
ciberestafas es una pieza fundamental para conseguir dar realismo a los engaños que se presentan a sus víctimas.
El funcionamiento es sencillo. Un panel de control
C&C con el que se controlan las cuentas y se les dan órdenes como una
Botnet que son. Estas cuentas son las que realizarán las acciones en la plataforma que sea, ya sea comentarios en Youtube - como en el ejemplo que os dejé de "
Linda Fake Broker" -, o en
Posts de
Twitter (X), o en comentarios de una
App en
AppStore o
Google Play para hacer una campaña de
BlackASO, o lo que quieras.
NewsBender: Crea tu polémica en Twitter X
Para controlar esa cuentas, pues primero hay que tenerlas creadas - ya sea por el dueño del
C&C o por una persona real -, y luego controladas. Para manejar esas cuentas, es decir, para tenerlas
"control"-"adas", se necesitan o bien las credenciales, o simplemente un
Token OAuth. En ambos casos, puede ser controlado legítimamente, por mediante un robo de credenciales o
Tokens OAuth, usando muchas de las técnicas que os he contado en no pocas ocasiones, como
nuestro Sappo.
Figura 5: Herramienta para Crear Polémicas en Twitter X
En nuestro caso, para la herramienta, permitimos elegir un tema, poner a quién le quieres hacer la campaña positiva, negativa, muy positiva o muy negativa, cuántos mensajes necesitas que te genere ChatGPT, y luego los publicas en las cuentas de Twitter (X) que tenemos en nuestro C&C. Para esta demo lo quisimos hacer solo con 20 cuentas de Twitter (X) que creamos especialmente para esta ocasión, y que habíamos perfilado un poco, con fotos de perfil, con mensajes, con followers y un poco de historial de interacciones.
Figura 6: Mensajes creados por la herramienta asignados a cuentas de Twitter de prueba
Luego, creamos un panel de control desde dónde se configura el tipo de Prompting - puedes verlo en la Figura 5 - que quieres hacer a ChatGPT para que las campañas sean a favor o en contra, y el nivel de intensidad. Dejando que los mensajes sean más o menos duros cuando los cree el modelo GPT. Además, la herramienta permite añadir Hashtags o generarlos automáticamente el modelo, para dar libertad de expresión al modelo o para tener una etiqueta que seguir a la hora de analizar el impacto de la campaña.
Figura 7: Demo de cómo funciona el proceso
Para dar más realismo al "Flame", permitimos que se configuren número de Posts (Tweets) totales que se van a crear y el porcentaje de ellos que van a ser contrarios a la campaña que estamos creando, para que haya debate y más "engagement" con la comunidad humana de Twitter (X). El objetivo final es generar un gran incendio en tres fases:
1.- Los bots prenden la chispa generando el ruido inicial, con debate polémico incluido, para generar efecto llamada a los humanos.
2.- Las cuentas humanas que se ven atraídas hacia la polémica, toman partido y continúan expandiendo el fuego por la red.
3.- El fuego salta de la red a los medios digitales, aprovechando aquellos medios de comunicación que hacen de noticias de lo que pasa en la red.
De esta forma, en el programa, que puedes ver completamente en la web, utilizando la herramienta creamos varias polémicas, una de ellas en contra de
Iker Jiménez por haber entrevistado mal a un invitado ficticio que yo llamé
Tistimito.
Después de eso, la gente ve los mensajes en al red social, se une al debate, azuza el fuego, y el resto es tener un Trending Topic que haga que el fuego llegue a los medios digitales, a los periódicos, informativos, e incluso que meta presión en los ejecutivos y políticos para conseguir objetivos concretos.
Figura 10: Tistimito es Tendencia en España
Pero esto no es nada nuevo, y se lleva haciendo muchos años. El objetivo era mostrar lo sencillo que es hacer esto con la llegada de los LLMs y la GenAI, donde crear los mensajes de texto, los comentarios, etcétera, es un juego de prompting.
¡Saludos Malignos!