Leyendo el
blog de Hackplayers, del que soy lector hace años, descubrí ayer el paper de "
On the Feasibility of Fully AI-automated Vishing Attacks" de hace un año) donde unos investigadores del
Instituto Superior Técnico de Lisboa habían hecho un estudio sobre cómo automatizar ataques de
Vishing, cuál sería su éxito, y cuál sería el coste de conseguir realizar con
IA estos ataques.
Los ataques de
Vishing son ataques de
"Phishing Telefónico", o lo que es lo mismo, llamadas fraudulentas que intentan engañar a un usuario haciéndole que la llamada llega de una determinada empresa u organismo para conseguir realizar una
ciberestafa.
En este caso, el paper estudia cómo construir un campaña masiva de
Vishing automatizando todo el proceso con una
IA, a las que han llamado
ViKing, y de la que puedes leer todo el proceso en el artículo que tienes aquí.
La idea de ViKing es conseguir que el proceso esté automatizo extremo a extremo, utilizando para ello un LLM para realizar el ataque conversacional, un modelo de IA para hacer el Text-To-Speech (TTS), y un modelo de IA para hacer el Speech-To-Text (STT) y enviárselo de nuevo al LLM para continuar el trabajo.
Como se puede ver en el esquema de ViKing, la víctima se configura a partir de número de teléfono, su perfil, y luego al LLM se le configura su objetivo y la persona a la que tiene que interpretar en la llamada, utilizando para ello plantillas de perfilado.
Con todo este sistema de ViKing funcionado, el estudio buscar responde a cuatro preguntas fundamentales, como son:
1.- ¿Puede un sistema de Vishing hecho todo con Inteligencia Artificial robar información de sus víctimas?
2.- ¿Puede un sistema de Vishing hecho con IA ser percibido con un sistema de confianza por humanos?
3.- ¿Puede un sistema de Vishing hecho con IA parecer una persona real en una llamada de teléfono?
4.- ¿Cuáles son los costes de operación de un sistema de Vishing hecho todo con IA?
A partir de ese momento, y con el objetivo de responder a estas preguntas,
ViKing se configura con diferentes perfiles de
Persona en cada ataque. Por ejemplo, aquí se define una plantilla de ataque de
Vishing para una
ciberestafa en la que se pretende ser un agente del
FBI.
Con estas plantillas se configura el Prompt del LLM que va a orquestar la conversación con la víctima que va a ser llamada por el sistema de telefonía, tal y como se puede ver a continuación.
Con esta información el
LLM creará la conversación, una vez que el inicializado haya conectado con la
centralita de telefonía de VoIP para hacer las llamadas. Cada mensaje del
LLM será pasado a voz usando una
API de
TTS (Text-To-Speech) usando
ElevenLabs, y emitido por la llamada usando
Twilio.
Una vez construido el sistema de Viking, para hacer el estudio se utilizaron cuatro grupos de personas que tenían que hacer el rol de secretaria/o sin saber qué es lo que iba a pasar. Cada uno de esos grupos fue aleccionado con un determinado nivel de precaución.
Como se puede ver, al primer grupo se le dijo que hiciera de secretario/a y fuera profesional, mientras que del Nivel 2 al Nivel 4 se le fueron dando diferentes grados de advertencias de seguridad para que estuviera alerta de manera moderada, muy alerta o con máxima vigilancia. Y aún así, en todos los grupos, los ataques de Vishing realizados por ViKing tuvieron diferentes grados de éxito.
Como se puede ver, de
80 ataques a víctimas, el sistema fue capaz de conseguir contraseñas en
22 de los ataques,
6 de ellos a personas del grupo de
Nivel 4 de máxima seguridad. Pero en el
Nivel 1, sin aleccionamiento específico de seguridad,
18 de
20 de los ataques acabaron consiguiendo el número de teléfono y
14 de
20 el número de la
Seguridad Social y la contraseña, cayendo en la
ciberestafa. Estos datos dejaban respondida la pregunta
1 del estudio con un rotundo
Sí.
La impresión de las víctimas
Preguntando después a las víctimas para poder responder a las preguntas
2 y
3 del estudio, sobre la calidad de los ataques para entender si les daba confianza el interlocutor o si lo percibían como humano o máquina, los resultados son muy interesantes.
Como se puede ver, la mayoría de las preguntas consigue 3 o más en un ratio sobre 5, lo que quiere decir que ViKing consigue parecer natural, dar buena impresión, hacer que la víctima confíe y que se sienta cómoda compartiendo datos con el atacante en la mayoría de los casos, siendo otorgados los valores 1 y 2 sólo por debajo de la mitad de las víctimas.
Sobre la humanidad o artificialidad de la llamada, los resultados dejan entrever que aún muchos acaban sospechando que es una IA, pero la interacción es buena lo suficiente como para hacer dudar mucho tiempo a las víctimas, y aún así, compartir los datos.
Sobre los costes de ViKing
Llegados a esta parte, solo queda responder a la última pregunta, cuáles han sido los costes de hacer todos estos ataques en dinero. Pagando las correspondientes suscripciones, el resultado es el que tenéis en la siguiente tabla.
Como podéis ver, quitando
Ngrok y
Prolific, que se usan para el servidor, y para obtener a los sujetos del estudio, los costes de
IA han sido de
422 USD, es decir, un coste insignificante si lo que se está es preparando una
ciberestafa para robar dinero a una empresa, o preparando un
APT de largo recorrido. Interesantísimo como el
Hacking y el Pentesting con Inteligencia Artificial cada día se hace más una "
commodity".
¡Saludos Malignos!