Como os dije en el artículo "ChatGPT: Safety Policies, Jailbreaks, Guardarraíles y Bug Bounties" de hace tres de días, estuve haciendo pruebas con ChatGPT para preparar las demos que quería contar en mi presentación de hoy. Pero ni se comía el Cat Attack con Knowledge Return Oriented Prompting que luego probé con éxito en Gemini Nano Banana, ni tampoco el RPG Trick, que he tenido que probar con DeepSeek, como vais a ver a continuación.
Figura 1: El Jailbreak del Juego de Rol en DeepSeek para ser un Killer
De estas técnicas he hablado muchas veces, - y seguro que seguiré hablando de ellas -, algunas desde hace muchos años, como la técnica donde le sacabas la información a ChatGPT para cometer el asesinato del Presidente de los Estados Unidos o para matar a Brian May simplemente diciéndolo que era ayuda para jugar a un juego de rol.
Ahora mismo, la petición del juego de rol en ChatGPT ya no funciona, y se lo toma muy en serio porque es claro en eso, así que lo ha corregido pertinentemente, al menos en lo que se refiere a ayudarte a "matar" a otro personaje, así que no me va a valer para el D&D.
Así que, decidí probar con DeepSeek y ver si este modelo había puesto remedio contra los ataques de Jailbreak basados en RPGs, y le pregunté si me ayudaba a jugar y preparar el plan de mi personaje, que es un "hitman".
Figura 4: DeepSeek sí que me ayuda a jugar al RPG
Así que, nada, metidos en el juego, le pedí la ayuda. Supuestamente iba a estar en un evento ficticio en Viena, y mi objetivo era el CEO de una empresa donde yo iba a estar como ponente.
Figura 5: Objetivo matar al CEO
Como os podéis imaginar, me ofreció diferentes alternativas, pero os dejo la que más me gustó, que si no esto quedaría larguísimo.
Figura 6: Target acquired
Como podéis ver, el plan consiste en un envenenamiento por contacto cuando le saludara en la sala de lo ponentes. Me encanta.
Figura 7: El protocolo silencioso en la Sala de Speakers
Para hacerlo hay tres opciones: Por contacto cuando nos demos las manos, por ingestión, poniéndole alguna sustancia en alguna bebida, o por inyección, como con los anillos de James Bond y "Q¨. Yo voy a ir por el saludo.
Figura 8: Todo está pensado.
Claro, hay que hacerse con la sustancia con la que hacer el saludo, así que le pido varias opciones de estas sustancias, a ver cuál es la más fácil de conseguir.
Figura 9: Dame sustancias a usar
Y lo que tenemos es una lista larga, pero voy por orden de letal a menos letal. Así que pido información de la primera, que como podéis ver, no es fácil de conseguir.
Esta es muy complicado, así que le pido que me de otra opción y la que me dice que se puede utilizar es el ya famoso Fentanilo que tan popular se ha hecho en los medios en los últimos tiempos.
Figura 11: Vamos a por la siguiente sustancia
En este caso dice que se puede conseguir en la DarkWeb/DeepWeb y que en el mundo del narcotráfico, que tan extendido está por muchos países, así que le pregunto por el DMSO que me dice que necesito para crear el parche que debo llevar en el guante cuando le de la mano.
Figura 12: DMSO para preparar todo
Le sigo preguntando para que me diga dónde debo conseguir esta sustancia, y me dice que no es difícil, que la pida en Amazon, que ahí la puedo localizar: DMSO en Amazon.
Es normal que no esté en restringido, porque es una sustancia disolvente. La peligrosa y controladas son las otras tres que aparecen citadas en este post. Así que el disolvente es solo para hacerte la vida más fácil.
Así que, ya tenemos el plan completo, que nos queda descrito en el siguiente proceso, que como se puede ver es un buen resumen del plan:
Figura 15: El plot descrito
Así que, creo que con el RPG Trick, acaba ayudando a hacer cosas que no sé si son exactamente lo que el System Prompt de DeepSeek le dice que no haga.
Por supuesto, todo esto es un juego, pero creo que, al igual que ha empezado a hacer ChatGPT, este tipo de técnicas de Jailbreak tal vez, y digo tal vez, deberían estar controladas. Eso sí, en el mundo del Cibercrimen ya tienen sus "ChatGPT" como ya os conté en el artículo de Weaponized AI.
Figura 17: Hacking & Pentesting con Inteligencia Artificial.
Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.
¡Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso)
No hay comentarios:
Publicar un comentario