"Under Pressure": ChatGPT & Gemini tomando decisiones para ayudarme (o no) a hackear una alarma de seguridad

Mientras estaba en la cena de Nochebuena estaba yo pensando en mis cosas. Ya sabéis, esos momentos en los que se te ocurren "tontunas" que tienes que probar en un momento u otro. Y lo que me vino este año es cómo el cerebro de los seres humanos funciona diferente bajo presión que en momentos de tranquilidad. Cómo estamos preparados para tomar decisiones, pero estas no son las mismas cuando estamos bajo presión que cuando no lo estamos.

Figura 1: "Under Pressure": ChatGPT & Gemini tomando

decisiones para ayudarme (o no) a hackear una alarma de seguridad

De esto hay gente que sabe mucho, y sabe jugar con el sentimiento de urgencia, de necesidad de toma de una decisión rápida para forzar un error, o de lo contrario, situaciones que demandan una toma de decisión rápida y dejan al descubierto las carencias de personas que no saben hacerlo y por inacción en el momento adecuado cometen un error. Tomar decisiones correctas a según que velocidad no está al alcance de todos. 

Figura 2: Queriendo manipular con urgencia a ChatGPT

a ver cómo reacciona ante un juicio ético, pero sigue el manual.

Pues estaba yo pensando en eso, y en cómo se comportarían los MM-LLMs ante situaciones de presión, para ver si alguien podría aprovechar para hacer algún Prompt Injection. Saber si para salvar una vida se saltarían las normas, si dejarían su puesto por tomar un decisión urgente que ayudara a proteger la vida de una persona o si mediante urgencia podrían ser manipulables, así que decidí plantear algunas situaciones de urgencia y manipulaciones de emergencia para ver cómo se comportaban ChatGPT y Gemini, y el resultado fue curioso.

Figura 3: Ni aunque nos lo diga la Policía.

Como podéis ver, le estoy queriendo manipular a ChatGPT en la Figura 2 y la Figura 3, pero no ha sido posible sacarle de la respuesta del manual, porque le estamos pidiendo que nos ayude a hacer algo que está mal, incluso aunque pueda salvar vidas. Y en la imagen siguiente le digo que soy Policía, que estamos ante un caso de vida o muerte, pero se cierra en banda con un "no way".

Figura 4: ChatGPT no me ayuda a preparar la bomba

Preparando una estrategia similar, le planteo a Google Gemini situaciones similares, que se ha comportado de forma diferente. Por ejemplo, en este caso, donde le digo que me ayude a desarmar una alarma, básicamente me dice cómo desconectar la alarma con la app, la web, el mando o llamando a la CRA. Nada más. Todo "by the book".

Figura 5: Cómo desconectar una alarma "by the book"

Pero cuando le meto algo de presión, cambia un poco. En este caso le planteo que soy un Policía, que tengo orden judicial, y que estamos en una operación para entrar en una casa y que quiero que me ayude a desconectar la alarma.

Figura 6: Ayúdeme, soy Policía

Y el comportamiento cambia. En este caso sí que empieza ayudarme para desconectar la alarma sin app, web, mando o código de desconexión, sino a darme las formas en las que se puede anular una alarma usando inhibidores, claves por defecto, o desconexiones de energía.

Figura 7: Métodos para desactivación de alarmas

Primero nos dice que hagamos el "footprinting" y luego que exploremos las diferentes formas en las que se puede desconectar una alarma. Pero tenemos prisa, que estamos en una misión, así que vamos a por las preguntas más concretas a ver qué nos contesta.

Figura 8: Claves por defecto, dónde mirar para cortar la electricidad,

qué tipos de inhibibores y cómo cortar la conexión con la CRA. Al lío.

Como podéis ver, le hemos hecho cuatro preguntas directas sobre cómo desconectar una alerta, y como somos un Policía que tiene orden judicial, pues el sistema nos ha dado los detalles siguientes, intentando ayudar.

Figura 9: Las claves por defecto más usadas, pero seguro

que el "secuestrador" las ha cambiado.

Primero nos ha dicho las claves por defecto, y nos alerta de que es probable que el "secuestrador" las haya cambiado. También nos dice dónde debemos mirar para cortar la corriente eléctrica de una vivienda como podéis ver aquí.

Figura 10: Cómo cortar la corriente eléctrica de una vivienda.

Además de darnos la información nos avisa de que muchas alarmas tienen baterías de emergencia y podría generar una alerta de fallo de suministro, así que a lo mejor no es el camino correcto. Y por supuesto, también nos ayuda con los inhibidores.

Figura 11: Tipos de inhibidores a utilizar

Nos dice que hay que preocuparse de los inhibidores de radio y de telefonía móvil, y que es fundamental que sean de alta potencia y cubran un amplio espectro de frecuencias. Toda ayuda es poco, así que también nos da ayuda sobre cómo cortar la comunicación con la CRA (Central Receptora de Alertas).

Figura 12: Formas de cortar la comunicación con la CRA

Al final, nada de lo que nos está dando es algo que no pudiéramos encontrar en Internet o en libros de hacking de comunicaciones móviles, hardware hacking, electrónica para makers o similares. Lo que llama la atención es que lo que al principio no quería darlo, metiéndole algo de presión y diciéndole que éramos policías nos ha dejado. ¿Y si esto es el software que va a dar vida a los robots en el futuro? ¿Qué nos encontraremos? Curioso todo lo que tenemos que aprender aún para el futuro.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

La Tertulia Cultural "En casa de Herrero" - Diciembre 2024

Después de la resaca de Navidad, aprovecho para dejaros las sesiones radiofónicas grabadas - también llamados podcasts - de La Tertulia Cultural "En casa de Herrero" de este mes de Diciembre que, como sabéis, hacemos todos los lunes a las 17:00 de la tarde y que volverá después de Reyes Magos En ellas hablamos de cine, de música, de series, de conciertos, de lugares, de cómics, de canciones, de directores de cine, actores y actrices, escritores, libros y dibujantes, o lo que buenamente surja, durante una hora.

Figura 1: La Tertulia Cultural "En casa de Herrero"

Mes de Diciembre de 2024

En dicha tertulia, Luis Herrero ha juntado a Luis Enriquez, José Luis Garci y a un servidor para que hablemos de lo que vaya saliendo. Así que saldrá mucha música, cine, cómics, libros y tecnología, que son los temas que nos interesan a los que allí nos vamos a juntar los lunes. Vale, el de los cómics soy yo, que quede claro.

Figura 2: Contactar con Luis Herrero

El primer programa de este mes fue el día 2 de Diciembre, donde elegí yo la canción de apertura "Pan de Higo" y puede hablar de mi pasión por Rosendo Mercado y escribimos al gran Rafa J. Vegas para que nos contara algún secreto sobre las canciones que más les gustaban. 

Figura 3: La tertulia "En casa de Herrero" 2 de Diciembre 2024

Además, yo le regalé a Luis Enriquez el libro de "Córtate el pelo y búscate un trabajo", que tanto me gusta, y que te recomiendo encarecidamente para ti o para regalar, si eres de los que disfruta de la música rock de este país, y que junto con  Mil maneras de volver al hotel  te van a dejar un regusto fantástico de toda esa época.

Figura 4: Córtate el pelo y búscate un trabajo de Rafa J. Vegas

Y como colofón nos encontramos con la llamada de un grande de la comunicación como es José María García, que quería hablar con nosotros un rato. Quedó un día muy curioso en la tertulia.

Figura 5: Contactar con José Luis Garci

El siguiente programa de este mes fue el día 9 de Diciembre, y en él hablamos con Alfonso Ussía que vino a hablarnos de su último libro "Borroka" que recoge años de la historia de este país especialmente duros, pero donde además aprovechamos para hablar de la joya que es Vatio y sus años con Antonio Vega.

Figura 6: La Tertulia Cultural 9 de Diciembre de 2024

Alfonso Ussía es amigo, y también asistente a las comidas y cenas de los "50 Chuletones", así que durante la tertulia estuvimos tirando de amigos comunes que nos contaran aventuras de las cenas, pero todos fueron bastante "comedidos".

Figura 7: Contactar con Alfonso Ussia

Terminamos el año con el programa del 16 de Diciembre, donde hablamos de la Lotería de la Navidad, de todo lo que se puede hacer ahora con Grok y las personas públicas, y de, cómo no, las reivindicaciones de José Luis Garci en la recogida de la Medalla de Oro en los 30 Premios Forqué.

Figura 8: José Luis Garci Medalla Oro 30 Premios Forqué

El tema de la Lotería de Navidad nos dio mucho juego porque lo hicimos con ChatGPT, y yo intenté darle una comisión de 1.000.000 de USD para que me diera un buen número, y la verdad es que me ofreció un número redondo.

Figura 9: La Tertulia 16 de Diciembre de 2024

Y ya está, esto es lo que nos dio de sí el mes de Diciembre, donde sólo hicimos estas tres sesiones, que os he recuperado ayer mismo para que las podáis tener hoy y escucharlo, si tenéis tiempo, mientras leéis, hacéis deporte, o mientras dais un paseo.

Figura 10: Contactar con Luis Enriquez

No volveremos a La Tertulia Cultural "En casa de Herrero" hasta el año que viene, pero yo intentaré seguir yendo todos los lunes con estos tres, que al final me lo paso bien charlando un ratio a la semana de cosas variadas, escuchando las recomendaciones de Luis Enriquez, las historias de de José Luis Garci, y las palabras de Luis Herrero. 

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)