Cómo filtrar las API Keys de los LLMs en las Apps de iPhone y Android

Esta semana se ha publicado un estudio sobre cómo robar las API Keys de las plataformas de LLM como Anthropic, OpenAI o Gemini, desde las apps - en este estudio - publicadas para iPhone e iPad en AppStore, pero el funcionamiento es similar para las apps de Android, así que si estás usando servicios de LLM en tus apps y has introducido unas API Keys en tu app, toma nota.

Figura 1: Cómo filtrar las API Keys de los LLMs en las Apps de iPhone y Android

El trabajo se titula "Mind your key: An Empirical Study of LLM API Credential Leakage in iOS Apps" y está disponible aquí mismo para que lo puedas leer. Como os he dicho antes, todo se ha hecho con aplicaciones móviles de iOS, pero todo esto es similar para las aplicaciones publicadas en Google Play para dispositivos Android.

Figura 2: Mind your key: An Empirical Study of LLM API Credential Leakage in iOS Apps

El objetivo del estudio es ver cuánto de fácil es hackear un servio digital basado en servicios de inteligencia artificial para robarle las API Keys, o para lograr utilizarlas a través de un servicio Proxy LLM mal configurado. Es decir, un poco de Hacking de IA.

Figura 3: Hacking AI: Jailbreak, Prompt Injection, Hallucinations & Misalignment.

How to Hack Digital Services Based on LLMs & AI Agents (English Edition)

Al final, lo que han hecho es identificar primero apps con capacidades LLM - asistentes, funciones de chatbot, etcétera - que han sido un total de 444 aplicaciones. Esas son las que se han descargado para ver si podían extraer las API Keys o acceder a un servidor que hiciera de Proxy LLM.

Figura 4: Arquitectura de las apps con LLM

Después, metiéndola en un dispositivo con Jailbreak, hacer una manipulación introduciendo un Proxy para hacer Mitm con un certificado metido en el terminal para confiar en los certificados falsos que se crean on-the-fly para suplantar al backend del servicio digital, o el backend de los proveedores de LLM.

Figura 5: Proceso del estudio de seguridad de las Apps

Éste es un proceso de mitm de libro, donde sólo te vas a salvar si la aplicación está haciendo uso de técnicas de Certificate Pinning para asegurarse de que no se manipula la conexión, o si existe un proceso de autenticación robusta entre en la app y el servicio Proxy LLM. Si no es así, las API Keys caerán.

Figura 6: 282 apps permiten hackear las API Keys de una u otra forma

Como podéis ver en la tabla anterior, se estudian tres formas de hacerse con las claves de manera diferentes. La primera es para entornos donde las API Keys están en el código y la app la envía al Proxy malicioso que hace mitm.

Figura 7: Autenticación directa contra OpenAI con API Key en texto plano

Esta es la más peligrosa, porque al final se filtra la API KEY del backend del LLM. En los otros casos tenemos un Proxy LLM que autentica - o no -la petición del cliente y enruta - protegiendo el API KEY - hacia el backend del LLM. En este caso, utilizando una autenticación con JWT (Json Web Token), que tienen otro tipo de problemas.

Figura 8: Uso de Proxy LLM sin autenticación

El primero de los problemas es el que vemos anteriormente, donde no existe ninguna autenticación, con lo que con capturar la petición, se tiene un servicio que gestiona las API Keys para hacer las llamadas al backend del LLM sin ningún control. 

Figura 9: Peticiones con Proxy LLM abierto sin autenticación

Esto es un problema no sólo de consumo de tokens - que también - sino también de envenenamiento de sesiones, robo de información de la misma sesión, etcétera. Es decir un problema dejar abierto tu Proxy LLM a cualquiera que pase por allí.

Figura 10: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso.

Claro, si lo que tenemos es un JWT (Json Web Token), pero éste es estático y no tiene caducidad, pues entonces tendríamos el mismo problema. 

Figura 11: Token de Autorización del Proxy LLM

Estos tokens deberían negociarse en un proceso seguro de autenticación contra el Proxy LLM y tener un periodo de vida limitado. 

Figura 12: JWT en texto plano filtrado

Si tu proceso de autenticación es inexistente, los JWT tienen un periodo de duración muy largo o si se aceptan JWT sin comprobar si están caducados, entonces el sistema es igual de inseguro.

Figura 13: JWT con 100 años de duración

Y por supuesto, si el JWT sigue funcionando aunque esté caducado porque no se comprueba en el Proxy LLM, entonces es como si no hubiera ninguna protección válida.

Figura 14: Proxy LLM aceptando JWT caducados

La solución, pues utilizar un Proxy LLM con autenticación robusta, JWT con periodo de vida razonable y Certificate Pinning para verificar el certificado del servidor. No obstante, el uso de Certificate Pinning está siendo una práctica cada vez menos extendida debido a los problemas que a veces acarrea. Pero... de lo contrario esto es lo que pasa.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Tiny boxes for memories

Nunca crecerás. Al menos no ante mis ojos. No importa que tu carné diga que eres mayor de edad, siempre serás esa niña que coloreaba monstruos conmigo. Serás siempre esos ojos que sonreían detrás de las gafitas. La niña que se quejaba cuando le cepillaba el pelo. Tendrás que vivir con ello. Es tu destino de nacimiento, como el mío fue ser hackeado por ti.

Figura 1: Tiny boxes for memories

Hoy tienes dieciocho años, así que es el aniversario de mi hackeo. Es el día que te tuve en brazos por primera vez. Cuando sentí que el mundo cambiaba mis ejes de coordenadas. Vi la vida cambiar de foco y una lente cónica transformó mi visión. Sentí como tu ser se conectaba a mí a través de nuestro primer contacto piel con piel. Me convertí en un mutante. Se me modificó el ADN. Me quedé unido a ti para siempre. Eres un punto en mi GPS que siempre sé donde está, aunque sea a miles de kilómetros de mí. 

Figura 2: Momento del hackeo

Hoy en día te dejo volar con el viento. Un poco. Te veo jugar con él. Un poco. Eres una cometa que vuela, cada vez más alto, y con el enfado de un avaro que te quiere cerca, tengo que soltar hilo. Solo un poco. Con cuentagotas. No me gusta mucho, la verdad. Pero tengo que aceptarlo. Me siento como el Conde Drácula de la película Transilvania que tanta gracia nos hace. Vigilo cada movimiento que haces con disimulo esperando para ir a defenderte de lo que sea... pero sin que se note. Y si se nota, me da igual. Eres Mi Hacker.

La vida te espera. La tienes por delante. No será fácil. Nunca lo es. Es un viaje lleno de altibajos. De bienes y males. De aventuras, disfrutes, sufrimientos y anhelos. De expectativas por cumplir y de cosas que querrás que aún no sabes ni que existen. Es un viaje por terrenos que bien pueden ser peligrosos, o divertidos. Terrenos en los que tu papaete estará siempre a tu disposición. A una conexión de ti. A una llamada de ti. A un silbido de ti. A un suspiro de ti. A un latido de ti.

El verte crecer ha sido mi regalo. Uno que no esperaba tener cuando yo tenía tu edad. Ser papaete ha sido mi premio en la vida. Has sido energía que me ha dado fuerza para levantarme de las caídas. Una razón para no rendirse. Una cura para la enfermedad. Una risa tuya es el Gran Premio de Mónaco. Un abrazo, ganar un Pwnie Award. Y tu alegría el gol de Iniesta. Es difícil explicar lo que vale para un papaete verte crecer y brillar. 

Pero también dueles. Tus penas son amplificadas dentro de mí. Estoy entrelazado cuánticamente contigo. Tu sufres, yo sufro más. Tu te alegras, yo me alegro más. Vivo con esta función de interferencia desde que naciste. Sabiendo que siempre viviré en un marco de referencia en el que tus emociones, tus problemas, tus éxitos, tus dolencias y tus avances declinan mi vida. Para que negarlo.

En el camino quedan los cuentos. El de "Cuando los dragones sueñan" que tanto te gustaba. Con su poesía, y sus dibujos. Con los amigos del Dragón Matías. Y todos los que me inventé para ti. Queda bajar al parque con dos cubos, dos palas y dos rastrillos para que hicieras amigas. Queda tumbarte en el cojín y llevarte botando por toda la casa como si estuvieras cabalgando un unicornio. Queda despedirme de ti cuando te ibas de casa con tu mochila y tu almohada porque te habías enfadado con cuatro años. Queda tu viaje al internado que resultó ser la casa de tu amiga ratona. 

La casa del Ratón Pérez que se hizo en tu puerta para venir a verte. Quedan tus primeras exhibiciones de patines. Tu disfraz de la Kalabaza de Pippa. Tu enfado por mandarte de campamento "que nunca ibas a perdonar". Quedan tus lágrimas de bebé. Tus miedos a las pastillas. Las carreras a urgencias por las alergias. Las noches sin dormir por tus llantos. Salir de casa con el corazón encogido para irme al otro lado del mundo. Las llamadas del Dragón Matías mientras volaba conmigo.

También quedan las guerras por la hora de llegar. Las discusiones y las peleas contigo por ser adolescente rebelde. Luchar para que te portes bien. Queda el día en que te llevé para que te fueras en el tren a tu primer trabajo con dieciséis años. Nuestra primera conferencia juntos con doce años. El día de tu primer baile de exhibición del colegio. Tus besos cabezones que seguirás dándome. Tus infinitas peroratas para intentar colársela a tu papaete que no cuelan. Tú primer día montando en bicicleta. Tus llamadas para que te vaya a recoger. Llevarte a la selectividad, al médico o al fin del mundo. 

Todo eso se queda en la memoria como un tesoro. Metido en nuestra canción. Esa que tanto nos gusta cantar juntos. Pero ese tesoro solo son las raíces de lo que tienes por delante, que espero vivir de cerca. Todo lo que la vida nos deje. Incluso aunque viva en otro país. Aunque el día de tu cumpleaños tenga que llamarte desde miles de kilómetros para felicitarte. Porque sea lo que sea que venga, lo viviremos conectados.

Solo espero que tu vida te dé emociones, que sepas aceptar y superar lo malo, para disfrutar y luchar por lo bueno. Que sepas que el corazón vale más que el dinero, que cuidar a tu gente es el mejor regalo que uno puede recibir. Que los retos que tengas no se acaben, y que vivas siguiendo la dirección que lleva al sol, para que cuando los años te den la mirada de la experiencia esta esté llena de luz.

Feliz cumpleaños, Mi Hacker.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)