Mostrando entradas con la etiqueta Claude. Mostrar todas las entradas
Mostrando entradas con la etiqueta Claude. Mostrar todas las entradas

jueves, octubre 22, 2026

Claude Mythos reduce hasta 39 veces el coste de Circuitos Cuánticos

Hace poco os contábamos en este blog cómo Claude Mythos Preview se había sentado atrabajar como criptoanalista y había encontrado nuevas formas de debilitar HAWK y AES. Aquella historia tenía a la Inteligencia Artificial buscando grietas en los algoritmos que protegen nuestra información. Ahora Claude vuelve a aparecer en el mundo de la Criptografía y la Computación Cuántica, pero en el lado contrario de la mesa. Esta vez no intenta romper un algoritmo: intenta diseñar los circuitos con los que funcionarán los ordenadores cuánticos del futuro.

 
La ironía es bastante buena. Una Inteligencia Artificial clásica está ayudando a reducir los recursos que necesitarán los Quantum Computers que, algún día, podrán ejecutar algoritmos como el de Shor y poner contra las cuerdas a buena parte de la criptografía actual.


El trabajo, liderado por Andi Gu dentro del programa STEM Fellows de Anthropic junto con Alek Kemeny, Susanne Yelin y Mikhail Lukin, plantea un experimento aparentemente sencillo: darle a Claude Mythos 5 la descripción en lenguaje natural de ocho circuitos cuánticos, dejar que proponga implementaciones en Python y utilizar un evaluador independiente para comprobar que funcionan y medir cuánto cuestan.


El resultado es de los que obligan a mirar dos veces la tabla. En siete de las ocho tareas, los circuitos encontrados reducen simultáneamente el número de Puertas Toffoli y el número de qubits respecto al mejor diseño de referencia. En las comparaciones directas, la mejora del coste combinado llega hasta 39 veces. Y en la octava tarea Claude no se limitó a optimizar una implementación conocida: encontró una nueva arquitectura reversible pararealizar inversión modular.

La carrera cuántica no se gana sólo fabricando mejores qubits

Cuando hablamos de Quantum Computing solemos imaginar que el gran cuello de botella está en el hardware: fabricar más qubits, mantenerlos aislados del ruido y corregir sus errores durante el tiempo suficiente. Y todo eso es cierto. Los procesadores actuales siguen teniendo muy pocos qubits para ejecutar muchas de las aplicaciones que prometen una ventaja real, y además son extraordinariamente frágiles. Pero hay otra forma de acercar una aplicación al hardware disponible: hacer que el algoritmo necesite mucho menos ordenador.

El ejemplo que utiliza Anthropic es FeMoco, el cluster de hierro y azufre que se encuentra en el corazón de la nitrogenasa, la enzima con la que algunas bacterias convierten el nitrógeno del aire en amoníaco. Entender su química podría ayudar a diseñar catalizadores industriales mejores y procesos de fabricación de fertilizantes más limpios.

En 2017 se estimó que calcular su energía fundamental exigiría alrededor de 50 billones de puertas Toffoli. Después de ocho años de mejoras algorítmicas y rediseños de circuitos, la estimación cayó hasta unos 340 millones: aproximadamente 150.000 veces menos. No apareció de repente un ordenador 150.000 veces mejor. Gran parte del progreso consistió en aprender a pedirle mucho menos trabajo a la máquina. Hay dos formas de hacer que un ordenador sea 150.000 veces mejor en una tarea: la primera que el ordenador sea 150.000 veces mejor y la segunda que la tarea sea 150.000 veces más sencilla


Aquí conviene explicar qué se está contando. Un circuito cuántico, igual que uno clásico, se construye aplicando operaciones elementales. La Puerta Toffoli es especialmente costosa en una arquitectura tolerante a fallos, así que su número se utiliza como una aproximación al trabajo lógico y, muchas veces, al tiempo de ejecución.

Pero contar operaciones no basta. También importa cuántos qubits necesita utilizar el circuito a la vez. Pensad en lo que ocurre con un programa normal: puede guardar resultados en memoria para no tener que calcularlos de nuevo. Ahorra trabajo, pero ocupa más espacio. En estos circuitos aparece una negociación parecida: guardar resultados intermedios consume qubits; no guardarlos puede obligar a repetir cálculos.


Por eso los investigadores valoran ambas cosas conjuntamente. Cada propuesta de Claude recibe una puntuación que combina las operaciones que necesita y los qubits que utiliza. Así pueden comparar diseños que ahorran por caminos distintos: unos reducen mucho el trabajo, otros necesitan menos memoria y algunos consiguen mejorar las dos cosas.

La idea es sencilla: hacer la misma tarea con menos recursos, sin que el ahorro en una parte dispare el gasto en la otra.

La maquinaria de búsqueda se parece más a un laboratorio automático que a una conversación normal con un chatbot. Cada tarea comienza con una especificación escrita por investigadores y un programa vacío. Claude propone varias familias de soluciones, escribe el código que construye cada circuito y recibe del evaluador los errores o la puntuación. Las propuestas válidas sobreviven y se modifican; las que dejan una ancilla sin limpiar, calculan mal una salida o incumplen la interfaz quedan descartadas.



El sistema utiliza OpenEvolve para mantener esa búsqueda evolutiva y Claude Mythos 5 para proponer arquitecturas y reescrituras. Entre iteraciones no hay una conversación infinita que lo recuerde todo: cada sesión recibe una parte limitada del archivo de diseños, sus costes, algunos intentos anteriores y el feedback del evaluador.

La extraña regla cuántica: aquí no se puede tirar la basura

Hasta aquí parece un problema de optimización de código bastante convencional. El detalle que lo vuelve realmente interesante es que un circuito cuántico no puede programarse igual que una aplicación normal.

La primera dificultad es el control de flujo. Un programa clásico mira una condición y decide: “si ocurre esto, ejecuta A; si no, ejecuta B”. Un circuito cuántico puede estar procesando una superposición de entradas en la que unas necesitarían A y otras B. No puede seleccionar tranquilamente una sola rama clásica: tiene que expresar ese comportamiento mediante operaciones controladas dentro de una secuencia fija de puertas. Y el coste de esas ramas termina dentro del circuito.

La segunda dificultad es todavía más extraña: no se puede borrar la información intermedia sin más.

Imaginad que resolvéis un problema en una pizarra. Hacéis unas cuentas auxiliares, utilizáis el resultado y después borráis la esquina donde estaban los garabatos. En un ordenador cuántico esa basura no puede desaparecer de manera irreversible. Si queda enganchada al estado, puede impedir que las amplitudes interfieran como deben. Y si intentáis borrarla de la manera clásica, destruís la reversibilidad del cálculo.

La salida habitual es el "uncomputation": una vez utilizado el resultado intermedio, se ejecutan en sentido inverso las operaciones que lo produjeron hasta devolver los qubits auxiliares a cero. Funciona, pero cuesta más puertas.


Y esto crea una negociación permanente. Guardar resultados intermedios ahorra repetir cálculos, pero consume qubits. Limpiarlos cuanto antes libera memoria, pero puede obligar a recomputarlos más tarde. Diseñar un buen circuito significa encontrar un punto inteligente en esa frontera.

El primer gran examen que pusieron a Claude fue la suma de puntos sobre curvas elípticas. Quienes hayáis leído el artículo sobre el algoritmo de Grover ya sabéis que un algoritmo cuántico no es una especie de magia universal: cada ventaja necesita un circuito muy concreto.  En este caso la suma de puntos es una pieza central de los algoritmos cuánticos para resolver el logaritmo discreto en curvas elípticas, el problema sobre el que descansa ECDSA y buena parte de la criptografía de curva elíptica.

El paso más caro de esa suma suele ser la inversión modular. En un ordenador clásico existe un método muy eficaz llamado divsteps, que va actualizando una pareja de números y decide en cada ronda si intercambia, suma, resta o divide entre dos.

El problema es que, para ejecutar el proceso al revés, un circuito cuántico tendría que recordar qué decisión tomó en cada una de sus muchas iteraciones. Guardar toda esa historia de ramas consume una cantidad enorme de qubits. Por eso un algoritmo clásico excelente podía ser una mala base para un circuito reversible.

Claude propuso una salida bastante elegante: tal vez la historia no tenía que guardarse porque podía reconstruirse mirando el estado actual de los números. Es decir, el propio resultado de cada paso podía actuar como memoria de la decisión que lo había producido.

Las primeras reglas que encontró funcionaban en ejemplos pequeños y fallaban al llegar a números de 256 bits. Entonces dejó de probar trucos locales y empezó a estudiar la estructura matemática de divsteps. Derivó identidades algebraicas, construyó una regla exacta para recuperar la rama, la comprobó con simulaciones a gran escala y formalizó la afirmación en Lean. El resultado fue la primera implementación reversible de divsteps sin almacenar toda la historia de ramas.

Todo ese recorrido nació de un encargo de un párrafo y una ejecución de 53 horas, con intervención humana limitada a la especificación inicial y a algunas indicaciones para que explorase alternativas más amplias.

Pero no existe un único circuito ganador. Decodificar la historia ahorra qubits y cuesta puertas; almacenarla cuesta memoria y puede ahorrar tiempo. Claude produjo una familia de soluciones que amplía la frontera entre ambos recursos.


La comparación que resume mejor la idea es ésta: frente al diseño anterior con menos qubits, una de las nuevas variantes utiliza aproximadamente un 12% más de qubits, pero necesita 17 veces menos puertas. En un hardware donde el tiempo sea la restricción dominante, ésa puede ser una negociación extraordinaria. En otro donde cada qubit sea carísimo, puede interesar una variante diferente.

Optimizar al propio optimizador cuántico

La segunda historia del trabajo parece un trabalenguas: Claude optimizó el decodificador que utiliza un algoritmo cuántico de optimización. El algoritmo se llama Decoded Quantum Interferometry o DQI. En vez de buscar una única respuesta de manera directa, prepara un estado cuántico en el que las soluciones mejores tienen más probabilidad de aparecer al medir. Para construir ese estado necesita un decodificador de códigos Reed–Solomon, y ese decodificador era la parte más cara del circuito.

Para ponerle una imagen al problema, Anthropic utiliza la intersección polinómica óptima donde cada columna admite ciertos valores y buscamos una curva sencilla que pase por tantos de ellos como sea posible. La figura original permite ver qué intenta optimizar DQI antes de entrar en la maquinaria del decodificador.


La implementación anterior estaba basada en el algoritmo de Euclides extendido. Es un método estupendo en un Quantum Computer, pero su secuencia de divisiones e intercambios depende de la entrada. Para un circuito cuántico con una única secuencia fija de puertas, esa variabilidad obliga a reservar rondas y operaciones que muchas entradas no necesitarán. Claude cambió la base del diseño por el algoritmo de Berlekamp–Massey, que realiza el mismo tipo de actualización en cada ronda y ejecuta un número fijo de rondas. Es una forma de cálculo mucho más compatible con el control de flujo cuántico.

Aun así quedaba la basura. Una traducción reversible ingenua debería conservar valores temporales de muchas rondas. Reservar memoria para el peor caso –35 valores excepcionales– exigiría 665 qubits. Claude volvió a utilizar la misma idea de fondo: reconstruir casi toda la historia a partir del estado actualizado y guardar únicamente lo que de verdad no puede recuperarse.

Para saber cuánto espacio necesitaba, escribió un simulador de alta velocidad y ejecutó 403 millones de decodificaciones. Casi todas necesitaron guardar como máximo un valor, por lo que el circuito reserva sólo 19 qubits. Aproximadamente una de cada 10.000 ejecuciones necesita más y falla, una probabilidad que entra dentro del presupuesto de error permitido por la tarea.


La mejora no salió de apretar un único tornillo. Llegó de rediseñar tres capas a la vez: elegir otro algoritmo, cambiar la forma de hacerlo reversible y dejar de dimensionar la memoria para un caso extremadamente raro que la propia tarea permitía tratar como fallo. En conjunto, el decodificador Reed–Solomon pasó de unos 5,1 millones de puertas Toffoli y 1.938 qubits a 440.000 Toffoli y 1.837 qubits: una mejora de unas 12 veces en el coste T Q. Y no fue un caso aislado.

Los ocho problemas cubrían decodificación para optimización, funciones numéricas utilizadas en simulación, química cuántica, teoría de números y simulación de teorías gauge. En la Función Gaussiana de punto fijo, la mejora del coste T Q llegó a 39 veces; en el ángulo de rotación de HHL fue de 32 veces; en el potencial de Coulomb, de 9,9; y en una rutina para simular un sistema no abeliano, de 7,7.


No todas estas cifras significan que una aplicación completa vaya a ejecutarse exactamente 39 veces más rápido. Son mejoras en primitivas concretas y bajo una función de coste concreta. Pero esas primitivas se llaman una y otra vez dentro de algoritmos mucho mayores, de modo que reducirlas puede cambiar de manera significativa la factura total.

Lo más importante no es que Claude escribiera el código

Hay una lectura superficial de este trabajo que sería: “Claude sabe programar circuitos cuánticos”. Es cierta, pero se queda corta. Lo realmente interesante es el tipo de entorno científico que han construido. El modelo puede proponer ideas arriesgadas porque cada resultado terminado pasa por un juez externo. Si calcula mal, si no devuelve los ancillas a cero o si utiliza demasiados recursos, el evaluador lo detecta. El sistema no confunde una explicación convincente con una demostración correcta. Ésta parece ser una de las combinaciones más fértiles para acelerar investigación con inteligencia artificial:

1. un problema que pueda representarse como código;
2. una comprobación externa y suficientemente barata de la corrección;
3. una función de coste objetiva;
4. y libertad para explorar familias de soluciones que no sean simples retoques locales.

Claude no se limitó a rebajar contadores. En los dos ejemplos principales cambió la manera de representar la información que un circuito reversible necesita conservar. La idea recurrente fue especialmente física: no guardes toda la historia si el estado presente ya contiene huellas suficientes para reconstruirla.

También conviene mantener los pies en el suelo. Los circuitos no se ejecutaron en un ordenador cuántico real. El evaluador funciona de forma eficiente porque las tareas estudiadas pertenecen a una clase concreta: circuitos que implementan funciones clásicas de forma coherente y que pueden comprobarse siguiendo estados de la base computacional. No cualquier circuito cuántico arbitrario admite una verificación clásica tan barata.



El coste T Q tampoco representa por igual todas las máquinas. En algunas arquitecturas dominará el número de puertas; en otras, la profundidad, el enrutamiento o el número de qubits activos. El propio paper subraya que la función de puntuación puede cambiarse para reflejar restricciones de hardware diferentes.

Y tampoco hubo una ausencia absoluta de humanos. Las especificaciones, las interfaces y los criterios de corrección fueron escritos por investigadores. En el experimento de curvas elípticas hubo indicaciones ocasionales para que Claude ampliara la búsqueda, porque el modelo tendía a ser conservador y a volver a enfoques conocidos. Esa cautela también tuvo una cara útil: lo llevó a comprobar repetidamente el resultado y a formalizar una parte en Lean.

Pero el salto sigue siendo difícil de ignorar. La reducción acumulada de FeMoco necesitó ocho años y muchos equipos. La nueva familia de circuitos para curvas elípticas apareció en una ejecución de 53 horas. No son comparaciones idénticas, pero sí señalan una diferencia enorme en la velocidad con la que puede explorarse un espacio de diseños cuando una IA propone y una máquina verifica.


Y aquí aparece la posibilidad más ambiciosa del trabajo. Un Quantum Computer tolerante a fallos no es sólo un circuito. También necesita códigos de corrección de errores, decodificadores, compilación, enrutamiento y decisiones de hardware. Hoy solemos diseñar cada capa por separado porque hacerlo todo a la vez es demasiado complejo. Pero muchas de esas capas comparten las mismas propiedades: pueden escribirse como código, comprobarse y puntuarse. ¿Y si una IA pudiera diseñarlas conjuntamente para una aplicación concreta?

Tal vez los primeros ordenadores cuánticos útiles no lleguen únicamente porque aprendamos a fabricar millones de qubits mejores. Puede que lleguen también porque sistemas como éste descubran que, para resolver el problema que nos interesa, no necesitábamos tantos qubits ni tantas puertas como creíamos.

La última vez que Claude Mythos apareció en este blog estaba buscando una grieta en la criptografía postcuántica. Esta vez ha estado diseñando parte de la maquinaria que algún día podría ejecutar los algoritmos cuánticos contra la criptografía clásica. Visto así, la Inteligencia Artificial no sólo está acelerando la ciencia. También está empezando a diseñar las herramientas con las que haremos la siguiente.

Saludos,

Otros artículos sobre Quantum Computing publicados:

jueves, octubre 01, 2026

Factorización de RSA Challenge RSA-896 en 10 días con 30 GPU Core-Years ... y un poco de ayuda de la IA

Esta semana ya hablamos de RSA, en el artículo de "Cómo Falsificar Firmas RSA, sin Factorizar el Módulo, usando 1.380 CPU Core-Years", un artículo que merece la pena que te leas para entender el mundo en el que estamos hoy en día respecto a la criptografía, pero no quería dejar pasar más tiempo sin hablar de la publicación de Stephen A. Weis que ha publicado la resolución del RSA Challenge para RSA-896.

El RSA Challenge es un viejo reto de RSA Laboratories, ya cerrado en cuanto a premios, pero que tenía como siguiente parada el RSA-896, tal y como podéis ver en esta captura que publiqué en uno de mis artículos de criptografía para ilustrar el estado actual de RSA.
Lo cierto es que con los avances en Inteligencia Artificial, hemos tenido una consecuencia menos esperada, y es que han proliferado los Centros de Cómputo, y la potencia de computo se ha abarato muchísimo, así que atacar a nuestro querido RSA es posible a precios manejables, como vimos en el artículo de "Cómo Falsificar Firmas RSA, sin Factorizar el Módulo, usando 1.380 CPU Core-Years" donde los investigadores tuvieron acceso a los recursos para conseguir esos 1.380 CPU Core-Years, algo impensable antes.
En el caso de Stephen A. Weiss, para resolver el RSA-896, necesitó de 10 días con 30 GPU Core-Years, utilizando 2048 GPUs que estuvieran en periodos de baja prioridad e inactividad en los Centros de Cómputo de Anthropic, lo que le ahorró muchos costes económicos, pero que sirvió para resolver el reto.
Para poder ejecutarlo, utilizó el algoritmo de Number Field Sieve (NFS) del que ya hemos hablado en el artículo anterior, usando el programa OpenSource CADOS-NFS, que está escrito en C/C++. Pero, con una mejora para la que utilizó Antrophic Claude.
Se utilizó la Inteligencia Artificial para migrar CADOS-NFS, construido para correr en CPUs, para que pudiera ejecutarse en en GPUs - una de las optimizaciones de las que los investigadores que hicieron las firmas falsas de RSA plantearon como mejora a su trabajo -.
La solución la ha publicado en su blog personal, y puedes verla aquí, sin mucho más que contar. El avance de la IA permitió acceder a centros de datos de GPUs a costes asequibles, y al mismo tiempo migrar el software que era necesario para romper el RSA-896 del reto.
Para los que entendáis el algoritmo NFS y el proceso de factorización, Steven A. Weis ha dejado los detalles del proceso. El polinomio utilizado era de grado 6, alfa -11,12, Murphy E 5,293e-10, Res(f,g) = -8N. 

La alerta está clara, RSA-1024 es asequible para cualquiera con un poco de recursos, por lo que hay que preocuparse. Si quieres animarte, el RSA-1024 del RSA Challenge lo tienes aún en la web de Archive.org, y aquí está.
La recomendación está clara, seguir acelerando la migración a Post-Quantum Cryptography, no ya porque lleguen los Quantum Computers, que puede que sean más o menos tarde, pero cada vez se están cercando más los algoritmos de criptografía basados en RSA.
Hay que recordar que este año, el equipo de Google Quantum AI, junto a la Fundación Ethereum, publicó en marzo otro paper clave titulado "Securing Elliptic Curve Cryptocurrencies against Quantum Vulnerabilities". En este caso, lograron reducir a menos de 500.000 cúbits físicos el requisito para romper la criptografía de curva elíptica (ECDLP-256) que protege a Bitcoin y Ethereum, permitiendo un ataque en cuestión de minutos.
Este paper aceleró en todas las compañías el proceso de migración a PQC en todas las empresas, y en Cloudflare, por ejemplo, se decidió ir Full Post-Quantum Security en 2029, y esta misma semana hemos anunciado un montón de nuevos despliegues de PQC en la plataforma. Os los dejo aquí:
Si a esto le sumamos los anuncios de este mes de Septiembre con el aviso del trabajo de "Cómo Falsificar Firmas RSA, sin Factorizar el Módulo, usando 1.380 CPU Core-Years" y el que tenemos aquí al resolverse tan "fácilmente" RSA-896, nos lleva claramente a un escenario de aceleración a Post-Quantum Cryptography lo antes posible.
Si te gusta todo este mundo, durante el mes de Noviembre vamos a dar el Programa de la Universiad de Deusto de Quantum y Post-Quantum Computing para Ciberseguridad. al cuál aún te puedes apuntar. Es online, y lo damos un grupo de amantes de la ciberseguridad y las tecnologías Quantum.


Y si quieres saber más sobre estos temas, te dejo una lista de artículos de Quantum Security que te recomiendo que te leas si no lo has hecho ya.
¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


miércoles, septiembre 23, 2026

IA aplicada al ciclo completo del desarrollo de software

En muchas entrevistas o charlas con amigos surge la pregunta de "¿cómo te mantienes al día de la tecnología?" La respuesta desde hace años es muy similar. Se trata de estudiar todos los días, y yo lo hago leyendo todos los días mis blogs, asistiendo a eventos, disfrutando de lecturas de libros, viendo conferencias online, escuchando podcasts. Algo que para mía es "lo normal". Por eso siempre estoy metido en actividades. Es decir, hago conscientemente cosas para formarme todos los días.
Esta actividad es una formación Gratuita y Online de 1 hora de duración  que que tendrá lugar el día 29 de Septiembre a las 17:00 y donde se hablará no solo de VibeCoding, Spec Coding, Graph Engineering, Code Agents o Software Factories, sino también de Workflows, Skills, MCP, Arquitecturas RAG, Loop, Harnesses y, como no, QA y Seguridad, temas que debes conocer hoy en día si quieres dedicarte al mundo de la tecnología.


Es una oportunidad cómoda de estar una hora en mi jornada asistiendo a un evento en remoto, escuchando a profesionales y, lo mismo, lo hago desde mi terminal móvil paseando por la ciudad, o sentado en un banco del parque de la "Tapada das Necessidades" en Lisboa, donde aprovecho para ir a leer un poco las tardes de buen tiempo. 

En la formación estarán Santos Pardos Gotor, que es Arquitecto de soluciones Cloud e instructor de AWS autorizado dando una ponencia de y luego habrá una mesa redonda a la que se unirán Ángel Gálvez Caballero, que es el CISO Avolta, e Iván Sanz Prieto, que es Senior Manager of Software Development for AI, Data & DevSecOps en Lumen Technologies. Así que seguro que puedo seguir aprendiendo cosas de sus experiencias.

Regístrate al Foro de IA aplicada al desarrollo de Software

Para poder venir tú también, lo único que tienes que hacer es inscribirte en el formulario como asistente, para venir el próximo día 29 de Septiembre por la tarde (a las 17:00 horas de España), como te he dicho totalmente gratuito y online, y te permitirá aprender cómo es el mundo de la creación de tecnología  hoy en día, para entender mejor donde estamos en creación de software, servicios digitales y productos informáticos.

Si quieres estar al día, y conocer de primera mano cómo son las amenazas, cuál es el estado de la ciberseguridad y, sobre todo, cómo protegerte tú, los tuyos y tu empresas, entonces solo necesitas rellenar el formulario y venir al evento con nosotros.

Al final, esta es una oportunidad para conectarse desde casa o el trabajo, y en poco más de una hora ponerse al día con uno de los temas que más preocupan hoy profesionalmente, como es la Inteligencia Artificial y el Desarrollo de Software. No desaproveches la oportunidad. Registra tu plaza aquí.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


domingo, septiembre 20, 2026

Vibe-Exploiting Discourse para hackear OpenAI con Claude Opus

Esta semana ha salido el Write-Up de cómo un grupo de investigadores consiguieron un Bug Bounty de OpenAI de 6.000 USD haciendo Vibe-Exploiting con Claude Opus. La explicación es lo que tenemos hoy en día en este mundo, donde se utiliza la Inteligencia Artificial para hacer el trabajo, lejos de lo que eran los sesudos Write-Ups de antes donde se explicaba con detalle la creación de los exploits, y, en este caso, evitar la protección de memoria de ASLR. Hoy en día es distinto.

El artículo lo podéis leer en Hacktron AI, y explica el proceso que al final ha seguido esta explotación, que tuvo lugar durante el mes de Julio - sin acceso a Mythos o Fable en aquel entonces -. Como podéis ver en el gráfico, el culpable es una librería de tratamiento de imágenes con un bug de Heap Overflow que permite lograr ejecución de código.
Esa librería contenía un CVE conocido, pero no parcheado correctamente en el software de ImageMagick que iba en la versión de Debian donde corría el software de Discourse que daba servicio al Forum de OpenAI. Como veréis, es todo un proceso de Bug Hunting con IA.

Figura 3:"Bug Hunter" escrito por David Padilla en 0xWord

A partir de ese momento, el SSO de OpenAI permitía crear/acceder a las cuentas tanto de terceros como de invitados, así que se podía robar una cuenta de un empleado de OpenAI y con ella acceder a las herramientas que utiliza como ChatGPT o CODEX y a todos los repositorios conectados a ellas. 
El proceso comienza usando Claude Opus 4.8 para que busque una imagen Docker de Discourse e investigue la librería en cuestión libheif. Y el modelo encuentra que no está parcheada. Así que se le pide que haga un exploit sobre ese bug conocido.
Con Claude Opus 4.8 se consigue hacer el exploit, pero sin saltarse ASLR. Con ASLR (Address Space Layout Randomization) activo, el modelo no es capaz. Pero.... llega Claude Opus 5 y la cosa cambia para bien para ellos, que consiguen que le haga el exploit con ASLR.
Como podéis ver, usando Claude Opus 5 son capaces de hacer el exploit para saltarse ASLR, y con Claude en modo autónomo con un loop para lograr el objetivo, son capaces de conseguir el RCE (Remote Code Execution) en el Docker de Discourse. 
Una vez conseguido esto, teniendo en cuenta que OpenAI tenía integrado este software con las cuentas de los usuarios de la empresa, consiguieron robar identidades de empleados, con ellas, el acceso a sus herramientas, y desde ellas a los repositorios conectados con sus cuentas, como GitHub o Gmail.
Al igual que vimos en el artículo de "Cómo crear un exploit 1-day sobre un CVE de Chrome con Vibe Coding usando Claude Opus (no Mythos) y poner en jaque todas las apps en Electron", el costo de este exploit no es tan alto - algo menos de 3.000 USD - pero sí que es un cambio radical en la forma en la que hemos buscado bugs siempre. Ahora le pedimos a la IA que los busque, y nosotros sólo le vamos guiando.
Por un lado, no me deja de maravillar como el desarrollo de Inteligencia Artificial ha cambiado radicalmente esta industria, y la búsqueda de bugs se ha convertido en algo más cercano a configurar el modelo correctamente que ha descubrir el bug en sí mismo.
Y eso es lo otro que me llama la atención, cómo este trabajo que tenía tanto de artesano, cada vez se ha automatizado más, y leer un write-up ya no es aprender profundamente sobre una arquitectura vulnerable, y entender los detalles del exploit. Ya son del tipo "configuramos Claude Opus 5 para que buscara cómo entrar y al tiempo estaba el RCE". Tal vez soy mayor, pero pierde cierta magia esto, aunque entiendo que es lo que hay que hacer.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares