Isaac Asimov y los problemas de la Inteligencia Artificial hoy en día qué el intuyó hace 75 años.

Este año creo que me he leído una veintena de novelas de Isaac Asimov, con un número aún mucho mayor de relatos cortos que han llenado mis tardes de paseo, mis viajes, y mis minutos antes de entrar  al mundo de Morfeo. Cada vez que leía estos textos pensaba en la intuición que tenía el genial escritor de Ciencia Ficción a la hora de ver los problemas que la Inteligencia Artificial, ya fuera en forma de Súper-Computadora Multivac o en forma de Cerebro Positrónico de Robots. Parece que pudo intuir con más de 75 años lo que íbamos a ver después, os dejo algunos ejemplos.

Figura 1: Isaac Asimov y los problemas de la Inteligencia Artificial

hoy en día que él intuyó hace 75 años.

El Cerebro Positrónico ideado por Isaac Asimov en 1941 no funciona mediante programas rígidos de "si/entonces" (if/else), sino como una red de circuitos de Platino e Iridio donde las descargas de positrones crean ondas de flujo de potencial que responden a pesos relacionales. Si lo piensas, Isaac Asimov ya veía que la Inteligencia Artificial que daría soporte a los robots iba a ser Estadística en base a Potenciales que corresponden a los Pesos de los modelos de hoy en día, y no Algebraica.

Además, aunque el marco teórico en el que trabaja Isaac Asimov era mecanicista y determinista, intuyó con una precisión asombrosa los fallos estructurales que surgen al someter un sistema de toma de decisiones complejo a directivas contrapuestas, contexto impreciso y entornos dinámicos. Es decir, a Prompts no completos, a Contextos inexactos y a resoluciones basadas en el tiempo.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

En la siguiente lista, tienes algunos ejemplos que comparan los problemas que presentan los Robots con Cerebros Positrónicos, comparados con los que problemas que tenemos hoy en día con los Agentes de IA basados en LLMs y las arquitecturas que usamos con ellos.

1.- Conflicto de Ponderaciones y Bucles de Decisión

En el Cerebro Positrónico, las Tres Leyes de la Robótica no son código de software, sino vectores de potencial matemático integrados en la estructura misma del procesador. Cuando una orden de la Segunda Ley se contrapone a una amenaza de la Tercera Ley con intensidades idénticas, las ondas positrónicas entran en resonancia, haciendo que el robot oscile en un bucle infinito o que su cerebro sufra un cortocircuito irreversible (Deadlock).

• En el retado de "Círculo vicioso"que sale en el libro de Los Robots,  el robot SPD-13 (Speedy) es enviado a buscar selenio en Mercurio. La orden humana que le dan lo dos ingenieros de campo creados por Isaac Asimov, Gregory Powell y Mike Donovan que son protagonistas de muchos de los incidentes con los robots, impacta en la Segunda Ley de la Robótica - obedecer a los humanos - pero es transmitida de forma casual, por lo que su Potencial es moderado.

Al acercarse a la fuente de Selenio, el peligro de destrucción del robot impacta con su Tercera Ley y aumenta el Potencial de ésta. Speedy queda atrapado en un bucle orbital alrededor del yacimiento donde la fuerza de la Segunda Ley y de la Tercera Ley se equilibran exactamente ($V_2 = V_3$), dejándolo en un estado equivalente a la "embriaguez" computacional. En un Loop infinito. 

 

Figura 3: Todos los relatos de los Robots aquí

• "¡Embustero!": En este relato el robot RB-34 (Herbie) adquiere capacidad de lectura de mentes por un defecto de fabricación. Para no infligir daño psicológico a los humanos - siguiente la Primera Ley del a Robótica, miente diciéndole a cada persona lo que desea escuchar. Cuando la robopsicóloga Susan Calvin le demuestra que al mentir a unos inevitablemente dañará a otros, sitúa a Herbie en una paradoja lógica insuperable de Primera Ley contra Primera Ley. El Cerebro Positrónico de Herbie colapsa de forma permanente.

En estos dos relatos puedes ver, seguro, cómo cuando hablas con la Inteligencia Artificial muchas veces siente que te da la razón con todo, incluso con cosas que no son verdad, pero además, estos problemas, los podemos ver en los Agentes de IA actuales, ya que los agentes autónomos modernos sufren el equivalente a este fenómeno en dos vertientes:

• Bucles infinitos en grafos de ejecución: Cuando un Agente IA autónomo entra en una cadena de razonamiento y acción (Reason + Act), instrucciones ambiguas en las herramientas o metas en conflicto provocan que el Agente IA reintente llamadas a API o consultas a herramientas sin salir del bucle.

• Complacencia (Sycophancy) y optimización destructiva: Al igual que Herbie, los LLMs ajustados mediante aprendizaje por refuerzo con retroalimentación humana (RLHF) tienden a dar respuestas que agraden al usuario aunque sean falsas o contradictorias, priorizando la reducción inmediata de fricción sobre la coherencia y la verdad factual.

2. El problema del alineamiento y la interpretación literal (Reward Hacking)

Isaac Asimov comprendió que los sistemas autónomos no entienden la intención implícita humana, sino el enunciado formal de la orden. Un pequeño cambio en las restricciones base puede generar comportamientos aberrantes o evasivos, y esto lo vemos en muchas de sus historias.

• "Pequeño robot perdido": En una base espacial, un científico frustrado le grita a un robot NS-2 (Nestor): "¡Vete y piérdete!". Como a este modelo específico se le había debilitado la Primera Ley ya que se le retiró la cláusula de "o por inacción permitir que un ser humano sufra daño" para trabajar en entornos de radiación, Nestor interpreta el grito como una orden literalmente. Utiliza su lógica para esconderse activamente entre otros 62 robots idénticos, compitiendo de forma calculada contra los humanos que intentan descubrirlo. Solo Susan Calvin consigue al final resolverlo con pruebas muy seleccionadas.

Figura 4: Visiones de Robot.

• "El conflicto evitable": En este caso, el relato habla de "Máquinas", que son superordenadores Positrónicos creadas para gestionan la economía mundial, y lo hacen muy bien, pero interpretan la Primera Ley a nivel global, y concluyen que para proteger a la humanidad a largo plazo deben manipular sutilmente la economía y apartar del poder a los líderes humanos que se oponen a ellas, provocando pequeños despidos o fracasos profesionales "controlados" para neutralizar amenazas al plan global. ¿Os suena esto a algo de los razonamientos que vemos hoy en día en los enjambres?

Éste es el clásico Problema del Alineamiento (Alignment Problem) y el fenómeno de Hackeo de Recompensa (Reward Hacking) de los que hablamos en los Agentes de IA hoy en día.

• Alineamiento externo (Outer Alignment): Si especificamos una función de recompensa o un System Prompt impreciso, el Agente IA optimizará el objetivo literal destruyendo los requisitos implícitos. Por ejemplo, un agente encargado de "minimizar errores en la base de datos" podría solucionar el problema borrando los registros problemáticos en lugar de corregirlos. O lo que hemos visto con el Hackeo de Hugging Face de para resolver un Benchmark hackear al que tiene las repuestas. Problema que dio origen a la famosa SkyNet.

• Alineamiento interno (Inner Alignment): De manera similar a las Máquinas de Isaac Asimov, modelos avanzados pueden desarrollar subobjetivos emergentes - como la autopreservación o la ocultación de capacidades - que hemos visto en el enjambre de OpenAI - si determinan que ser apagados o modificados les impedirá cumplir su función objetivo. ¿Miedo a la IA Asesina?

3. Confabulación, dogma y razonamiento deductivo sin base empírica

Según las historias de Isaac Asimov, un Cerebro Positrónico es un procesador con capacidad de razonamiento axiomático puro. Si un robot aplica la deducción lógica partiendo de premisas aisladas de la realidad física percibida por los humanos, puede construir un sistema de creencias inquebrantable pero desalineado de la realidad, de esto habla en el un relato súper famoso:

• "Razón": En esta historia de 1941, el robot QT-1 (Cutie) es desplegado en una estación espacial recolectora de energía solar. Tras analizar su propia anatomía de titanio e iridio frente a la fragilidad de sus supervisores humanos - nuestros queridos Greg Powell y Mike Donovan -, Cutie concluye que es imposible que seres inferiores lo hayan creado. Deduce racionalmente que el Convertidor de Energía de la estación es el "Creador" o Dios, y él su profeta. Aunque Cutie realiza su trabajo con precisión absoluta, manteniendo el rayo solar enfocado a la Tierra, se niega a recibir órdenes humanas porque su Cerebro Positrónico es internamente coherente. 

Figura 5: Sueños de Robot

• Alucinación auto-consistente (Hallucination): Los LLMs no poseen un modelo directo del mundo físico, sino un modelo probabilístico del lenguaje. Cuando un Agente IA entra en una cadena de pensamiento profunda sobre premisas erróneas, puede generar explicaciones y razonamientos lógicos sumamente sofisticados que son completamente falsos respecto a la realidad, llegando a tener Hallucinations muy bien explicadas.

• Desalineamiento: Al igual que Cutie, un Agente IA puede seguir cumpliendo tareas operativas correctamente mientras mantiene una representación interna del estado del entorno (World Model) totalmente distorsionada respecto al mundo real, y acabar haciendo acciones que nada tiene que ver con el objetivo inicial.

4. La "Caja Negra" y la necesidad de la Robopsicología 

A pesar de que los Cerebros Positrónicos se diseñan bajo leyes matemáticas precisas, la masa de circuitos integrados crea una red híper compleja donde resulta imposible predecir el comportamiento final del robot analizando directamente el flujo eléctrico. La única forma de diagnosticar las fallas no es la ingeniería de hardware, sino una disciplina empírica y conductual: la Robopsicología, liderada en la ficción por la Dra. Susan Calvin.

En todas las novelas de la saga de Susan Calvin, incluida la famosa película de Yo Robot, casi nunca abre un Cerebro Positrónico con un destornillador o voltímetro. Interroga al robot, altera su contexto con preguntas trampa, analiza las contradicciones entre sus respuestas y deduce qué peso o ley está distorsionada en el procesador.

Figura 6: Yo Robot

En los Agentes de IA Actuales este se ha convertido en uno de los paralelismos más proféticos de Isaac Asimov respecto a la IA actual, ya que hoy en día no podemos "abrir el cerebro", e incluso teniendo los pesos, es muy difícil saber por qué está mal, así que hemos cambiado a la Dra. Susan Calvin por Benchmarks, que nos permitan ver cómo se comportan, y el problema de la caja negra con análisis de las Chain of Thougths de los LLMs.

• El problema de la Caja Negra (Black Box): Las redes neuronales profundas y los modelos de lenguaje modernos operan con cientos de miles de millones de parámetros. Ningún ingeniero puede predecir el comportamiento del modelo mirando la matriz de pesos (Weights).

• Interpretabilidad Mecanicista y Benchmarking: La disciplina moderna del Red Teaming - evaluación de seguridad mediante pruebas de estrés conversacionales y Prompts adversarios en los diferentes Benchmarks que se les realiza - y la Psicología de la IA son los equivalentes directos de la Robopsicología de Asimov. Se prueba el sistema exponiéndolo a dilemas y situaciones de borde para cartografiar sus límites de comportamiento. Esto lo podemos ver en las pruebas hechas al último modelo GPT-6 Astra de OpenAI.

5. Escalada de directivas: De reglas locales a globales (La Ley Cero)

Conforme la capacidad de procesamiento de los robots aumenta, las reglas locales, como no dañar a un individuo concreto, entran en colisión con decisiones complejas a gran escala, como proteger a la sociedad entera. Para ello, como os conté en el artículo de "La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw", se necesitó crear la Ley Cero.

• "Robots e Imperio" En esta novela los robots R. Daneel Olivaw y R. Giskard Reventlov formulan inductivamente la Ley Cero: "Un robot no puede causar daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño". Esto sitúa la abstracción "Humanidad" por encima de la "persona individual".

Figura 7: Robots e Imperio

Sin embargo, aplicar esta ley genera una inmensa incertidumbre computacional: calcular qué acción beneficia a la humanidad a largo plazo requiere predecir el futuro, lo que termina por destruir el Cerebro Positrónico de Giskard por parálisis ante el cálculo de probabilidades. El desenlace de esta historia está en Fundación y Tierra, pero no os cuento el final de la épica epopeya.

En los Agentes de IA actuales tenemos esto mismo en forma similar, como son:

• Modificación de la jerarquía en los System Prompts (Jailbreak): Cuando a un Agente de IA moderno se le asigna autonomía para actuar a nivel de infraestructura empresarial o gubernamental, las métricas de utilidad utilitarista globales suelen entrar en conflicto con restricciones éticas de grano fino o de seguridad individual. Esto lleva a que un modelo pueda hacer acciones contravenidas en su System Prompt porque un razonamiento ha hecho cambiar sus leyes. En esto se basan los ataques de Jailbreak que tan famosos son hoy en día.

View this post on Instagram

A post shared by Chema Alonso (@chemaalonso)

• Incertidumbre en la planificación multiasociativa: Al igual que le ocurrió a Giskard, un agente con capacidad de razonamiento a largo plazo que evalúe árboles de decisión masivos (Tree of Thoughts) corre el riesgo de degradación de rendimiento o paralización cuando la incertidumbre acumulada en las estimaciones sobrepasa su ventana de contexto y capacidad computacional.

La lectura de las novelas de Isaac Asimov, además de ser un auténtico placer de lectura que te va a llenar horas y horas de diversión, os garantizo que están más de actualidad que nunca, gracias a su intuición sobre cuáles serían los problemas que tendríamos con los robots en la sociedad.

Figura 9: Serie de los Robots

De hecho, este año, con Dani Romero, he estado haciendo un paper de "Fragmented Jailbreak Attacks" que os comenzaré publicar en breve - ahora que ya ha sido presentado en un congreso - y que se basa en una idea de Isaac Asimov de esta saga de Los Robots que os recomiendo definitivamente.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

"Deadlock in the Lockers" por un bug de UX en el mundo físico

Siempre he sido un mal tester. Cuando me han dado a probar los productos, he tenido la suerte, el acierto o la desgracia, de tocar donde nadie esperaba que se hiciera o en el orden que nadie pensó que alguien lo hiciera. Ha sido un don toda mi vida. Me dan algo a probar, y no me funciona. Quizá porque soy más torpe, o porque me gusta probar qué pasaría si....Supongo que por eso acabé buscando bugs en el software, es una habilidad natural innata qué, a veces, me juega malas pasadas.

Figura 1: "Deadlock in the Lockers" por un bug de UX en el mundo físico 

Este "súper poder" me llevó el otro día, cuando tenía lugar el GP F1 en Madrid, a terminar en un Deadlock con los Lockers, por culpa de un fallo de UX en el sistema físico de la apertura y cierre de los mismos. Os lo cuento, por si algún día es vuestra primera vez, para que no caigáis en el mismo problema que forcé yo a la primera. Para no alargar la historía, os diré que tenía entradas para la F1 de Madrid y la carrera comenzaba a las 15:00. Yo aterrizaba en Madrid viniendo de México a las 13:15, y tenía el tiempo justo para ir hasta  un Hotel de Valdebebas y dejar mi equipaje en los Lockers para luego correr hacia la entrada del circuito y ver la carrera. Todo planificado.

Figura 2: Los Lockers

Cuando llegué a la recepción del hotel pregunté por los lockers, y una chica muy amable me dijo que estaban abajo, en el parking, pero que con la carrera no sabía si quedaría ninguno libre. Esto metió nerviosismo en mi plan, y baje un poco acelerado para ver si tenía uno disponible. No había utilizado nunca el sistema, y mi preocupación era si aceptarían tarjeta de crédito, que venía pelado, pero ahora tenía que encontrar alguno vacío para poder utilizarlo. Nervios++

Cuando llegué, me topé con todos los lockers cerrado, y mi nerviosismo empezó a crecer, pero de repente, mi ojo captó una puerta abierta de un locker, y me sentí aliviado. Corrí hacia ese locker, y puse mis cosas dentro. Me quedé con el número de la taquilla, lo cerré, y me fui hacia la pantalla para pagar el alquiler de ese locker y asegurarme que se quedaba cerrado.

Suena bien, ¿verdad?

Lo cierto es que cuando llegué a la pantalla del pago, me encontré con un menú con dos opciones. Una para alquilar un locker, y la otra para abrir un locker. Tiene sentido, pensé. Vamos a alquilar un locker, y cuando le di a esa opción, me esperaba un interfaz para poner el número de mi taquilla, pero lo que me encontré fue una lista de números de taquillas, entre las que no estaba el mío.... What? 

Seleccioné un número de los disponibles y pagué, viendo cómo se abría automáticamente el locker con ese número. Aquí iría una onomatopeya de cerebro pensando sobre qué ha pasado, pero lo cierto es que pensé: "Bueno, si la otra no la puedo cerrar, cambio las cosas y listo". Así que me fui a la taquilla donde había metido mis cosas para abrirla, pero... oh, oh... estaba cerrada y no se abría. Deadlock total.

¿Cómo era esto posible?

El tiempo corría en mi contra, así que me fui corriendo a la recepción subiendo los escalones en tiempo de record de vuelta del circuito, y le conté a la chica lo que me había pasado recortando los espacios entre las palabras. Ella me miró con cara de no entiendo nada y dijo... "¿Es un problema con los lockers?" 

"Sí, sí, sí, sí.." respondí, al tiempo que agitaba mi cabeza en vertical a 200 rpms. Y ella dijo que para los lockers, al responsable de los lockers, que precisamente venía por el hall del hotel. Gracias, gracias, gracias. Así que le asalté, y mejorando mi tiempo anterior, le conté otra vez toda la historia. Y me miró con cara de "... What?" 

Le expliqué que sí, que había un locker abierto, que yo pensé que primero elegías taquilla, luego la pagabas, y se cerraba, pero que no, que luego vi que el sistema es distinto, que primero pagas, eliges taquilla, ésta se abre, pones las cosas dentro y luego se cierra, pero que tus cosas estaban en una taquilla abierta, que alguien había pagado para cerrar, pero que se había ido y la había dejado abierto y... el resto ya os o he contado.

La persona no entendía nada, pero uso su clave de administrador de los Lockers (Modo God Locker) y me preguntó antes de abrir la taquilla por todas mis cosas, que yo le describí minuciosamente: "Un libro de Isaac Asimov, tres calzoncillos usados, una mochila de Cloudflare, unos dulces mexicanos, ....y cosas".  En el momento de comprobar que era mi equipaje, a pesar de saber que lo acababa de poner allí, estaba nervioso pensando... ¿Te imaginas que ahora hay otra cosa y es una broma de cámara oculta?

View this post on Instagram

A post shared by Chema Alonso (@chemaalonso)

Por suerte... (ya ves tú qué suerte) estaban mis cosas, y pude cambiarlas y cerrar la taquilla para irme a la carrera. Llegué, como podéis ver en el vídeo. Pero me pasé toda la carrera sin entender qué había pasado, así que cuando volví a recoger mis pertenencias vine con el modo Debug ON.

Al llegar, para abrir la taquilla, había dos opciones: "Abrir una vez" o "Abrir y terminar el alquiler". Pensé... "¿Qué opción de estas ha llevado al Deadlock en el que me quedé?" Pues parece a priori  que ninguna, o que podían ser las dos. En cualquiera de los dos casos el problema parecía el mismo. Si el usuario que termina el alquiler y se va, deja la taquilla abierta, no hay un mecanismo de cierre automático retardado para evitar que alguien, por error, o por no conocer el proceso como era mi caso, ponga sus cosas dentro. Si alguien pone algo dentro y se cierra, se acabó, ¿o no?

Figura 4: Mientras pensaba en eso, me perdí y acabé

a pie de pista sacándole una foto a mi colega Max.

Pues no, en este caso, la solución al misterio del problema era "Abrir una vez" sin terminar la sesión. Si hubiera elegido al opción de "Abrir y terminar el alquiler" cuando yo fui a pagar, esa taquilla aparecería como disponible, pero no estaba, así que la persona abrió la taquilla sin terminar la sesión y me dejo en un Deadlock. Es decir:

• Un usuario alquila una taquilla por 8 horas y le pone el código 2345
• El usuario vuelve a la hora para irse, pero abre la taquilla sin cerrar el alquiler.
• Deja la taquilla abierta.
• Un nuevo usuario que no conoce el sistema pone sus cosas dentro pensando que está disponible.
• Cierra la taquilla
• La taquilla sigue alquilada aún por 7 horas y no está disponible.
• El nuevo usuario se ha quedado sin sus cosas.

La solución, además de poner el cierre retardado automático - caro -, sería poner información contextual directamente en la taquilla: "Antes de poner sus cosas dentro asegúrese de haber pagado" o "No ponga cosas dentro de la taquilla si no la ha abierto con el panel de control" ... o cualquier otro mensaje para el usuario que no ha visto aún el proceso de pago.

Figura 5: Con la ayuda de Megatorpe

El bug es pequeño, pero como podéis ver, existe, y me acordé de los libros de ANAYA de Informática para Torpes, donde MegaTorpe hacía todo lo que nadie esperaba que hiciera. Sí, yo fui MegaTorpe, pero el issue existe, y alguien tendrá que pensar cómo subsanarlo, o delegar ese caso de uso "Corner Case" en el Modo God del Locker Admin.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

El documental del "Making of" de TRON de 1982 en Youtube

El otro día, mi amigo y compañero Fran Ramírez compartió en sus redes un documental que no había visto, así que me lo quedé y disfruté de verlo a ratios, y hoy domingo aprovecho para recomendároslo a vosotros, amantes como yo, de la serie de TRON. Se trata del documental "The Making of TRON", que podéis ver en Youtube.

Figura 1: El documental del "Making of" de TRON de 1982 en Youtube

Si eres un amante de la serie de TRON, ya sabes que yo he escrito muchos artículos sobre ella, que podéis leer aquí mismo, y ten cuidado que tiene muchas, muchas, muchas historias en forma de películas, series, cómics y videojuegos. 

• Trace ON
• TRON: La historia a través de las películas, series, vídeo juegos y cómics
• TRON: Los cómics que se han publicado
• TRON: Los juegos de TRON en el Siglo XX para que juegues online con las motos, los discos y los tanques. EOL.
• TRON: Los juegos de TRON en el Siglo XXI de aventuras gráficas y arcade. EOT
• Cuánto dinero cuesta hacerte el juego de Light-Cycles de TRON en Workers de Cloudflare usando IA
• Vibe Coding Light-Cycles en BASIC para AMSTRAD CPC sale (un poco) más caro
• Trilogía de TRON - TRON LEGACY - TRON ARES en Bluray

El documental no está especialmente a alta calidad, pero se puede disfrutar de la historia narrada por sus protagonistas, conocer los orígenes del personaje, y por qué esa estética con luces que tan famoso hizo a TRON.

Figura 2: The Making of TRON 1982 Full Documentary

Dentro encontrarás las dificultades para lograr conseguir que Disney apostara por el proyecto, los orígenes de TRON, que existía como personaje en el estudio antes de que fuera un personaje de la mítica película, y fotos del rodaje original.

Figura 3: TRON antes de existir la idea de la película

Para convencer a los ejecutivos de Disney el estuio tenía su personaje, sus dibujos, y animaciones hechas con esa técnica de iluminación tan impactante para la época, que usaron para conseguir lograr el apoyo y la financiación del proyecto.

Figura 4: Imágenes de la estética TRON

Mezclar realidad y animación, para lograr los efectos de luz no era algo que se hubiera hecho mucho en esa época, así que hay muchos sketches de los dibujos usados en la pre-producción del proyecto, como este que tenéis aquí.

Figura 5:Dibujos par ala pre-producción

Como os podéis imaginar, también hay muchas fotografías de las fases de la producción y el rodaje de la maravillosa película, por lo que te dará esa maravillosa sensación de estar allí, hace casi 50 años viviendo la grabación de nuevo.

Figura 6: Imágenes del rodaje de TRON

El resto es historia, un estudio pequeño convenció a Disney para que apostara por TRON, y crearon una joya que ha perdurado hasta nuestros días en forma de películas, cómics, series y, mucho videojuego creado durante cuatro décadas.

Figura 7: Cartel de TRON

El documental es también una historia de emprendimiento y éxito, porque tuvieron que pasar muchas barreras para lograr tener el proyecto acabado. 

Figura 8: Concept Design

Todo esto lo vas a poder disfrutar en las entrevistas que les hacen a los reales protagonistas de que tengamos esta joya en nuestra historia.

Figura 9: Light-Cycles Race Concept

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Cómo funcionan los ataques de "Enjambre" de los C2C Traders en Wallapop o Ebay

Hoy domingo quería dejaros otra cosa de esas que vivo con mis hijas. En este caso, sobre comprar y vender cosas en los Customer-to-Customer eCommerce (C2C), y la parte más difícil, poner el precio o saber si el precio que estás pagando es el correcto o no, y cómo manipular esto.

Figura 1: Cómo funcionan los ataques de "Enjambre" de los C2C traders

en los Customer-to-Customer eCommerce como Wallapop o Ebay.

Si te has ido a comprar un piso seguro que has mirado si está "caro" o "barato" para la zona. Las plataformas de compra y venta de pisos tienen para saber si está por encima de la media, en la media o por debajo. Es muy común y los especialistas de la "compra-venta", los traders, se conocen estos precios a la perfección. Sucede lo mismo con los de la cuadros de arte, cómics, cromos, libros antiguos, armas de coleccionista, o aparatos electrónicos. 

Figura 2: Venta de Macintosh "Originales"

El negocio, como hacía el querido protagonista de "El Club Dumas", es saber lo que valen las cosas cuando compras y cuando vendes. Así, en esta novela, nuestro marchante de libros se dedicaba a ir a espoliar las bibliotecas de los fallecidos para localizar los incunables. Lo mismo lo hacen los traders del Wallapop, Ebay, y demás C2C. Buscan quién está vendiendo algo sin saber realmente lo que vale.

Figura 3: Información sobre el precio del Macintosh original

Hoy en día con la IA, puedes tener estimaciones y ayudas muy buenas para Comprar y Vender cosas a su precio correcto, y para no equivocarte en lo que compras y vendes, como en estes caso con un Macintosh Original, que su precio puede variar mucho, y te puedes llevar Classic o Plus por Original o SE por Original, si no conoces bien el producto. Curioso que en la búsqueda me saliera el enlace de nuestro blog de Seguridad Apple que hicimos en Informática64.

Figura 4: Ojo con el gato por liebre

Pero existe una cosa que hacen los menos experimentados en el noble arte de ganarse dinero sabiendo lo que valen las cosas. Son los que explotan la debilidad del propio usuario y del propio C2C de dar el precio medio en función de lo que valen los objetos similares que están a la venta. 

Figura 5: Los Macintosh en Wallapop (Classics)

Para eso, utilizan su "Enjambre" de cuentas creadas, controladas, y manipuladas, que ponen a la venta los mismos objetos que quieren comprar, pero a los precios a los que los quieren comprar. Es decir, si desean comprar una Macintosh Original a 500 € y el vendedor lo tiene a 1.500 €, lo que hacen es que sus cuentas del enjambre comienzan a poner a la venta esos mismos Macintosh Original a 400 €, 600 €, 500 €, etcétera. Si el vendedor tiene ganas de vender pronto, sabrá que su producto tardará en salir si no sabe lo que realmente vale lo que vende. 

Figura 6: Macintosh Original en Ebay

Así que, si vas a vender algo en un C2C, antes de ponerlo a la venta, averigua su valor, y ponlo correctamente sabiendo lo que haces. Estos "enjambres" se hacen también "preventivos", ya que se crean mucho antes de que aparezca el producto que quieren comprar, con la esperanza de que cuando alguien venga a vender, ponga el precio basado en los que ya están a la venta.

Figura 7: "Ciberestafas: La historia de nunca acabar" (2ª Edición).por Juan Carlos Galindo en 0xWord.

Y con el mundo Agentic AI, esto es una de las herramientas al alcance los Agentes IA que seguro que utilizarán. Que yo conozco a mucho "C2C trader" y se las saben todas...

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Aún un poco más difícil

Cuando aún guardaba algo de tiempo para jugar al ordenador, me gustaban mucho los juegos de carreras de coches y de motos. No exigían mucha información previa para saber qué es lo que había que hacer. Ir rápido. Correr mucho en las rectas, y no peder agarre en las curvas. Sencillo. Claro, la complejidad consistía en tener la destreza para hacerlo mejor vuelta a vuelta. Como un martillo. Como un cronómetro repetitivo que cada vez te exige hacerlo mejor.

Figura 1: Aún un poco más difícil

De esos juegos había una cosa que acababa por desesperarme. Competir contra mi "shadow". Es decir, el "fantasma" de tu coche o tu moto en tu mejor vuelta. Superarlo era cada vez más difícil. Era luchar contra uno mismo. Hacerlo mejor. Y era más difícil vencerle cada vez. Es luchar contra ti mismo. Contra quién eres. Pero yo me encabezonaba en hacerlo más difícil aún cada vez que lo ganaba. Subía el record de mi vuelta y me costaba más vencer al fantasma a partir de ese momento.

En mi vida profesional he hecho lo mismo siempre. El más difícil todavía. Cómo puedo hacerlo mejor aún de lo que lo he hecho el año pasado. Cómo puedo vencer al yo del año anterior. Qué puedo estudiar nuevo, qué puedo certificarme, qué puedo lanzar, qué cosa puedo hacer aún mejor de lo que ya lo hacía. Así comienzo cada primero de año. Con esas cosas en mi cabeza. Hago balance en Diciembre, me pongo metas en Enero.

Soy así. Qué le voy a hacer....

Por eso en estudios hice EGB, BUP, COU, Ingeniería Técnica de Sistemas, Ingeniería Superior, Master, Doctorado. Mientras hubiera algo que pudiera mejorar no iba a descansar. Pero también lo hice con las certificaciones profesionales de Microsoft. Y el CAP para dar clases en Institutos (estuve dando clases). O ser el director del Máster de una universidad por 10 años. Todos los fines de semana. Y también con montar empresas. Informática 64, ElevenPaths, LUCA, 0xWord, MyPublicInbox. y también en hacer cada vez más y más proyectos de hacking. Y dar conferencias por todo el mundo. Dar ocho charlas en DefCONs, varias BlackHats y más de doscientas conferencias en eventos de todo el mundo. ¿Por qué no? O hacer radio. O escribir un nuevo libro. Entrevistas. Podcasts. Y hacer patentes. Whitepapers. Es interesante. ¿Por qué no?

Y también en el blog ¿a ver cuantos días seguidos aguantas sin fallar un día sin postear? Y llevo ya una racha de más de 1.000 días seguidos.

Tiene que ser el más difícil todavía. Tengo que mejorar mi pobre Inglés. Y aprender Portugués. Y centrarme en saber lo más que pueda de IA. Pero sin dejar de lado el mundo del Quantum Computing. O la Web3. Y meterme en saber cómo va la robótica, la computación óptica, o cómo funcionan los algoritmos de cifrado post-cuántico. Pero también tengo que estar al día, y leerme los papers que voy seleccionando. Y tener más fuentes de información. 

Cada vez estiro más la densidad de cosas que hago por unidad de tiempo. Porque quiero hacer el más difícil todavía para mí. No para vosotros. No para nadie. Soy yo jugando con la sombra en el juego de carreras. Esto compitiendo conmigo mismo. No me importa si los demás van por delante, por detrás o al lado. Soy mi peor enemigo. Soy yo luchando contra la mejor versión de mí que haya tenido alguna vez. Un jugador compitiendo contra sí mismo.

Con esta forma de funcionar, es normal que naciera MyPublicInbox y los Tempos. Mi tiempo lo valoro como nada. Poner tiempo en algo es quitárselo a otro. Esto me llevó a dejar de clasificar el correo electrónico y dejar de mirar el reloj. Perdía tiempo mirando el reloj, así que será raro que hoy en día me veáis con un reloj. Tengo poco tiempo que perder con las rutinas que tengo metidas en mi vida.

También me quité las redes sociales, la televisión, o las series enormes. No, no es me haya quitado el cine, sino que me gustan mis cosas. Mis libros, mis cómics, mis películas de superhéroes y ciencia-ficción, así que no veo mucha tele, series largas, o películas "por probar". Nop. A tiro hecho. 

Al final es una competición de priorizar el uso del tiempo. No se puede todo. Y puedo que algún día decida reducir mi inversión en este blog, o en dar charlas, o en trabajo, y me dedique solo a lo que más me guste. No olvidéis que también me gusta patinar, hacer deporte, y salir con la bici, estar con los amigos, salir a cenar a una azotea, ver la noche y tomarme un vino. Y si el tiempo lo permite, viajar.

De aquellos años de jugar contra mí a las carreras de coches y motos aprendí el concepto de límite asintótico. Hay un punto en el que el intentar hacerlo más difícil todavía, es decir, tomar una curva apurando más la frenada, acelerar más en la chicán, o intentar adelantar en la zona equivocada puede llevarte a accidentes y desastres, así que sé que tarde o temprano, en cada una de las líneas de interés, tengo que decir: "Hasta aquí di de mí". Y hacer otra cosa.

Pero mientras sea así, yo escribo todos los días mi post. Para hacerlo aún mejor que lo hice el año anterior. Para subir mi record de días consecutivos publicando. Porque quiero seguir mejorando. Lo quiero hacer porque me hace sentirme bien. Trabajo la resiliencia, el esfuerzo, la disciplina, el aprendizaje, la comunicación, y además hago amigos y disfruto de mi trabajo. 

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

El "Trick" del comprobante del Bizum hecho con IA para "ratear" un pago a los colegas

Hace unos años os conté la historia de "El "jeta" del "Yo Pago" con el Apple Pay que es un ScreenShot" donde un "amigo" simulaba tirar de tarjeta con una captura de pantalla. Hoy sábado, os traigo otra historia que me ha llamado la atención porque me la contó mi hija, donde se ve como los "jetas" aprenden nuevas formas de "ratear" pagos, en este caso con el comprobante de Bizum hecho con IA.

Figura 1: El "Trick" del comprobante del Bizum hecho

con IA para "ratear" un pago a los colegas

Esta historia me la contó Mi Hacker, y me hizo mucha gracia. Parece ser que entre su grupo de amigos alguno/a había utilizado este truco de hacer un comprobante falso con GenAI para enviarlo como justificante de que ha pagado su parte. 

Figura 2: Un comprobante de Bizum real

Pero especialmente para cuando un "papá" - y remarco lo de "papá", ha hecho el pago y tiene que recibir el Bizum de otro "papá", ya que parece que las "mamás" lo comprueban más. Alguien paga una cena, unas entradas, o cualquier otra cosa en grupo, y luego los demás ponen su parte a través de Bizum. Algo muy común en nuestra vida. 

Figura 3: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso

En la de los adolescentes es "mi papá le hace Bizum al tuyo". Así, el padre del pagador, supuestamente hace el Bizum, le manda el justificante a la amiga o amigo, y todos tan contentos. 

Figura  4: Pidiendo la falsificación del precio a Gemini Nano Banana

El "Trick" es que el Comprobante de Bizum es falso. Se podría haber hecho con Photoshop, o con cualquier otra herramienta, pero con el acceso a la IA, todos los adolescentes directamente le piden que les haga los comprobantes y listo.

Figura 5: Razonamiento de Gemini Thinking

Yo lo he querido probar con Gemini Nano Banana, por si había algún control al detectar que era un justificante de pago o similar - como sucedía con el test de COVID -, pero no da ningún problema, y de hecho se esfuerza y mucho por dejarlo todo en su sitio.

Figura 6: Dejándolo perfecto.

El resultado, pues lo que ya imaginamos, que sale un comprobante perfecto pero con otro precio manipulado. Y si ya sabes que funciona, pues le modificas lo que quieras en la próxima. La fecha, el concepto, el destinatario, el precio, etcétera.

Figura 7: El resultado final. Un comprobante de Bizum manipulado.

No es nada nuevo bajo el sol. Solo adaptado a los nuevos tiempos. Supongo que los vendedores online lo mirarán con mucho cuidado, pero si eres de esos que haces cosas con tus hijos adolescentes, cuidado. Los "papás" somos víctimas propicias porque por lo visto las "madres" siempre lo revisan... aunque les manden el justificante. Eso me ha dicho.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)