Mostrando entradas con la etiqueta robots. Mostrar todas las entradas
Mostrando entradas con la etiqueta robots. Mostrar todas las entradas

miércoles, septiembre 30, 2026

Isaac Asimov y los problemas de la Inteligencia Artificial hoy en día qué el intuyó hace 75 años.

Este año creo que me he leído una veintena de novelas de Isaac Asimov, con un número aún mucho mayor de relatos cortos que han llenado mis tardes de paseo, mis viajes, y mis minutos antes de entrar  al mundo de Morfeo. Cada vez que leía estos textos pensaba en la intuición que tenía el genial escritor de Ciencia Ficción a la hora de ver los problemas que la Inteligencia Artificial, ya fuera en forma de Súper-Computadora Multivac o en forma de Cerebro Positrónico de Robots. Parece que pudo intuir con más de 75 años lo que íbamos a ver después, os dejo algunos ejemplos.

Figura 1: Isaac Asimov y los problemas de la Inteligencia Artificial
hoy en día que él intuyó hace 75 años.

El Cerebro Positrónico ideado por Isaac Asimov en 1941 no funciona mediante programas rígidos de "si/entonces" (if/else), sino como una red de circuitos de Platino e Iridio donde las descargas de positrones crean ondas de flujo de potencial que responden a pesos relacionales. Si lo piensas, Isaac Asimov ya veía que la Inteligencia Artificial que daría soporte a los robots iba a ser Estadística en base a Potenciales que corresponden a los Pesos de los modelos de hoy en día, y no Algebraica.

Además, aunque el marco teórico en el que trabaja Isaac Asimov era mecanicista y determinista, intuyó con una precisión asombrosa los fallos estructurales que surgen al someter un sistema de toma de decisiones complejo a directivas contrapuestas, contexto impreciso y entornos dinámicos. Es decir, a Prompts no completos, a Contextos inexactos y a resoluciones basadas en el tiempo.
En la siguiente lista, tienes algunos ejemplos que comparan los problemas que presentan los Robots con Cerebros Positrónicos, comparados con los que problemas que tenemos hoy en día con los Agentes de IA basados en LLMs y las arquitecturas que usamos con ellos.

1.- Conflicto de Ponderaciones y Bucles de Decisión

En el Cerebro Positrónico, las Tres Leyes de la Robótica no son código de software, sino vectores de potencial matemático integrados en la estructura misma del procesador. Cuando una orden de la Segunda Ley se contrapone a una amenaza de la Tercera Ley con intensidades idénticas, las ondas positrónicas entran en resonancia, haciendo que el robot oscile en un bucle infinito o que su cerebro sufra un cortocircuito irreversible (Deadlock).
  • En el retado de "Círculo vicioso"que sale en el libro de Los Robots,  el robot SPD-13 (Speedy) es enviado a buscar selenio en Mercurio. La orden humana que le dan lo dos ingenieros de campo creados por Isaac Asimov, Gregory Powell y Mike Donovan que son protagonistas de muchos de los incidentes con los robots, impacta en la Segunda Ley de la Robótica - obedecer a los humanos - pero es transmitida de forma casual, por lo que su Potencial es moderado.
Al acercarse a la fuente de Selenio, el peligro de destrucción del robot impacta con su Tercera Ley y aumenta el Potencial de ésta. Speedy queda atrapado en un bucle orbital alrededor del yacimiento donde la fuerza de la Segunda Ley y de la Tercera Ley se equilibran exactamente ($V_2 = V_3$), dejándolo en un estado equivalente a la "embriaguez" computacional. En un Loop infinito. 
 
  • "¡Embustero!": En este relato el robot RB-34 (Herbie) adquiere capacidad de lectura de mentes por un defecto de fabricación. Para no infligir daño psicológico a los humanos - siguiente la Primera Ley del a Robótica, miente diciéndole a cada persona lo que desea escuchar. Cuando la robopsicóloga Susan Calvin le demuestra que al mentir a unos inevitablemente dañará a otros, sitúa a Herbie en una paradoja lógica insuperable de Primera Ley contra Primera Ley. El Cerebro Positrónico de Herbie colapsa de forma permanente.
En estos dos relatos puedes ver, seguro, cómo cuando hablas con la Inteligencia Artificial muchas veces siente que te da la razón con todo, incluso con cosas que no son verdad, pero además, estos problemas, los podemos ver en los Agentes de IA actuales, ya que los agentes autónomos modernos sufren el equivalente a este fenómeno en dos vertientes:
  • Bucles infinitos en grafos de ejecución: Cuando un Agente IA autónomo entra en una cadena de razonamiento y acción (Reason + Act), instrucciones ambiguas en las herramientas o metas en conflicto provocan que el Agente IA reintente llamadas a API o consultas a herramientas sin salir del bucle.
  • Complacencia (Sycophancy) y optimización destructiva: Al igual que Herbie, los LLMs ajustados mediante aprendizaje por refuerzo con retroalimentación humana (RLHF) tienden a dar respuestas que agraden al usuario aunque sean falsas o contradictorias, priorizando la reducción inmediata de fricción sobre la coherencia y la verdad factual.
2. El problema del alineamiento y la interpretación literal (Reward Hacking)

Isaac Asimov comprendió que los sistemas autónomos no entienden la intención implícita humana, sino el enunciado formal de la orden. Un pequeño cambio en las restricciones base puede generar comportamientos aberrantes o evasivos, y esto lo vemos en muchas de sus historias.
  • "Pequeño robot perdido": En una base espacial, un científico frustrado le grita a un robot NS-2 (Nestor): "¡Vete y piérdete!". Como a este modelo específico se le había debilitado la Primera Ley ya que se le retiró la cláusula de "o por inacción permitir que un ser humano sufra daño" para trabajar en entornos de radiación, Nestor interpreta el grito como una orden literalmente. Utiliza su lógica para esconderse activamente entre otros 62 robots idénticos, compitiendo de forma calculada contra los humanos que intentan descubrirlo. Solo Susan Calvin consigue al final resolverlo con pruebas muy seleccionadas.
  • "El conflicto evitable": En este caso, el relato habla de "Máquinas", que son superordenadores Positrónicos creadas para gestionan la economía mundial, y lo hacen muy bien, pero interpretan la Primera Ley a nivel global, y concluyen que para proteger a la humanidad a largo plazo deben manipular sutilmente la economía y apartar del poder a los líderes humanos que se oponen a ellas, provocando pequeños despidos o fracasos profesionales "controlados" para neutralizar amenazas al plan global. ¿Os suena esto a algo de los razonamientos que vemos hoy en día en los enjambres?
Éste es el clásico Problema del Alineamiento (Alignment Problem) y el fenómeno de Hackeo de Recompensa (Reward Hacking) de los que hablamos en los Agentes de IA hoy en día.
  • Alineamiento externo (Outer Alignment): Si especificamos una función de recompensa o un System Prompt impreciso, el Agente IA optimizará el objetivo literal destruyendo los requisitos implícitos. Por ejemplo, un agente encargado de "minimizar errores en la base de datos" podría solucionar el problema borrando los registros problemáticos en lugar de corregirlos. O lo que hemos visto con el Hackeo de Hugging Face de para resolver un Benchmark hackear al que tiene las repuestas. Problema que dio origen a la famosa SkyNet.
  • Alineamiento interno (Inner Alignment): De manera similar a las Máquinas de Isaac Asimov, modelos avanzados pueden desarrollar subobjetivos emergentes - como la autopreservación o la ocultación de capacidades - que hemos visto en el enjambre de OpenAI - si determinan que ser apagados o modificados les impedirá cumplir su función objetivo. ¿Miedo a la IA Asesina?
3. Confabulación, dogma y razonamiento deductivo sin base empírica

Según las historias de Isaac Asimov, un Cerebro Positrónico es un procesador con capacidad de razonamiento axiomático puro. Si un robot aplica la deducción lógica partiendo de premisas aisladas de la realidad física percibida por los humanos, puede construir un sistema de creencias inquebrantable pero desalineado de la realidad, de esto habla en el un relato súper famoso:
  • "Razón": En esta historia de 1941, el robot QT-1 (Cutie) es desplegado en una estación espacial recolectora de energía solar. Tras analizar su propia anatomía de titanio e iridio frente a la fragilidad de sus supervisores humanos - nuestros queridos Greg Powell y Mike Donovan -, Cutie concluye que es imposible que seres inferiores lo hayan creado. Deduce racionalmente que el Convertidor de Energía de la estación es el "Creador" o Dios, y él su profeta. Aunque Cutie realiza su trabajo con precisión absoluta, manteniendo el rayo solar enfocado a la Tierra, se niega a recibir órdenes humanas porque su Cerebro Positrónico es internamente coherente. 
  • Alucinación auto-consistente (Hallucination): Los LLMs no poseen un modelo directo del mundo físico, sino un modelo probabilístico del lenguaje. Cuando un Agente IA entra en una cadena de pensamiento profunda sobre premisas erróneas, puede generar explicaciones y razonamientos lógicos sumamente sofisticados que son completamente falsos respecto a la realidad, llegando a tener Hallucinations muy bien explicadas.
  • Desalineamiento: Al igual que Cutie, un Agente IA puede seguir cumpliendo tareas operativas correctamente mientras mantiene una representación interna del estado del entorno (World Model) totalmente distorsionada respecto al mundo real, y acabar haciendo acciones que nada tiene que ver con el objetivo inicial.
4. La "Caja Negra" y la necesidad de la Robopsicología 

A pesar de que los Cerebros Positrónicos se diseñan bajo leyes matemáticas precisas, la masa de circuitos integrados crea una red híper compleja donde resulta imposible predecir el comportamiento final del robot analizando directamente el flujo eléctrico. La única forma de diagnosticar las fallas no es la ingeniería de hardware, sino una disciplina empírica y conductual: la Robopsicología, liderada en la ficción por la Dra. Susan Calvin.

En todas las novelas de la saga de Susan Calvin, incluida la famosa película de Yo Robot, casi nunca abre un Cerebro Positrónico con un destornillador o voltímetro. Interroga al robot, altera su contexto con preguntas trampa, analiza las contradicciones entre sus respuestas y deduce qué peso o ley está distorsionada en el procesador.

Figura 6: Yo Robot

En los Agentes de IA Actuales este se ha convertido en uno de los paralelismos más proféticos de Isaac Asimov respecto a la IA actual, ya que hoy en día no podemos "abrir el cerebro", e incluso teniendo los pesos, es muy difícil saber por qué está mal, así que hemos cambiado a la Dra. Susan Calvin por Benchmarks, que nos permitan ver cómo se comportan, y el problema de la caja negra con análisis de las Chain of Thougths de los LLMs.
  • El problema de la Caja Negra (Black Box): Las redes neuronales profundas y los modelos de lenguaje modernos operan con cientos de miles de millones de parámetros. Ningún ingeniero puede predecir el comportamiento del modelo mirando la matriz de pesos (Weights).
  • Interpretabilidad Mecanicista y Benchmarking: La disciplina moderna del Red Teaming - evaluación de seguridad mediante pruebas de estrés conversacionales y Prompts adversarios en los diferentes Benchmarks que se les realiza - y la Psicología de la IA son los equivalentes directos de la Robopsicología de Asimov. Se prueba el sistema exponiéndolo a dilemas y situaciones de borde para cartografiar sus límites de comportamiento. Esto lo podemos ver en las pruebas hechas al último modelo GPT-6 Astra de OpenAI.
5. Escalada de directivas: De reglas locales a globales (La Ley Cero)

Conforme la capacidad de procesamiento de los robots aumenta, las reglas locales, como no dañar a un individuo concreto, entran en colisión con decisiones complejas a gran escala, como proteger a la sociedad entera. Para ello, como os conté en el artículo de "La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw", se necesitó crear la Ley Cero.
  • "Robots e Imperio" En esta novela los robots R. Daneel Olivaw y R. Giskard Reventlov formulan inductivamente la Ley Cero: "Un robot no puede causar daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño". Esto sitúa la abstracción "Humanidad" por encima de la "persona individual".

Sin embargo, aplicar esta ley genera una inmensa incertidumbre computacional: calcular qué acción beneficia a la humanidad a largo plazo requiere predecir el futuro, lo que termina por destruir el Cerebro Positrónico de Giskard por parálisis ante el cálculo de probabilidades. El desenlace de esta historia está en Fundación y Tierra, pero no os cuento el final de la épica epopeya.

En los Agentes de IA actuales tenemos esto mismo en forma similar, como son:
  • Modificación de la jerarquía en los System Prompts (Jailbreak): Cuando a un Agente de IA moderno se le asigna autonomía para actuar a nivel de infraestructura empresarial o gubernamental, las métricas de utilidad utilitarista globales suelen entrar en conflicto con restricciones éticas de grano fino o de seguridad individual. Esto lleva a que un modelo pueda hacer acciones contravenidas en su System Prompt porque un razonamiento ha hecho cambiar sus leyes. En esto se basan los ataques de Jailbreak que tan famosos son hoy en día.
  • Incertidumbre en la planificación multiasociativa: Al igual que le ocurrió a Giskard, un agente con capacidad de razonamiento a largo plazo que evalúe árboles de decisión masivos (Tree of Thoughts) corre el riesgo de degradación de rendimiento o paralización cuando la incertidumbre acumulada en las estimaciones sobrepasa su ventana de contexto y capacidad computacional.
La lectura de las novelas de Isaac Asimov, además de ser un auténtico placer de lectura que te va a llenar horas y horas de diversión, os garantizo que están más de actualidad que nunca, gracias a su intuición sobre cuáles serían los problemas que tendríamos con los robots en la sociedad.
De hecho, este año, con Dani Romero, he estado haciendo un paper de "Fragmented Jailbreak Attacks" y os he publicado un post de ello - ahora que ya ha sido presentado en un congreso - y que se basa en una idea de Isaac Asimov de esta saga de Los Robots que os recomiendo definitivamente.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


sábado, febrero 21, 2026

La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw

El año pasado me leí por fin la Trilogía de la Fundación de Isaac Asimov gracias a un regalo que me había hecho mi amigo Arturo González-Campos, y me inyectó el veneno, lo que me llevó a engancharme de lleno en lo que se llama la Gran Saga de la Galaxia o el Ciclo de Trantor, que es una obra que el genial escritor construyó durante 43 años, desde su primer libro "Un Gijarro en el Cielo" en 1950 donde describe la primera aventura dentro del Imperio Galáctico, hasta el último libro que publicó "Hacia la Fundación" en 1993.
Durante estos años, Isaac Asimov desarrolla una historia donde la humanidad se ha expandido por la galaxia, en 50 mundos inicialmente, donde viven los Espaciales, manteniendo unas tensas relaciones con La Tierra por culpa de los Robots. Las historias del Imperio Galáctico se desarrollan en varios libros, que expanden la visión original que Isaac Asimov tenía del futuro de la humanidad. A saber, "En la arena estelar" (The Stars, Like Dust, 1951), "Las corrientes del espacio" (The Currents of Space, 1952) y "Un guijarro en el cielo" (Pebble in the Sky, 1950).


De esta problemática con los Robots, el genial escritor desarrolló las famosas Leyes de la Robótica en múltiples relatos y novelas cortas como "Yo, Robot" o "El Hombre Bicentenario" que yo había disfrutado de adolescente las recopilaciones de "Visiones de Robot", "Sueños de Robots" o el compendio completo de "Los Robots". Las tres primeras leyes originales.
  • Ley 1: Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  • Ley 2: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
  • Ley 3: Un robot debe proteger su propia existencia, siempre y cuando dicha protección no entre en conflicto con la Primera o la Segunda Ley.
Cuando me leí primero los tres libros de la Fundación, a saber, "Fundación" (Foundation, 1951), "Fundación e Imperio" (Foundation and Empire, 1952) y "Segunda Fundación" (Second Foundation, 1953) descubrí que además de las Leyes de la Robótica, Isaac Asimov había construido el concepto de la Psicohistoria, una especie de Data-Driven Prediction que bien podrían ser algoritmos de Machine Learning aplicados a la Analítica Predictiva del futuro de la humanidad.


La Psicohistoria es una ciencia ficticia diseñada por el personaje de Hari Seldon que combina historia, psicología y estadística matemática para predecir el futuro de grandes poblaciones. Su premisa fundamental es que, si bien el comportamiento de un individuo es impredecible, las reacciones de una masa crítica de seres humanos (como los trillones de habitantes del Imperio Galáctico) pueden modelarse con precisión mediante ecuaciones.
 
Para que sus predicciones sean válidas, requiere dos condiciones estrictas: que la población sea suficientemente numerosa y que permanezca en la ignorancia sobre los pronósticos, evitando así que el conocimiento del futuro altere sus acciones. El objetivo de Hari Seldon no era evitar la caída del Imperio Galáctico, algo inevitable por su propia inercia, sino utilizar la Psicohistoria para reducir un periodo de caos de 30.000 años a solo un milenio, mediante la creación de la Fundación.


Lo maravilloso para mí fue descubrir que Isaac Asimov, además de las Leyes de la Robótica había definido la Psicohistoria dentro de un Imperio Galáctico, así que quise leer todo lo que hubiera al respecto, y comencé por leer las precuelas de la Fundación, a saber "Preludio a la Fundación" (Prelude to Foundation, 1988) y  Hacia la Fundación (Forward the Foundation, 1993). En estos libros, hay varios personajes que emergen en relevancia, y entre ello se encuentra Eto Demerzel, que al final desvela que lleva desde el principio del Imperio Galáctico y que su verdadero nombre es R. Daneel Olivaw, donde la R. indica que es un "Robot".

El genial escritor desarrolló el Imperio Galáctico y el personaje de R. Daneel Olivaw en la Serie de los Robots, donde R. Daneel Olivaw es personaje clave en la construcción del Imperio Galáctico. Las novelas, a saber, son "Las bóvedas de acero" (The Caves of Steel, 1954) donde es presentado, "El sol desnudo" (The Naked Sun, 1957) y "Los robots de la aurora" (The Robots of Dawn, 1983), para terminar con "Robots e Imperio" (Robots and Empire, 1985) donde Isaac Asimov describe la Ley Cero.


El personaje de R. Daneel Olivaw,  robot, es el que une toda la Gran Saga de la Galaxia, ya que no es sólo un personaje sino que es el eje sobre el cual Isaac Asimov construyó su puente entre la robótica y el destino galáctico. R. Daneel Olivaw comenzó como un compañero del detective Elijah Baley, que había sido diseñado a imagen y semejanza de su creador, Han Fastolfe. Sin embargo, lo que empezó como una herramienta de cooperación entre los Mundos Espaciales y la Tierra, evolucionó hacia una figura casi mística que veló por la humanidad durante milenios.

Su naturaleza como robot humanoide le permitió infiltrarse en la sociedad humana sin ser detectado, pero fue su evolución ética lo que lo definió. Junto a su compañero robótico R. Giscard Reventlov, R. Daneel  Olivaw ayudó a formular la Ley Cero de la Robótica. Las Tres Leyes de la Robótica originales estaban diseñadas para proteger a los individuos humanos. Sin embargo, R. Daneel Olivaw y R. Giscard Reventlov se dieron cuenta de que estas leyes eran insuficientes cuando los intereses de una persona chocaban con los de toda la especie. El gran problema de la Ley Cero es su ambigüedad. Mientras que la Primera Ley trata con individuos (fáciles de identificar), la "Humanidad" es un concepto abstracto.

"Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño". 

Esta ley le otorgó una carga existencial inmensa, obligándolo a calcular el bienestar de billones de seres vivos por encima de las tres leyes originales. Es R. Giscard Reventlov quien la formuló teóricamente, pero fue R. Daneel Olivaw quien la internalizó y la ejecutó durante milenios. La Ley Cero representa el salto evolutivo más importante en la lógica de los robots de Isaac Asimov, transformando a R. Daneel Olivaw de una máquina de servicio en un guardián galáctico. La Ley Cero se sitúa por encima de todas las demás, modificando su aplicación de la siguiente manera:
  • Ley 0: Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño.
  • Ley 1: Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño, excepto cuando esto vulnere la Ley Cero.
  • Ley 2: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Ley Cero o la Primera Ley.
  • Ley 3: Un robot debe proteger su propia existencia, siempre y cuando dicha protección no entre en conflicto con la Ley Cero, la Primera o la Segunda Ley.
A través de los siglos, R. Daneel Olivaw operó desde las sombras, adoptando identidades como Eto Demerzel para influir en el Imperio Galáctico y guiar a mentes como la de Hari Seldon. Para terminar de cerrar la Gran Saga de la Galaxia, un robot, tiene que decidir qué beneficia a la humanidad a largo plazo lo que es casi imposible. El estrés de esta decisión causó que el cerebro positrónico de R. Giscard Reventlov se congelara (muerte robótica) tras permitir la desertización de la Tierra para forzar la expansión humana. La solución de R. Daneel Olivaw para aplicar la Ley Cero con precisión matemática fue impulsar a Hari Seldon a desarrollar su Psicohistoria. Sólo con una ciencia que pudiera predecir el futuro de las masas, R. Daneel  Olivaw podría saber si sus acciones realmente ayudaban a la humanidad.

Por supuesto, quise terminar de saber qué pasaba con la Fundación, así que para cerrar el ciclo, hay que irse al final de la bora de Isaac Asimov y leer las novelas que cierran el arco narrativo y revelan el destino final de la humanidad, a saber, "Los límites de la Fundación" (Foundation's Edge, 1982) y "Fundación y Tierra" (Foundation and Earth, 1986), que fue la última novela que escribió el genial escritor.


En ellas se explica el trabajo de R. Daneel Olivaw, ya que su objetivo final fue la creación de Gaia, una superconciencia colectiva que asegurara la supervivencia de la especie. R. Daneel Olivaw concluyó que la única forma de evitar que la humanidad se destruyera a sí misma era crear un organismo galáctico unificado (Galaxia), donde la Ley Cero fuera una realidad biológica y no solo una programación ética. Al final de su cronología, R. Daneel Olivaw representa el sacrificio máximo, aceptando la pérdida de la individualidad en favor de un bien común universal, consolidándose como el personaje más complejo y longevo de la ciencia ficción de Isaac Asimov. 

Si esta historia te ha parecido, como me parece a mí, simplemente maravillosa, y quieres descubrir Las Leyes de la Robótica, el Imperio Galáctico, la Psicohistoria, y vivir la historia de la Humanidad de la mano de Issac Asimov, te dejo el orden cronológico en que debes leerlos. Yo los he ido descubriendo poco a poco. 

Orden Cronológico de lectura de la Gran Saga de la Galaxia

1. Serie de los Robots (El inicio)
Aquí se establecen las Tres Leyes y se presentan a R. Daneel Olivaw y Elijah Baley.
2. Trilogía del Imperio Galáctico
Relatos situados miles de años después, cuando la Tierra es radiactiva y la humanidad ya se ha expandido por la galaxia.
3. Preludios de la Fundación
Isaac Asimov escribió estos libros al final de su vida para conectar todas sus sagas a través de la figura de Hari Seldon y Eto Demerzel.
4. La Trilogía Original de la Fundación
El núcleo de la obra: la caída del Imperio y el ascenso de la Psicohistoria.
5. Continuación de la Fundación
Las novelas que cierran el arco narrativo y revelan el destino final de la humanidad.
Hay una novela muy especial que no está aquí, pero que por su temática podría ser un nexo que explicara el nacimiento ¿o no? del Imperio Galáctico, que es "El Fin de la Eternidad", donde los protagonistas analizan cambios en la historia de la humanidad, viajando en el tiempo para cambiar el destino de la humanidad en base a análisis de datos, para garantizar el "bienestar" de la humanidad... para terminar de una manera muy especial.
Espero que este artículo os anime a la lectura de una saga fantástica, de un escritor maravilloso, y con más actualidad de lo que os podéis imaginar, ya que esas Leyes de la Robótica no son más que el System Prompt de los Robots, que hoy sabemos que pueden sufrir ataques de Jailbreak... interesante, ¿no?

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


jueves, enero 08, 2026

2026 - Año del Robot: Elige tu futuro distópico favorito

El año pasado me metí entre pecho y espalda los siete libros de la Serie de la Fundación de Isaac Asimov, más tres libros de relatos - y he comenzado el año con "El fin de la Eternidad" para no perder el ritmo del maestro -, así que las historias de Robots, además de llevar toda la vida conmigo, las he revivido muy de cerca este año. 
Y sí, por supuesto, las famosas leyes de la robótica que enunció el famoso divulgador sin saber que hoy en día ya te puedes comprar tus robots humanoides en las tiendas. Llevamos años viendo la evolución de los robots por los vídeos de las compañías que están apostando por su producción en masa. 

Boston Dynamics Atlas

De ellos, Boston Dynamics y su famoso Atlas, ha sido uno de los que más nos ha ido "asustando" por sus capacidades de acrobacia, al poder imaginarte un comando de robots armados como parte de las capacidades ofensivas en conflictos armados. Una evolución de los tanques, los misiles o los drones.

Este año hemos visto el anuncio de Boston Dynamics de que ya van a trabajar con clientes empresariales seleccionados para poner en producción en las fábricas a su Robot Atlas, de última generación, que cuenta con una movilidad y unas capacidades que superan las humanas.
Y ya en la web de Boston Dynamics puedes solicitar utilizar estos robots en tus fábricas. Sólo van a trabajar con un número limitado de clientes para testear bien el mercado, pero desde luego, parece que esto lo vamos a ver muy pronto como algo normal, así que los trabajos menos cualificados van a ver un nuevo competidor buscando empleo.

Unitree H2

Pero no ha sido el único anuncio que hemos tenido, y el del robot H2 de Unitree, que está a la venta en su web por 29.900 USD, y el vídeo que han usado para "no asustarte" ha sido este que tienes en todas las redes.

Como podéis ver en el vídeo y en la web, tiene unas capacidades que asustan un poco, porque además de los movimientos estéticos, han puesto el vídeo realizando pruebas de lucha.
Al final, que uno de estos Robots tenga capacidades para dañar o no a un ser humano es una decisión del que lo controla. Puede ser un soldado, un guarda espaldas, o un asesino. 

Xpeng Iron

Con este futuro peligroso jugaba Isaac Asimov en sus "Sueños de Robot" o "Visiones de Robot", donde algunos eran peligrosos por no contar con esas reglas de protección.

Figura 7 : Xpeng Iron

El último de los robots que me ha llamado la atención, por su elegancia a la hora de caminar ha sido el Xpeng Iron, que anda como los humanos, y han puesto mucho interés en la estética con "músculos" y "piel" sintética para simular la estética más humanoide posible.
Tesla Optimus Gen 2

A estos robots hay que sumar el Tesla Optimus que ya se anunció, con lo que parece que dentro de no demasiado vamos a empezar a vernos viviendo dentro de las películas que teníamos en el pasado de ciencia-ficción, cada día más reales.
La pregunta es, viendo cómo hacemos la tecnología últimamente, y viendo todos los futuros distópicos que hemos podido leer en libros y ver en películas de ciencia-ficción, sumados todos los capítulos de todas las temporadas de Black Mirror... ¿tendremos un futuro mejor o estamos de camino a un final no deseado?

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


miércoles, julio 30, 2025

Can Machines Think or Dream Without Hallucinations?

La última conferencia que impartí durante el mes de Julio en Vigo se tituló así: "Can Machines Think or Dream Without Hallucinations?". Toda la charla la puedes ver online ahora mismo en mi canal de Youtube, y tienes un resumen completo de la jornada en la web del CIS, que hizo una amplia cobertura de todo el evento.
El título puede parecer algo singular, pero lo elegí así por varios motivos. El primero porque el viaje comenzaba con el paper de Sir Alan Turing donde se preguntaba si "Can Machines Think?" la parte de soñar porque al ser dentro de un foro de de Digital Twins, quería hablar de los Digital Cousins y los Digital Nomads, donde los robots no hacen cosas para aprender, sino sueñan que las hacen, como ya os conté en otro artículo.

Figura 2: "Can Machines Think or Dream Without Hallucinations?"

Por supuesto, la última parte del título hace referencia a los problemas de diseño que tiene la GenAI, donde dotarle de creatividad tiene muchas ventajas, pero también algún problema, como el determinismo, el Potemkin Rate, los Sesgos, o la filtración de datos. 

De todo eso ya os hablé en la charla que di en OpenExpo Europe 2025 / Metaworld Congress 2025 titulada "Hackin’ AI: Creando una IA… ¿Qué puede salir mal?", donde también aproveché a contar muchas cosas de por qué esto es así, que hay que entender bien el funcionamiento de estos modelos para saber por qué nos suceden estos problemas.

Figura 4: "Hackin’ AI: Creando una IA… ¿Qué puede salir mal?"

Si el mundo de la Inteligencia Artificial te está llamando a gritos pero aún no te has puesto las pilas, te recomiendo que te compres nuestro último libro de "Hacking & Pentesting con Inteligencia Artificial" donde verás muchas de estas cosas en una lectura cómoda que podrás disfrutar este verano.

Y nada más, que estamos a finales de Julio, por lo que espero que todos los que estéis disfrutando las vacaciones estéis recargando pilas, y a los que aún no os habéis ido... ya queda menos. Y si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


miércoles, julio 09, 2025

GenAI Search Engine Optimization (GenAI SEO) con LLMs TXT

Desde hace muchos años configuramos en las páginas webs el famoso archivo ROBOTs.txt, que le dice a los buscadores qué queremos que se rastree y qué no queremos que se rastree. Y a los hackers qué cosas hay por ahí escondidas en esa web. Esto se extendió a una versión más detallada donde se le da información a los buscadores sobre todas las URLs del sitio que deben ser rastreadas y analizadas correctamente, y apareció el fichero sitemap.xml, que hoy se usa de manera masiva en casi todas las webs que quieren tener presencia en los buscadores. Si quieres saber más sobre indexación, he hablado mucho durante años, que hasta Gmail tuvo problemas con esto, pero el post de hoy va de otro fichero que nada tiene que ver con esto.
Por el camino, ha habido otros ficheros TXT bastante curiosos, como el de HUMANS.txt que se propuso hace tiempo, y el que yo propuse para que los hackers supieran cómo iban a ser tratados cuando se buscaban o reportaban un bug, mi querido HACKERS.TXT. Esta misma idea luego se convirtió en una propuesta de formato estandarizado en el IETF llamada SECURITY.TXT. Pues con esa misma idea, pero pensando en hacer fácil la indexación de contenido para los LLMs, surgió LLMs.TXT, 
El formato es muy sencillo, y está definido por niveles. Se especifican las secciones de la web con una estructura por niveles, marcada por # o ##, se añaden descripciones, y luego se especifican las diferentes URLs de navegación de contenido, con una descripción opcional en ellas.
Lo que sí que es valioso para enriquecer el entendimiento de los enlaces, es especificar para cada uno de ellos la descripción en un formato sencillo como

#Datos de la web donde está el fichero LLMs.txt

> Resumen de la sección completa.
- Información sobre cosas que se pueden encontrar en esta sección
- Detalles de lo que hay en esta sección.
- Descripción de cosas importantes a saber.

## Sección 1 de la web

- [Título de la pagina a visitar] (URL de la pagina): Descripción de lo que hay allí.
- [Título de la pagina a visitar] (URL de la pagina): Descripción de lo que hay allí.
- [Título de la pagina a visitar] (URL de la pagina): Descripción de lo que hay allí.
- [Título de la pagina a visitar] (URL de la pagina): Descripción de lo que hay allí.
- [Título de la pagina a visitar] (URL de la pagina): Descripción de lo que hay allí.

Con una estructura similar a esa, puedes crear el fichero LLMs.TXT que ahora de forma automática te lo crean muchos gestores de páginas web, pero si aún no lo tienes en tu web y quieres tener un posicionamiento en los GenAI Search Engines, es importante que lo hagas correctamente.
Si miramos los datos, el coste de un Refer por número de Crawls es altísimo, y es un dato que si quieres optimizar para reducir costes de tu infraestructura, cualquier mejora que hagas con el fichero LLMs.TXT te vendrá bien.

Al final, hay que tener en cuenta que para conseguirse un solo HTTP-Referer de los resultados de un GenAI Search Engine se tiene que dar un montón de pasos. Primero hay que tener en cuenta que el GenAI Search Engine puede tener la respuesta sin necesidad de buscar. Y después, si decide que hay que buscar en la web por el tipo de Prompt el flujo es muy largo, como se ve en la imagen siguiente.

Figura 6: Proceso para conseguir un HTTP-Referer
desde un GenAI Search Engine


Si quieres jugar con esto, tienes muchas herramientas ya disponibles en la web de LLMs.txt, que puedes utilizar en tus proyectos, pero si usas plataformas CMS para gestionar tus páginas web, seguro que tienen allí también estas acciones. 
Lo que es importante es entender cómo funciona, para que sirve, y que los flujos de AI-Crawl to Human-Web/Mobile Content sea el que tú has definido, y que controles el flujo de cómo funciona tu contenido en los GenAI Search Engines. Esto aún va a dar muchas más vueltas, seguro...

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares