Un robot (LLM) que crea el cerebro de un robot (Drone) con Vibe Coding (o Spec Coding)

Hoy quería hablaros de un paper bastante curioso que habla un poco más de los miedos de la humanidad en la creación de Skynet, ya sabéis, la malvada Súper Inteligencia Artificial que controla los Terminators para acabar con la humanidad. En este caso, se trata de un trabajo de investigación que busca probar si un Modelo de IA puede crear todo el software de control  - y controlar - que necesita un drone, y el experimento ha funcionado.

Figura 1: Un robot (LLM) que crea el cerebro de un robot

(Drone) con Vibe Coding (o Spec Coding)

El paper, que podéis leer aquí mismo, se llama "Robot builds a robot’s brain: AI generated drone command and control station hosted in the sky" y describe el proceso paso a paso para acabar haciendo la demostración completa del Drone volando.

Figura 2: "Robot builds a robot’s brain: AI generated drone

command and control station hosted in the sky"

El trabajo está especialmente hecho para los Makers, es decir, para los que disfrutan de construir cosas con Rapsberry Pi, con tecnología de Drones o Arduino, como explican en detalle, así que si eres de los que disfrutan de estas cosas, te recomiendo estos tres libros que son tres joyas sobre esto.

Figura 3: Libros para Makers en 0xWord que deberías tener:

Arduino para Hackers: PoCs & Hacks Just For Fun,

Hacking con Drones: Love is in the air &

Raspberry Pi para Hackers & Makers: PoCs & Hacks Just for Fun.

El proceso viene descrito desde el principio, construyendo dos piezas de software y hardware completas. El piloto, se conecta con el drone con un software que se llama GCS (Ground Command System), que está formado por una servicio web, para que sea fácil administrar el proceso. Después, el GCS se conectará vía alguna conectividad al drone, para transmitirle las órdenes, que para que esté preparado para su uso, va a estar construido como un Agentic AI.

Figura 4: El GCS está en la tierra (o en la nube)

La siguiente pieza de software que necesita el sistema es el software de control en el drone, lo que llama WebGCS on Drone, porque está construido con tecnología web e instalado directamente en el hardware del drone, en concreto en un hardware basado en Raspberry Pi, con un NVidia Jetson para poder mover el modelo LLM que va a dotar de las herramientas de IA para programar al drone "on-the-fly".

Figura 5: Arquitectura del drone

Visto las dos partes de la arquitectura, hay que definir el proceso para poder construir el software completo que va a controlar el drone. Es decir, construir el "Cerebro del Robot" (Drone). Para ello, haciendo Vibe Coding - o Spec Coding si quieres -, se le pide que construya el GGS, utilizando para ello el stack de software de desarrollo con GenAI que tenemos hoy en día, con Widsurf, Cursor o VS Code como IDE, con un LLM como Claude, ChatGPT  o Gemini, y usando como repositorio del proyecto GitHub, GitLab o en la propia máquina. Es decir, Vibe Coding - o Spec Coding -  a tope para construir todo el software.

Figura 6: Pipeline de construcción del "cerebro del robot"

Por otro lado, una vez construido el software - las dos piezas - hace el despliegue del software en un Cloud Provider para el WebGCS que maneja el piloto del drone, y en el propio hardware del drone (Raspberry Pi) para el WebGCS on drone. En la siguiente imagen se se ve la arquitectura de módulos que se construyeron para poder tener un sistema de control con telemetría completa del drone.

Figura 7: Arquitectura de módulos y cómo interactúa

Con todo este trabajo, lo que tenemos es que todo el software ha sido construido con GenAI, partiendo de prompting. Además, el parcheo de los programa se hace aprovechando la arquitectura con modelos de LLM que permite reprogramar automáticamente cuando aparece un fallo, enviándole el mensaje de error y pidiéndole que se parchee. Es decir, sin programación alguna hecha por un programador. El resultado, un stack tecnológico completo para este entorno.

Figura 8: Software de Control de Drone

Y todo esto funcionando en real, con el hardware construido para probar el funcionamiento, el parcheo automático, y su funcionamiento. Lo que hace que para los makers, las creación de los drones sea aún mucho más divertido.

Figura 9: Probando el "cerebro del drone" creado con GenAI

El siguiente esquema resume el trabajo experimentado en esta prueba, con las piezas de software construidas para casa parte, y su despliegue en diferentes lugares, pero en este caso utilizando un Virtual Drone en AWS corriendo sobre una máquina virtual de GNU/Linux, lo que permitiría desplegarlo en múltiples instancias de drones que soporten la VM.

Figura 10: Arquitectura con Virtual Drone

Al final, el proceso es un ejercicio de Coding con GenAI para crear el software de control de drones, pero con muy poco "Human Prompting" y mucho automático para construir las funciones, para parchear, para evolucionar, y corregir errores.

Figura 11: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

La pregunta es, si en un mundo de Agentic AI, pueden ellos crear la programación automáticamente para cualquier Drone, para cualquier hardware controlado por Raspberry Pi, Arduino, o cualquier otra máquina. ¿El alzamiento de los robots.... con GenAI?

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Olivia en Golem City: Un cómic con hackers en lucha en un futuro distópico

La historia va mucho más que hackers, pero la protagonista de esta historia, Olivia, es una hacker que ayuda a luchar contra el totalitarismo de las ciudades estado dominada por mega-empresarios que sustituyen a las personas por máquinas y drones para mantener el orden, mientras una Inteligencia Artificial podría llegar a controlarlo todo.

Figura 1: Olivia en Golem City -

Un cómic con hackers en lucha en un futuro distópico

Si con eso no te han dado ganas de tener este cómic, aún hay más, porque la estética, el color, y el cariño de todas las páginas es exquisito. Corre la segunda mitad del Siglo XXI, el mundo ha colapsado por los desastres naturales, y ha evolucionado a ciudades estado totalitarias, como lo es Golem City, al más puro estilo de la famosa Megacity 1 de Judge Dredd. 

Figura 2: Olivia en Golem City

En este mundo, acceder a alimentos de calidad es solo posible para los todopoderosos, y Olivia ayuda con sus técnicas de hacking a los contrabandistas para que se puedan crear canales de alimentación para la población más pobre.

Figura 3: Olivia en Golem City

Pero, las cosas se van a complicar. Los policías van a ser sustituidos por robots y drones, y un ente malicioso empieza a emerger para desbaratar los planes de Olivia. Pero.... en un mundo donde se pueden borrar los recuerdos de las personas de forma selectiva, aún hay mucho más que descubrir.

Figura 4: Huyendo de los robots MIMS

El cómic, de 48 páginas, está hecho con mucho mimo, cariño y detalle por José Antonio Germán y Samuel Gallastegui. Un día me escribieron a mi buzón de MyPublicInbox con la "idea loca" de hacer un cómic de una hacker en un futuro distópico, y ya sabéis que yo soy de los que me subo rápido a los proyectos. 

Figura 5: Samuel Gallastegui

Me pasaron el guión y decidimos que teníamos que verlo en papel satinado ya todo color. Y ha quedado... espectacular. La sinopsis de la historia, a pesar de que yo os haya hecho la mía propia - que me lo leí en cuanto estuvo en mi mano -, es la siguiente:

En un futuro devastado por la escasez y los desastres naturales, Europa se ha fragmentado en ciudades-estado, en las que sus privilegiados ciudadanos se refugian en los lujos de la tecnología, aunque para muchos conseguir el alimento diario es un gran desafío. 

 

En la desmesurada Golem City, Olivia, una programadora inteligente pero lastrada por su amnesia, se gana la vida con el comercio ilegal de comestibles. Al ser descubierta por una entidad y perseguida por la policía, pierde su equipo y, acorralada, se refugia en los almacenes de Stefano, un científico idealista que hace tiempo renunció a sus sueños. 

 

Unidos por el azar y la necesidad, tendrán que enfrentarse tanto a una conspiración política como a una tecnología herética, cuya existencia parece poner en riesgo, no solo la convivencia de la ciudad, sino los límites de lo humano. 

El cómic son 48 páginas para disfrutar con los ojos, la lectura, y ponerse un poco de música de Blade Runner, porque tiene colores intensos y a la vez cálidos, que te meten en el ambiente de la historia desde la primera página.

Figura 6: Golem City

Los autores están en MyPublicInbox, por supuesto, donde puedes contactar con ellos en sus buzones púbicos de José Antonio Germán y Samuel Gallastegui, y además por la compra del mismo recibirás 100 Tempos de MyPublicInbox.

Figura 7: Contactar con José Antonio Germán

Y si tienes Tempos, además los puedes utilizar para comprar este cómic, así que aprovéchalos. Aquí te explico cómo funciona, y vale para éste o cualquier otro cómic de 0xWord Cómics. Además ya tienes a Olivia en Golem City dentro de Whakoom, así que lo puedes meter en tu base de datos en cuanto lo tengas. 

Usar tus Tempos de MyPublicInbox 0xWord para adquirir este libro

La idea es muy sencilla, hemos creado un Buzón Público de 0xWord en MyPublicInbox y tenemos disponible el módulo de transferencias de Tempos entre cuentas siempre que el destinatario sea un Perfil Público de la plataforma. Para que se puedan hacer estas transferencias, primero debe estar el Perfil Público destinatario de la transferencia en la Agenda.

Figura 8: Perfil de 0xWord en MyPublicInbox. Opción de "Añadir a  la Agenda".
https://MyPublicInbox.com/0xWord

Para dar de alta un Perfil Público en tu agenda, solo debes iniciar sesión en MyPublicInbox, y con la sesión iniciada ir a la web del perfil. En este caso, a la URL del perfil público de 0xWord en MyPublicInbox, - https://MyPublicInbox.com/0xWord - donde te aparecerá la opción de "Añadir a la agenda". Cuando acabe este proceso, podrás ir a la opción Agenda de tu buzón de correo en MyPublicInbox y deberías tener el Perfil Público de 0xWord allí.

Figura 9: Cuando lo agregues estará en tu agenda

Una vez que lo tengas en la agenda, ya será tan fácil como irte a tu perfil - se accede haciendo clic en la imagen redonda con tu foto en la parte superior - y entrar en la Zona de Transferencias. Desde allí seleccionas el Buzón Público de 0xWord, el número de Tempos que quieres transferir, y en el concepto debes poner que es para recibir un código descuento para usar en la tienda de 0xWord.

Figura 10: Zona de Transferencias en el Perfil de MyPublicInbox

No te preocupes por el texto concreto, porque los procesamos manualmente como los pedidos de se hacen en la tienda. 

Canjear 500 Tempos por un código descuento de 5 €

La última opción es bastante sencilla. Solo debes irte a la sección de Canjear Tempos -> Vales para Tiendas, y "Comprar" por 500 Tempos y código de 5 €. Es lo mismo que enviar la transferencia pero en un paquete de 500 Tempos y de forma totalmente automatizada, así que solo con que le des a comprar recibirás el código descuento y lo podrás utilizar en la tienda de 0xWord.com

Figura 11: Canjear Tempos por Códigos para libros de 0xWord

Así que, si quieres conseguir nuestros libros de Seguridad Informática & Hacking aprovechando los Tempos de MyPublicInbox podrás hacerlo de forma muy sencilla y mucho, mucho, mucho más barato. Y así apoyas este proyecto tan bonito que es 0xWord.com.

Ser escritor de libros de 0xWord

Además, todos lo que queráis convertiros en escritores y hacer un proyecto de libro con nosotros. Podéis también enviarnos vuestra propuesta a través del buzón de 0xWord en MyPublicInbox, y si sois Perfiles Públicos de la plataforma, podéis entrar en la sección de Mi Perfil -> Servicios para ti y solicitar más información sobre el proceso de escribir un libro en 0xWord.

Figura 12: Si eres un Perfil Público de MyPublicInbox

puede solicitar info para escribir un libro en 0xWord

Nuestro equipo se pondrá en contacto contigo y evaluará tu proyecto de publicación de libro, novela o cómic. Ya sabes que principalmente de Seguridad Informática & Hacking, y puede ser técnico, súper-técnico, o divulgación, y si es una novela o cómic, también.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Reto Santander X Global Challenge de Open Gateway: 120.000 € en premios

Ya os he hablado en otras ocasiones sobre Telefónica Open Gateway y cómo ha llegado para transformar la forma en la que se consumen los servicios de la industria de telecomunicaciones. La magnitud de este proyecto es enorme y las posibilidades para los developers son infinitas. Especialmente porque creo que con muy pocas APIs, se pueden hacer muchísimas cosas chulas. Por eso, hemos lanzado un challenge para llevar la experiencia digital de los usuarios al siguiente nivel con la integración de nuestras APIs.

Figura 1: Reto Santander X Global Challenge de Open Gateway.

120.000 € en premios

En el blog os hemos hablado de las posibilidades de usar Geo-Fencing de funciones privilegiadas en servicios digitales utilizando el API de Device Location Verification, o de cómo detectar un intento de Fraude de GPS con la misma API. También tienes APIs para detectar el clonado de SIMs con el API de SIM Swap o para hacer una autenticación "seamless" y robusta con el API de Number Verification, o descubrir si un dispositivo está en Roaming con el API de Device Status.

Figura 2: APIs OpenGateway estandarizadas

Ejemplos de estas APIs los contamos David del Val, Pablo González y yo en el pasado Telefónica Innovation Day, y tenéis el vídeo de la demo subido a mi canal Youtube, para que veáis cómo funcionan todas estas tecnologías y todo lo que se puede hacer. El objetivo, que cojas ideas para participar en este reto que te voy a contar ahora.

Figura 3: Telefónica Innovation Day 2024 - Open Gateway.Anti Fraude, Drones y Santander X Challenge

Se pudieron ver ejemplos para potenciar el ecosistema de drones, haciendo uso de APIs que permiten conocer las condiciones de conectividad y la densidad poblacional de la ruta previo al despegue o aplicar QoD Mobile. Y un ejemplo de una solución antifraude que también hacía uso de TU Latch integrado con OpenGateway.

Reto Santander X Global Challenge de Open Gateway

El Santander X Global Challenge | New era of Customer Experience, es un reto que lanzamos en colaboración con el Banco Santander y Oxentia Foundation. Con él, buscamos que todos los developers que formáis parte de startups o scaleups, podáis aprovechar nuestras capacidades telco servidas en OpenGateway y desarrolléis los servicios digitales del futuro. Dejadme que os cuente más sobre ello.

Figura 4:  Nathalie Picquot y David del Val explican el reto

Santander X Challenge | New era of Customer Experience

El objetivo del challenge es sencillo: crear las soluciones más innovadoras que ayuden a mejorar la experiencia de los clientes. Y para facilitaros el trabajo, vais a tener a vuestra disposición nuestras APIs de OpenGateway para incorporarlas en vuestro código. Debéis dar un salto de mejora en alguna de estas tres áreas:

• Personalización de experiencias.
• Garantización de la omnicanalidad
• Potenciación de la conexión humana. 

De esta forma, podréis liberar toda vuestra creatividad en soluciones como asistentes virtuales basados en IA, programas de gamificación, soportes de comunicación y muchas otras cosas que se os ocurran.

Figura 5: Santander X Challenge | New era of Customer Experience

Hay tres premios de 30.000 € para ScaleUps y 3 premios de 10.000 € para Startups, además de tener acceso al equipo de innovación abierta del Santander para explorar oportunidades de colaboración, promoción en los canales oficiales del banco y acceso a Santander X 100, la comunidad global de las empresas más destacadas de Santander X. También podréis tener un encuentro con los inversores de nuestra aceleradora de startups Wayra, además de conocer al equipo y las instalaciones.

Figura 6: Inscripción al Reto

Participar es simple y gratuito. No importa si picáis código en una pequeña startup o una scaleup en crecimiento; el reto está diseñado para adaptarse a distintos niveles de desarrollo. El único requisito es que vuestra empresa se encuentre legalmente constituida en uno de los 11 países participantes: Argentina, Alemania, Brasil, Chile, EE. UU., España, México, Portugal, Polonia, Reino Unido y Uruguay. Tenéis hasta el 15 de diciembre de 2024 sumaros a este reto y poner en práctica el potencial de nuestras APIs.

Open Gateway

Como sabéis, anunciamos Open Gateway en el MWC 2023 y, en el transcurso de estos dos años, hemos podido dar grandes pasos. Al fin y al cabo, es uno de nuestros proyectos estrella y le tenemos mucho cariño. Algunas de nuestras APIs ya se encuentran comercialmente disponibles en países como España, Brasil y Alemania. 

También hemos desarrollado un Sandbox para que piquéis código, experimentéis y validéis vuestras propias soluciones. Poco a poco hemos ido ampliando nuestro catálogo de APIs y, con ello, abarcando nuevos sectores de soluciones. Algunas de ellas, y que podréis encontrar disponibles en el reto, son las siguientes:

• API QoD Mobile: permite ajustar la calidad de servicio basada en las condiciones de red y, con ello, optimizar la conectividad en situaciones adversas, como entornos congestionados.

• API Number Verification: verifica si el móvil proporcionado en un formulario coincide con el que se está usando. Esto evita fraudes en autenticación y aporta seguridad.

• API Device Location Verification: puede comprobar si el dispositivo de un usuario se encuentra en una ubicación geográfica específica.

• API Device Status (Roaming): verifica si un dispositivo móvil está en roaming. 

• API de SIM Swap: verifica si una SIM ha sido clonada en un periodo de tienpo.

El Sandbox de producción cuenta con las mismas características y ventajas que el modo mock. La principal diferencia consiste en que se trata de un entorno de integración real, en el que se busca registrar una aplicación con alguno de los operadores de Telefónica. En este caso, debéis rellenar algunos datos adicionales en nuestro formulario que posteriormente pasarán por un proceso de validación. Actualmente, esta modalidad del Sandbox sólo está disponible para Movistar en España. Pronto se añadirán el resto de las operadoras de otros países, como Vivo en Brasil u O2 en Alemania.

Figura 7: Registro de Apps en el SandBox

Para que empecéis a experimentar, es necesario que os unáis al Developer Hub de Telefónica Open Gateway. La inscripción a este programa no tiene ningún coste, por lo que podréis disfrutar del Sandbox de forma gratuita. En la sección Technical Toolbox del área privada, una vez que os hayáis registrado y logado, encontraréis el acceso y, una vez dentro, lo primero que veréis es nuestro catálogo completo de APIs disponibles en el entorno de pruebas. 

Figura 8: Darte de alta en el Telefónica Open Gateway Developer Hub

Seleccionad aquella con la que queráis trabajar, añadid la información general de vuestra aplicación y elegid el modo que deseéis, ya sea de producción o mock, para empezar con vuestros desarrollos. Probad vuestros desarrollos con estas APIs para llevarlos al siguiente nivel de seguridad antifraude con OpenGateway.

Figura 9: Suscríbete a la newsletter de Telefónica Open Gateway

Y si quieres mantenerte informado con novedades en la iniciativa como más webinars sobre nuestras soluciones, lanzamientos comerciales o nuevas APIs disponibles, suscríbete a nuestra newsletter de Open Gateway.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Airspace Integration Week Madrid: Comunicaciones para Drones

Si os digo que llevamos tiempo trabajando en el área de drones en Telefónica seguro que no os sorprende. Que estamos usándolos en muchos casos de uso con clientes con Telefónica Tech, que las redes de comunicaciones las estamos diseñando pensando en cuáles van a ser las necesidades de los drones que llevan planes de vuelo autónomos en los países en los que operamos, y que estamos pensando en cuáles son las APIs de OpenGateway que necesitarán los desarrolladores de servicios digitales para drones, pues tampoco será una gran sorpresa, porque es evidente que la economía de movilidad basada en drones es una realidad que se nos viene encima.

Figura 1: Airspace Integration Week Madrid: Comunicaciones para Drones

De todo esto que estamos haciendo, voy a hablar yo el próximo lunes 25 en la Airspace Integration Week Madrid 2023, en el auditorio de IFEMA CIVIL UAVS INITITATIVE THEATRE a las 17:00 de la tarde, así que si vas a venir a este evento, y te apetece verme, allí me vas a encontrar.

Figura 2: Comunicaciones in the drone industry for aam.

Lunes 25 en el auditorio Civil UAVS Inititative Theatre

Y no va a ser la única vez que me veas, ya que estamos involucrados en múltiples proyectos con drones, que Chabela Buatas, una auténtica "Trail Blazer" en este mundo me ha convencido de meternos en más cosas aún, así que poco a poco iremos anunciando más cosas.

Figura 3: Contactar con Chabela Buatas

La industria de los drones, que comenzó como algo que parecía una algo más para innovadores, apasionadas, y lo que algunos pensaban que era gente que disfrutaba de "juguetes", se ha convertido con los años en una industria muy relevante en el mundo de la aviación, como solución de movilidad, de transporte, de seguridad, de vigilancia, tanto en el mundo civil como en el militar.

Figura 4: Libro de "Hacking con Drones: Love is in the air"
escrito por David Meléndez Cano a.k.a. TaiksonTexas en 0xWord

Si quieres empezar a jugar con drones, te recomiendo el libro del gran TaiksonTexas de "Hacking con Drones: Love is in the air" que es una gozada para Hackers & Makers que quieran comenzar en este mundo de los drones.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Horizonte Temporada 3 Programa 123: Disponible para ver online

No engaño a nadie que me conozca si digo que yo no soy nocturno. Ni mucho menos, soy una persona que me gusta madrugar y pelear el día por la mañana. La noche la uso más para recargar pilas y descansar. Pero cuando me da algo de respiro la vida e Iker Jiménez y Carmen Porter me lo piden, yo me acerco con ellos a estar un rato en su programa Horizonte.

Figura 1: Horizonte Temporada 3 Programa 123: Disponible para ver online

El pasado jueves estuve, y el viernes os conté un poco de que hablé los 20 minutos que estuve con ellos en el programa. Ya lo sabéis, Armas Militares, Inteligencia Artificial, y la conexión entre ambas con detonadores nucleares. Un bonito cocktail que comenzó con los robots autónomos, los drones de combate y terminaba con la Declaración Política de Estados Unidos al respecto.

Figura 2: Horizonte Temporada 3 Programa 123: Disponible para ver online

El programa completo ya está subido para ver a la carta, y lo puedes ver online. La primera, y más larga parte del programa se dedicó al caso del hundimiento del Titán, la segunda sección, de solo 20 minutos, es la que se dedicó a Inteligencia Artificial y Armas Militares, de la que ya os he hablado. Comienza a la 1 hora y 12 minutos del inicio del programa.

‘Horizonte’ bate su récord de temporada e impulsa a Cuatro a obtener su mejor jueves en 14 semanas https://t.co/LfgKJ5pgAV

— Iker Jiménez (@navedelmisterio) June 23, 2023

Figura 3: ‘Horizonte’ bate su récord de temporada e impulsa a

Cuatro a obtener su mejor jueves en 14 semanas

Como hoy es domingo, y hace día de estar al remojo, no os dejo más que esto, por si te apetece verlo en un rato perdido después de la siesta,  ya que fue el programa más visto de la temporada, que seguro que te da algo que pensar esa historia del Titán o la de IA y armas militares juntas en una frase.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Juegos de Guerra: Inteligencia Artificial y Armas Nucleares

Ayer volví a pasarme por el programa Horizonte con Iker Jiménez y Carmen Porter, para hablar de un tema del que ya he hablado alguna vez por aquí, que no es otro que el uso de la Inteligencia Artificial en la Industria Militar. Un tema que ha generado mucho debate, pero esta vez quería hablar en concreto de un tema que dejé para el final de mi intervención. Y es la Declaración Política del Uso Responsable en la Industria Militar de Inteligencia Artificial, emitido por el gobierno de los Estados Unidos de América.

Figura 1: Juegos de Guerra: Inteligencia Artificial y Armas Nucleares

Esta declaración política se publicó al mismo tiempo que se publicaba la carta abierta de REAIM (REsponsibly Artificial Intelligence in the Military Domain), donde además de reconocer la importancia de conocer todas las implicaciones que tiene el uso de estas tecnologías para crear armas, aprender, poner límites, y tener un framework de colaboración para decidir qué es lo que se quiere y no se quiere en el mundo militar con la IA, se habló de la necesidad de que siempre hubiera una persona humana responsable detrás del uso de una de estas armas.

Figura 2: Reconocimiento de nuestro desconocimiento de su impacto

Al final, el riesgo es generar una IA que por un error de funcionamiento mate a una, a muchas o a toda la humanidad, que con un bug en la elección del objetivo, o dejar que un algoritmo generado por IA pueda tomar las decisiones de a quién hay que "eliminar" nos puede llevar a muchos destinos vistos ya en las películas de ciencia- ficción. 

Figura 3: Necesidad de aprender más de IA (incluidos los mitos)

Al mismo tiempo que se publicaba la carta abierta de REAIM, se publicaba la Declaración Política del Uso Responsable en la Industria Militar de Inteligencia Artificial, emitida por el gobierno de los Estados Unidos de América, donde se enfocaba el problema de manera similar, pero tomando como foco a los Estados, y no a las empresas.

Figura 4: Declaración Política del Uso Responsable en

la Industria Militar de Inteligencia Artificial

Entre la lista de enumeraciones que se hacen en este documento, hay una que llama poderosamente la atención, y es la que dice algo así como "vamos a evitar que las armas nucleares las puedan activar de forma autónoma modelos de Inteligencia Artificial". Lo cual deja claro que ya hay muchos que lo han pensado.

Figura 5: Declaración Política del Uso Responsable en

la Industria Militar de Inteligencia Artificial

Un mal diseño, un bug, un sesgo, una deducción lógica clarísima o incorrecta, podría ser el trigger que hiciera que comenzara una escalada nuclear. Como en la icónica película de Juegos de Guerra donde al final se resuelve todo con un juego de Tres en raya que no sé si me da garantías de ser una medida de control en el mundo de hoy en día. 

Figura 6: Final de Juegos de Guerra

Como es viernes, no os quiero dejar mucho más que esta reflexión y esta imagen. La de que estamos ya en un mundo en el que el ya vemos muy cerca la conexión de Inteligencias Artificiales Autónomas - es decir, que toman decisiones basadas en su aprendizaje - y Armas Nucleares. Os garantizo que esta imagen se metió en mi cabeza y es muy poderosa si la empiezas a iterar, sobre todo en momentos como el que tenemos hoy en día, donde dentro de nuestra propia Europa tenemos una guerra donde los límites de las "normas de la guerra" se han pasado por alto alguna que otra vez.

Figura 7: Declaración Política del Uso Responsable en

la Industria Militar de Inteligencia Artificial

Yo os recomiendo que leáis la Declaración Política del Uso Responsable en la Industria Militar de Inteligencia Artificial que los puntos de la A a la L te tienen que hacer mucho sobre a dónde vamos, qué nos vamos a encontrar y cómo van a ser los riesgos del futuro en nuestro mundo. Y ahora sí, buen viernes. 

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

REAIM: Responsible Artificial Intelligence in the Military Domain

He dejado el título en inglés, para no cargarme el acrónimo. REAIM o Responsible Artificial Intellgence in the Military Domain es el nombre de la reunión internacional que ha tenido lugar esta semana en La Haya para hablar de los retos, donde caben oportunidades, riesgos, peligros, y necesidades, a la hora de adoptar el uso de la Inteligencia Artificial en el mundo militar, donde hace años ya se utiliza.

Figura 1: REAIM: Responsible Artificial Intelligence in the Military Domain

Imagen Dall-e "Tank in Picasso Style"

En la reunión internacional de REIM se ha concluido con la emisión de una "Llamada a la acción" o CTA (Call To Action) donde se enuncian una serie de hechos que quedan reconocidos y una necesidad de tomar decisiones a futuro para mejorar la situación. Está claro que la Inteligencia Artificial se va a aplicar a todo, como nosotros la aplicamos al mundo de la ciberseguridad en nuestro libro, pero la vemos aplicada a la salud, los transportes, los negocios, el diseño generativo, etcétera. 

Figura 2: Libro de Machine Learning aplicado a Ciberseguridad de
Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández

Entre otros, se reconoce que estamos solo en los inicios de la eclosión de la Inteligencia Artificial y no comprendemos completamente el impacto y los retos a los que nos vamos a enfrentar con su uso en el dominio militar.

Figura 3: Reconocimiento de nuestro desconocimiento de su impacto

La carta, que podéis leer online o descargar en PDF reconoce muchas cosas que no sabemos, algunas de ellas tiene que ver incluso con la necesidad de "cazar los mitos" alrededor de la IA, ya que todos tenemos en mente las películas de ciencia ficción que tanto nos han asustado con ella.

Figura 4: Necesidad de aprender más de IA (incluidos los mitos)

Uno de los puntos importantes que la carta ha puesto en la lista, ha sido un debate muy fuerte en los últimos años, ya que si un sistema de IA toma una decisión de atacar a un objetivo provocando muertes por error del sistema IA, ¿quién es el responsable? La carta deja claro que siempre debe haber una persona que debe tomar la responsabilidad.

Figura 5: Necesidad de que haya un ser humano responsable de la IA

Esto fue una gran debate desde el inicio de uso de los llamados “robots asesinos” vigilados por la organización Human Rights Watch que en el año 2020, donde se constató que ya se utilizaron para tomar la decisión de "matar a un humano", han estado peleando por regular su uso en el mundo militar.

Figura 6: Informe de Human Rights Watch sore los Robots Asesinos

Esto no es nuevo, ya que desde el año 2013 se lleva hablando de esta posibilidades en la Unión Europea, y como contaba en el artículo de la cámaras de Super High Definition, en el año 2015, en el congreso de Future of Life, al final del mismo se firmó una carta abierta en la que se pedía el uso responsable de estas tecnologías. Elon Musk, Steve Wozniak, Bruce Shneier, en una larga lista pedían que el la Inteligencia Artificial no se explotara militarmente de esta forma.

Figura 7: Carta abierta de Future of Life

Ahora en el Call To Action de REIM se ha pedido que los humanos tomen responsabilidad del uso de la IA si esta toma decisiones. Esto obliga a trabajar mucho en el ámbito de entender cómo está entrenada una Inteligencia Artificial, por qué toma una determinada decisión. Las áreas de interpretabilidad de la IA van a ser de gran importancia de ahora en adelante, ¿o tomarías responsabilidad del uso de una tecnología que puede matar sin saber cómo decide matar?

Figura 8: KARGU - Autonomous Tactical Multi-Rotor Attack UAV

De hecho en la carta se habla de la necesidad de comprender mejor el funcionamiento de la IA, sus posibles sesgos de aprendizaje a la hora de tomar una decisión, lo que implica mucho trabajo de investigación. 

Figura 9: Libro de "Hacking con Drones: Love is in the air"
escrito por David Meléndez Cano a.k.a. TaiksonTexas en 0xWord

Por eso, en la carta se hace el llamamiento a la "Academia" reiteradas, y aparece citada en 6 de las 24 frases que componen la carta antes de hacer el llamado. Es decir, el 25% de los "statements", lo que me gustaría reiterar. El mundo de la investigación tiene una oportunidad de dar un paso al frente y seguir alimentando un debate que nos tiene que preocupar a todos.

Figura 10: Necesidad de entender el funcionamiento y consecuencias del uso de la IA

La carta la podéis descargar de la web de REIM, y analizar completamente, pues da para pensar mucho, pero me parece que es más que necesario este tipo de debates públicos.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)