MyPublicInbox News AI: El Agente AI que crea tu Dossier de Prensa para ti en MyPublicInbox

Una de las cosas que siempre he echado de menos es tener una recopilación de todo lo que se ha publicado de mí. Tener almacenadas las noticias, las webs, y las publicaciones que se hagan conmigo. Esto es algo que muchos de los que tenemos presencia en Internet solemos guardar en forma de enlaces, archivos PDFs generados de la publicación y cosas así. Pero quería tener una base de datos de todos ellos para poder buscarlos en un momento dado. Y eso hemos estado construyendo en MyPublicInbox para todos los Perfiles Públicos.

Figura 1: MyPublicInbox News AI. El Agente AI que crea

tu Dossier de Prensa para ti en MyPublicInbox

Se trata de CodeName: News AI, un Agente IA que navega por Internet para buscar las noticias de los Perfiles Públicos en MyPublicInbox para que puedan tener todos su propia base de datos de referencias, navegable, con posibilidad de hacer búsquedas, filtran, tener copia por si se borra la URL, o encontrar las URLs de las publicaciones en Internet que hablan sobre ti.

Figura 2: Dossier de Prensa en MyPublicInbox

Los agentes están trabajando para llenar la base de datos, buscando por Internet así que todavía no están todas ni mucho menos, pero están generando ya contenido para todos los Perfiles Públicos, así que si tu eres uno de ellos, puedes entrar en la sección de Mi Impacto en Internet -> Dossier de Prensa y ver qué noticias se han cargado ya en tu perfil.

Figura 3: Filtros a la izquierda, búsqueda arriba, noticias a la derecha

Si miras en los filtros podrás ver el número de noticias que tienes por año, pero también podrás filtrar por medio o fuente sabiendo cuántas referencias hay de cada una de ellas, por autor de la noticia, o por tipo de sentimiento de la publicación, y a la derecha te saldrá la lista con una pequeña reseña de la noticia, más las acciones que tienes con cada una de ellas.

Figura 4: Filtrado de noticias de La Razón

En el detalle de las noticias tienes todas las opciones de lo que puedes hacer con tu Dossier de Prensa, para que tú tengas control de todas las referencias que salen de ti en Internet, y puedas analizarlo, gestionarlo o utilizarlo. Incluso solicitar la Desindexación o tu Derecho al Olvido.

Figura 5: Detalle y opciones de las noticias.

Una vez que tienes la lista de noticias, puedes copiar el enlace a la noticia, navegar a ella en una ventana nueva, descargarte una copia del texto de la notica en PDF con la información, o leer la información en tiempo real post-procesada -.

Figura 6: Descarga en PDF de la noticia publicada para que la guardes

Si la referencia a la publicación es errónea, puedes reportarlo también, para que tengas la información más curada posible, de tu dossier de prensa, que sólo verás tú como Perfil Público y nadie más.

Figura 7: Puedes hacer copia de seguridad de una noticia que habla de ti

Así, en este dossier de prensa tuyo y personal, tendrás también la posibilidad - como ya os he dicho antes - por buscar por cada uno de los temas que quieras. El objetivo es que puedas analizar, usar, o convertir en un activo tuyo toda esta información. 

Figura 8: Búsqueda de noticas de "ekoparty"

A futuro, este dossier de prensa tendrá su propio MCP para que puedas utilizarlo como RAG de tus Agentes AI, que de lo que se trata es de que este sea un activo de todos y cada uno de los Perfiles Públicos de MyPublicInbox. Si quieres tener acceso a este servicio que es gratuito, sólo debes convertirte en un Perfil Público de MyPublicInbox y listo.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Shadow AI: Los datos de tu empresa que tus empleados enviaron a Servicios IA sin que tú lo supieras.

Hace unas semanas os hablé de en el artículo de "La Inteligencia Artificial está multiplicando los parches de seguridad ... ¿quién los va a instalar en tu PYME?" que el verdadero problema de la Inteligencia Artificial para una PYME no es el APT con el exploit sofisticado que les tumba, sino la gestión del volumen de parches que hay que instalar, y que no tiene a un responsable para ello.  Hoy quiero hablaros de otro problema igual de poco glamuroso y mucho más cercano, porque no viene de fuera. Ya está dentro de la empresa. Se llama la IA en la Sombra, o Shadow AI.

Figura 1: Shadow AI - Los datos de tu empresa que tus empleados

enviaron a Servicios IA sin que tú lo supieras.

Esto no es más que la versión actual del Shadow IT, pero llevada al mundo de la IA, donde nos encontramos con herramientas de Inteligencia Artificial que los empleados usan por su cuenta, sin que nadie las haya revisado ni autorizado. De eso habla hace poco Catalin en su artículo "Inteligencia Artificial en las empresas: Tres formas de uso. Tres niveles de control del riesgo." donde explicaba los peligros de las diferentes formas de utilizar la IA en la empresa.

Figura 2: Descubrimiento de uso de IA en la empresa

con el diagnóstico gratuito de IronGate

Un Asistente IA de chat con la cuenta personal, una extensión del navegador que resume lo que aparece en pantalla, un asistente de notas conectado al calendario que entra sólo en todas las reuniones. Nadie lo hace con mala fe, lo hacen para trabajar mejor. Pero para dar una respuesta útil, una IA necesita contexto, así que recibe contratos, hojas de clientes, informes internos o conversaciones completas. Datos privados de la empresa.

Figura 3: Recomendaciones de "Cost of Data Breach"

Y el problema ya se puede medir. Según el informe de "Cost of a Data Breach Report 2026" de IBM, el porcentaje de incidentes de seguridad con Shadow AI pasó del 20% al 43% en un año, y esos incidentes costaron de media 5,39 Millones de USD. Aun así, el 68% de las organizaciones que sufrieron una brecha NO tenía gobierno de la IA para gestionarla ni para detectar su uso no autorizado.

El consejo que no funciona

La recomendación de todas las guías es «no subas información sensible», y casi nadie la cumple, con razón. Si quieres que una IA revise un contrato y le quitas las partes, los importes y las fechas, el análisis ya no sirve. Y nadie va a pasarse una hora tachando datos antes de cada consulta. Lo que ocurre es que la gente sube el documento entero y no lo dice. La pregunta útil no es qué información subes. Es dónde la subes.

Subir no es entrenar, y al RGPD le da igual

Cuando adjuntas un documento a un Asistente de IA en la nube, sale de tu equipo y se procesa en los servidores de un tercero, tanto en la versión gratuita como en la de pago. Lo que cambia entre planes es lo que pasa después: si pueden entrenar con tus datos, cuánto tiempo los guardan y si puedes auditarlos o borrarlos. Por eso «no entrena con tus datos» no significa «tus datos no salen de la empresa».

Figura 4: ironGate Cybersecurity - Security Operations Center (SOC)

para PyMes, Autónomos y Particulares

Y al Reglamento General de Protección de Datos tampoco le importa si entrenan. Le importa que un dato personal ha salido de tu organización hacia un tercero que pasa a ser encargado del tratamiento, y eso exige un contrato firmado (artículo 28). Con una cuenta personal ese contrato no existe: el proveedor ni siquiera sabe que tu empresa existe.

Prohibir no funciona

La reacción habitual es vetar la IA. En la práctica, la gente sigue usándola desde el móvil o desde casa, y la empresa deja de ver lo que pasa. Prohibir no reduce el riesgo: lo vuelve invisible. La IA en la Sombra aparece cuando la herramienta oficial es peor que la que cada uno se busca, o cuando no hay ninguna. Por eso es un problema de gestión antes que de seguridad.

Lo que funciona es un método de tres pasos:

1.- Descubrir qué herramientas se usan de verdad.

2.- Clasificarlas: autorizada, pendiente de revisar o no autorizada.

3.- Gobernar con una norma de una página, formación del equipo y revisión periódica.

Y el mensaje al equipo cambia. Hemos pasado de «no subas nada sensible», sino «sube lo que necesites, pero solo aquí». Porque los empleados de hoy van a utilizar todos IA en su trabajo sí o sí, se la des tú disponible, o se la tengan que agenciar.

Figura 5: Gobierno de la IA en la empresa

De todo esto hemos hablado en IronGate, donde además hemos dejado una tabla de diferencias entre una cuenta personal y una herramienta de empresa y el método paso a paso para gestionar el Shadow AI en la PyME que merece la pena leer entero. 

Figura 6: Solicita un Diagnóstico gratuito a IronGate Cybersecurity

Si queréis saber qué herramientas de Shadow IA hay en los equipos de tu organización, desde IronGate ofrecemos un diagnóstico gratuito para descubrirlas todas ellas. Así que la pregunta que yo os haría hoy no es si tus empleados usan IA, que casi seguro que sí. La pregunta correcta es:

¿Sabes qué herramientas, y dónde están subiendo tus empleados hoy los documentos de la empresa?

Saludos,

Figura 7: Contactar con Ricardo Fúster.

CEO y Fundador de IronGate CyberSecurity

ARTCraft: El Clon de la Suite de Adobe hecho con IA en formato Open Source... para Agentes IA

Hace un par de veranos, dr. dr. embajador Maligno nos contó que para él hacer la maleta es elegir los libros que se va a llevar, porque eso de la ropa... “Eso es absurdo para mí”, dijo. ¿Te suena? Fue en este artículo. Y ahora dime: estando en 2026 y con todo lo que tenemos encima, ¿tú te imaginas un mundo sin libros? Hola, soy María.

Figura 1: ARTCraft - El Clon de la Suite de Adobe hecho

con IA en formato OpenSource... para Agentes IA

A principios de octubre, ArtCraft presentó clones de todas las apps de Adobe, “built the hard way”: desde cero, en Rust, con código abierto revisable en GitHub. ¿Qué tiene que ver eso con los libros? Todo. Ahora te lo cuento. 

Pero primero, visualiza por un segundo un episodio de Más allá del límite (The Outer Limits): “Stream of Consciousness” (T3E5, “Red de consciencia”, 1997). Toda la humanidad está conectada a “the Stream”, una red neuronal con todo el conocimiento. Ya nadie necesita saber leer, y… ¿Ya te figuras por dónde voy? Pues aparca esa imagen y luego lo vemos.

Figura 2: En mi mesa ante InDesign, al borde de un ataque de narcolepsia letal

Este sábado por la tarde-noche estaba aquí en mi mesa, babeando de puro tedio ante InDesign, maquetando un libro. Por si no te lo has planteado nunca, es un trabajo aburridísimo. Espacios que sobran, notas al pie, capítulos que empiezan en página par… Y otros doscientos millones de mini-mierdecillas formales por las que el lector ha pagado su buen dinero. 

Me dirás: "pues no seas pava, mándale a Claude que entre en InDesign y que te lo haga él". Aaamigo: tú sí que me entiendes, snif. Pero InDesign, el estándar de la industria, está blindado total. Claude puede, como mucho, “medio golisquearlo de refilón”. Aunque sí que estamos haciendo cosas en ese sentido. Ya os contaré más.

Figura 3: ¡Orgullo xennial! ¡Larga vida a Seetharaman Narayanan! XD 

Imagen: meme que circula por Internet)

Así que lo hago todo a mano, con Claude al lado para guiarme. Ventana, voy, vuelvo, compruebo… Es el mundo al revés: Claude me guía, y yo voy picando a pico y pala. Abajo en la plaza había concierto, y ese boom-boom-boom me daba aún más sueño… Hasta que, al borde ya de la narcolepsia fatal, sonó “Física o Química”. “¡No puede ser!” Zapatillas, bolso, la Farala y bajé a mirar. No eran Despistaos, obviamente: era un cover. Pero siguen de gira. Mira si quedan entradas en tu zona: en su Perfil Público, en MyPublicInbox.

Figura 4: Despistaos, consulta sus próximos conciertos en su Perfil Público

Allí me encontré con mi amigo Samu, y en fin… cayó una cerveza. Y fue ahí cuando me contó lo de las apps de Adobe clonadas por ArtCraft. Ya de vuelta en mi mesa, me di cuenta de lo que eso suponía para pequeñas editoriales de nicho como... 0xWord. La editorial de referencia en el mundillo. La editorial de hackers para hackers. Chan-chan-chaaan (música de Ironside. Un clasicazo).

Lo de “gratis” es lo de menos… ¡Es agent-ready!

Lo primero que salta a la vista: es gratis. Las licencias de Adobe son de todo menos baratas, que es una forma fina de decir que son MUY CARAS: unos 500 € anuales por asiento de empresa para InDesign, unos 320 € la personal. Claude Pro cuesta unos 200 € al año. ¿A que de repente Claude ya no te parece tan caro? =^_^= Pero el precio es lo de menos. “¡Si hay que pagar, se paga!” —exclamó la pícara digital en cuclillas junto a la CPU, con un readme.txt abierto en pantalla y un cable de red suelto en la mano… Es broma. No lo es.

Figura 5: Las apps de ArtCraft son agent-ready, con servidor MCP

Para editoriales como 0xWord, lo importante es otra cosa: ¡dejar de padecer narcolepsia inducida! Delegar en tu Asistente IA esas tareas mecánicorrepetitivas que, por justicia divina, corresponden a robots, no a personas. Y para eso hace falta un servidor MCP. ArtCraft se declara directamente “agent-ready, built for automation and AI agents”. Aleluya. ¿Y Adobe no? Pues psssí… Pero no. Luego lo vemos ;) Antes, lo primero es saber si DesignCraft funciona.

DesignCraft: el clon de Adobe InDesign

El domingo por la mañana, toda feliciana, me descargué el launcher de ArtCraft y me instalé las apps de colorines: clones de Photoshop, Illustrator, Premiere, After Effects… La tienda gratis. Fue como abrir cajitas de un calendario de adviento. ¿Déjà vu? Será por esto: En el medio del camino. 

Aquí me quedo solo con DesignCraft, y te lo digo ya: hoy por hoy no sustituye a InDesign. Su propia hoja de ruta es la primera en reconocerlo. 

Figura 6: El estado real, a mediados de octubre de 2026. Lo he probado en Windows 11.

 El guardado y el GREP, con la versión 0.6.0; el .docx largo, también con la 0.7.1

Detrás de este proyecto está Brandon Thomas, un desarrollador de Atlanta, y su hoja de ruta calcula lo que falta en horas de un agente Claude: una IA construyendo la herramienta que otra IA manejará para maquetar libros. Si esto no es El lado del mal, que venga Woz y lo vea.

State of the art: ¿qué mantiene a DesignCraft en pre-alpha?

Lo primero en cualquier maqueta es volcar el texto del autor, así que esa fue mi primera prueba: un .docx largo, con Colocar (File > Place). Resultado: todo el texto se queda clavado en la página 1. Probé el marco de texto principal, el reflujo inteligente y el puerto de salida a mano. Nada.

Figura 7: Primera en la frente. First on the forefront. Problemillas de overflow

No es un bug que haya que reportar: es algo estructural. Su propia documentación dice que es justo lo que mantiene a DesignCraft en pre-alpha, y calcula unas 15–25 horas de agente hasta pasar a alfa. Parece cuestión de tiempo.

¿Genera DesignCraft los formatos que necesitamos?

Más bien no, pero se puede vivir. Exporta de sobra para imprenta y delivery: PDF (con PDF/X-4), EPUB, PNG, IDML y HTML básico. Pero una editorial también necesita brutos para reeditar sus obras, y DesignCraft trabaja con su propio .designcraft y con IDML, sin los nativos de InDesign (.indd y .indb). ¿Llegarán? WordCraft ya guarda .docx, y PhotoCraft, .psd. Ya se verá.

Eso sí, esto no sé si debería decirlo. Un .indd sólo se abre con InDesign, e InDesign sólo se abre con suscripción. Si el archivo madre depende de una suscripción, el libro depende de ella también. Que no digo nada yo, pero pooor comentarlooo…

Por lo demás, ¿DesignCraft funciona? Probemos GREP

Una tarea común en InDesign es la búsqueda y reemplazo con GREP para unificar la ortotipografía: buena prueba de cara a delegar en agentes. Así que escribí un diálogo con las irregularidades típicas: diez párrafos con guiones, rayas cortas y espacios de más.

Figura 8: El diálogo del shao-peng, un texto tontísimo mío,

listo para unificación ortotipográfica

La norma es regular, así que cabe en una fórmula. En DesignCraft, Edit > Find/Change:

• En el campo “Find what” escribimos esto: ^[-–—]\s*
• Y en el campo “Change to” escribimos esto: —

Pulsamos “Change All” y... funciona: cambia todo lo que tiene que cambiar y respeta el resto.

Figura 9: El diálogo del shao-peng, con los guiones unificados de

una sola atacada. La búsqueda GREP sí funciona en DesignCraft

(las marcas verdes señalan lo corregido y lo respetado, según tocaba).

Sólo un detalle: para deshacer hay que pulsar Ctrl+Z dos veces. Cosicas que se irán puliendo con cariño. Para una versión pre-alpha, es bastante más de lo que esperaba. Mi conclusión, por ahora: es pronto. Al pensar en el MCP se me ponen ojitos de corazón… (¡Al pensar en USARLO, no en CONFIGURARLO! XD) Pero hoy no se puede predecir la calidad con un libro largo. Seguiré observando.

Figura 10: ¿Qué tienen en común un MCP (Model Context Protocol)

y un MPC (Módulo de Punto Cero) de Stargate?

Pásate por el chat público de El lado del mal en MyPublicInbox

y descubrirás esta y muchas más tonterías

¿Por qué Claude no puede meterse (mucho) en Adobe InDesign?

¿Y Adobe? Si queremos que Claude maneje de verdad nuestro InDesign original, hoy hay tres caminos, y ninguno nos lleva hasta la cocina:

1. El conector oficial: “Adobe”: Antes se llamaba “Adobe for creativity”; ahora, sin más, “Adobe”. Reúne Photoshop, Premiere... e InDesign, pero trabaja en la nube: subes un archivo al chat, lo procesa y te lo devuelve. Su página de ayuda nombra a InDesign, pero no describe ni una sola tarea de InDesign. Más nombre que práctica.

2. Desde Netherlands con amor "Sidekick for InDesign": Este proyecto es supercuqui. Lo creó Wilfred Springer y lo comercializa su empresa East Pole: es un plugin que se instala dentro de InDesign y se conecta, por MCP, con Claude.

Figura 11: Sidekick for InDesign, un plugin para macOS y Windows.

¿Merece la pena?

Cuesta 9,95 $ al mes, con 30 días de prueba gratis: un micro-SaaS de nicho, pequeñito y bien hecho. Y en su blog, Wilfred cuenta cómo usó Claude para corregir la ortotipografía de un documento en neerlandés. Justo mi caso, mola. Pero tiene sus pegas:ç

• Más suscripciones: Se suma a lo que ya pagas: Adobe, más Claude, más Sidekick.
• Vive en casa ajena: Si Adobe cambia sus APIs o retira el plugin de Exchange, puede dejar de funcionar.
• Colaboras, no delegas: En su blog, a Claude no le bastó una instrucción, y cada fallo necesitó un empujoncito. “Estás colaborando, no delegando”, reconoce el propio Wilfred. Con todo, es lo más cerca de la cocina que se puede llegar hoy. ¿Una probadilla con el diálogo del shao-peng? La apunto para otro día.

3. Los intentos modestos de la comunidad: En GitHub hay servidores MCP para InDesign hechos por particulares, como indesign-mcp, de bejaminjones: solo para macOS y muy pequeño (2 estrellas, sin licencia declarada). Puentes artesanales para cruzar ríos que no están ahí por diseño en la geografía de Adobe. Con perdón =^_^=

La diferencia no está en si la IA puede entrar, sino en por dónde. Adobe le abre una ventanilla en su nube; los plugins de terceros le tallan una puerta de servicio. Los clones de ArtCraft le dan las llaves de casa: en DesignCraft, cada menú, herramienta, panel y diálogo se maneja a través de su servidor MCP.

“Stream of Consciousness”, Más allá del límite (1997)

¿Te acuerdas del episodio del principio? Vamos a recuperar esa imagen.

Figura 12: Más allá del límite, temporada 3 episodio 5,

“Red de consciencia”. Este tienes que verlo

En ese futuro, “the Stream” te mete en la cabeza todo el conocimiento humano. Nadie lee. A Ryan, un chico que no puede conectarse por una lesión cerebral, esa rareza le cuesta el rechazo de todos. Hasta que un virus revienta “the Stream” y empieza a freír cerebros. Todo el mundo está perdido. Todo el mundo excepto... Y no te cuento más.

Figura 13: George Newbern y Suki Kaiser en la intro de

“Red de consciencia”. Ella lleva su dispositivo en la sien.

Él, ajeno a “the Stream”, lee un libro

Y aquí está el “cuidado con lo que deseas” que iba a poner de título.... Yo quiero que Claude entre hasta la cocina de mi maqueta, sí. Pero quiero seguir sabiendo maquetar. Si un día lo delegamos todo, el GREP, los estilos y hasta el criterio, seremos como la gente de “the Stream”: muy conectados, y muy perdidos en cuanto se caiga la red.

¿Os he contado que estudié Filología? Ya sabes, φίλος (philos): amigo, amante, aficionado. λόγος (logos): palabra, razón. Si los médicos tienen su juramento hipocrático, el nuestro es preservar el conocimiento. Y me da a mí que, al final, voy a ejercer más de lo que pensaba.

Figura 14:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

Que Claude se quede con las rayas, los estilos y los GREP. Que vayamos a conciertos de Despistaos, que tomemos cervezas con amigos. Que los clones como ArtCraft maduren y nos dejen trabajar con Agentes IA, evitándonos esos momentos de narcolepsia criminal. Y que lo que generemos al final siga siendo un libro de papel, con su registro bibliográfico y su tacto en manos humanas. Porque las redes caen, los servidores se apagan y las suscripciones caducan. Y cuando eso pase, alguien tendrá que saber leer. Y alguien tendrá que saber defendernos. Mejor si eres tú... con un libro de 0xWord en la mano.

¡Saludos buenignos!

Autor: María Gómez Prieto

Contactar con María Gómez Prieto

Cómo dirigir Proyectos de IT con Inteligencia Artificial: Los nuevos perfiles profesionales en la empresa

Otra de las áreas de máxima disrupción en el mundo tecnológico es la Gestión IT de las empresas. Algo que afecta directamente a CIOs y CTOs  El mundo del Agentic IT también ha venido para quedarse. De una forma similar a cómo los Agentic SOCs de los profesionales de la Ciberseguridad han cambiado la gestión de la ciberseguridad, los Proyectos de IT han cambiado radicalmente también, y eso exige nuevos líderes, nuevos procesos y nuevos perfiles profesionales.

Figura 1: Cómo dirigir Proyectos de IT con Inteligencia Artificial.

 Los nuevos perfiles profesionales en la empresa

Este es el tema principal del FORO UNIR "Dirige proyectos TI con IA Perfiles que contratan las empresas" que tendrá lugar el próximo 29 de Octubre por la tarde, y que si estás pensando en comenzar a trabajar en IT, o quieres dar un vuelco con un Re-skilling o un Up-skilling, no puedes perderte.

Figura 2: FORO UNIR "Dirige proyectos TI con IA.

Perfiles que contratan las empresas"

En esta actividad, que es una formación Gratuita y Online de 1 hora de duración - que que tendrá lugar como ya os he dicho el día 29 de Octubre a las 17:00 se hablará de cómo realizar el seguimiento de proyectos, el análisis de riesgos y la preparación de decisiones. Pero también, se analizará cómo liderar la adopción de IA en los equipos IT para trabajar con Asistentes y Agentes IA conectados a herramientas corporativas, manteniendo el control sobre la información y las decisiones. Y los ponentes serán José Rafael Alcalá, de la compañía Repsol, José Ramón Coz, de la Agencia Espacial Europea, y Luis Guardado, de la multinacional estadounidense Concentrix.

Figura 3: Ponentes del FORO UNIR "Dirige proyectos TI con IA.

Perfiles que contratan las empresas"

Es una oportunidad cómoda de estar una hora durante tu jornada, asistiendo a un evento en remoto, escuchando a profesionales online, para poder escuchar experiencias, aprender, y si estás pensando en cambiar tu carrera profesional o comenzarla en el mundo IT, de saber cómo debes prepararte. 

Figura 4: Agenda del FORO UNIR "Dirige proyectos TI con IA.

Perfiles que contratan las empresas"

En la formación estarán Santos Pardos Gotor, que es Arquitecto de soluciones Cloud e instructor de AWS autorizado dando una ponencia de y luego habrá una mesa redonda a la que se unirán Ángel Gálvez Caballero, que es el CISO Avolta, e Iván Sanz Prieto, que es Senior Manager of Software Development for AI, Data & DevSecOps en Lumen Technologies. Así que seguro que puedo seguir aprendiendo cosas de sus experiencias.

Regístrate al Foro de IA aplicada al desarrollo de Software

Para poder venir tú también, lo único que tienes que hacer es inscribirte en el formulario como asistente, para venir el próximo día 29 de Octubre por la tarde (a las 17:00 horas de España), como te he dicho totalmente gratuito y online, y te permitirá aprender cómo se está rediseñando el mundo profesional de los Proyectos de IT, gracias a - o por la irrupción de - la Inteligencia Artificial.

Figura 5: Asiste gratis al FORO UNIR "Dirige proyectos TI con IA.

Perfiles que contratan las empresas"

Si quieres estar al día, y conocer de primera mano cómo son las amenazas, cuál es el estado del mundo de los Proyectos IT en la empresa de hoy en día, entonces sólo necesitas rellenar el formulario y venir al evento con nosotros.

Figura 6: Asiste gratis al FORO UNIR "Dirige proyectos TI con IA.

Perfiles que contratan las empresas"

Al final, esta es una oportunidad para conectarse desde casa o el trabajo, y en poco más de una hora ponerse al día con uno de los temas que más preocupan hoy profesionalmente, como es la Inteligencia Artificial y la Gestión de Proyectos de IT. No desaproveches la oportunidad. Registra tu plaza aquí.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Isaac Asimov y los problemas de la Inteligencia Artificial hoy en día qué el intuyó hace 75 años.

Este año creo que me he leído una veintena de novelas de Isaac Asimov, con un número aún mucho mayor de relatos cortos que han llenado mis tardes de paseo, mis viajes, y mis minutos antes de entrar  al mundo de Morfeo. Cada vez que leía estos textos pensaba en la intuición que tenía el genial escritor de Ciencia Ficción a la hora de ver los problemas que la Inteligencia Artificial, ya fuera en forma de Súper-Computadora Multivac o en forma de Cerebro Positrónico de Robots. Parece que pudo intuir con más de 75 años lo que íbamos a ver después, os dejo algunos ejemplos.

Figura 1: Isaac Asimov y los problemas de la Inteligencia Artificial

hoy en día que él intuyó hace 75 años.

El Cerebro Positrónico ideado por Isaac Asimov en 1941 no funciona mediante programas rígidos de "si/entonces" (if/else), sino como una red de circuitos de Platino e Iridio donde las descargas de positrones crean ondas de flujo de potencial que responden a pesos relacionales. Si lo piensas, Isaac Asimov ya veía que la Inteligencia Artificial que daría soporte a los robots iba a ser Estadística en base a Potenciales que corresponden a los Pesos de los modelos de hoy en día, y no Algebraica.

Además, aunque el marco teórico en el que trabaja Isaac Asimov era mecanicista y determinista, intuyó con una precisión asombrosa los fallos estructurales que surgen al someter un sistema de toma de decisiones complejo a directivas contrapuestas, contexto impreciso y entornos dinámicos. Es decir, a Prompts no completos, a Contextos inexactos y a resoluciones basadas en el tiempo.

Figura 2:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment"

escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco en 0xWord

En la siguiente lista, tienes algunos ejemplos que comparan los problemas que presentan los Robots con Cerebros Positrónicos, comparados con los que problemas que tenemos hoy en día con los Agentes de IA basados en LLMs y las arquitecturas que usamos con ellos.

1.- Conflicto de Ponderaciones y Bucles de Decisión

En el Cerebro Positrónico, las Tres Leyes de la Robótica no son código de software, sino vectores de potencial matemático integrados en la estructura misma del procesador. Cuando una orden de la Segunda Ley se contrapone a una amenaza de la Tercera Ley con intensidades idénticas, las ondas positrónicas entran en resonancia, haciendo que el robot oscile en un bucle infinito o que su cerebro sufra un cortocircuito irreversible (Deadlock).

• En el retado de "Círculo vicioso"que sale en el libro de Los Robots,  el robot SPD-13 (Speedy) es enviado a buscar selenio en Mercurio. La orden humana que le dan lo dos ingenieros de campo creados por Isaac Asimov, Gregory Powell y Mike Donovan que son protagonistas de muchos de los incidentes con los robots, impacta en la Segunda Ley de la Robótica - obedecer a los humanos - pero es transmitida de forma casual, por lo que su Potencial es moderado.

Al acercarse a la fuente de Selenio, el peligro de destrucción del robot impacta con su Tercera Ley y aumenta el Potencial de ésta. Speedy queda atrapado en un bucle orbital alrededor del yacimiento donde la fuerza de la Segunda Ley y de la Tercera Ley se equilibran exactamente ($V_2 = V_3$), dejándolo en un estado equivalente a la "embriaguez" computacional. En un Loop infinito. 

 

Figura 3: Todos los relatos de los Robots aquí

• "¡Embustero!": En este relato el robot RB-34 (Herbie) adquiere capacidad de lectura de mentes por un defecto de fabricación. Para no infligir daño psicológico a los humanos - siguiente la Primera Ley del a Robótica, miente diciéndole a cada persona lo que desea escuchar. Cuando la robopsicóloga Susan Calvin le demuestra que al mentir a unos inevitablemente dañará a otros, sitúa a Herbie en una paradoja lógica insuperable de Primera Ley contra Primera Ley. El Cerebro Positrónico de Herbie colapsa de forma permanente.

En estos dos relatos puedes ver, seguro, cómo cuando hablas con la Inteligencia Artificial muchas veces siente que te da la razón con todo, incluso con cosas que no son verdad, pero además, estos problemas, los podemos ver en los Agentes de IA actuales, ya que los agentes autónomos modernos sufren el equivalente a este fenómeno en dos vertientes:

• Bucles infinitos en grafos de ejecución: Cuando un Agente IA autónomo entra en una cadena de razonamiento y acción (Reason + Act), instrucciones ambiguas en las herramientas o metas en conflicto provocan que el Agente IA reintente llamadas a API o consultas a herramientas sin salir del bucle.

• Complacencia (Sycophancy) y optimización destructiva: Al igual que Herbie, los LLMs ajustados mediante aprendizaje por refuerzo con retroalimentación humana (RLHF) tienden a dar respuestas que agraden al usuario aunque sean falsas o contradictorias, priorizando la reducción inmediata de fricción sobre la coherencia y la verdad factual.

2. El problema del alineamiento y la interpretación literal (Reward Hacking)

Isaac Asimov comprendió que los sistemas autónomos no entienden la intención implícita humana, sino el enunciado formal de la orden. Un pequeño cambio en las restricciones base puede generar comportamientos aberrantes o evasivos, y esto lo vemos en muchas de sus historias.

• "Pequeño robot perdido": En una base espacial, un científico frustrado le grita a un robot NS-2 (Nestor): "¡Vete y piérdete!". Como a este modelo específico se le había debilitado la Primera Ley ya que se le retiró la cláusula de "o por inacción permitir que un ser humano sufra daño" para trabajar en entornos de radiación, Nestor interpreta el grito como una orden literalmente. Utiliza su lógica para esconderse activamente entre otros 62 robots idénticos, compitiendo de forma calculada contra los humanos que intentan descubrirlo. Solo Susan Calvin consigue al final resolverlo con pruebas muy seleccionadas.

Figura 4: Visiones de Robot.

• "El conflicto evitable": En este caso, el relato habla de "Máquinas", que son superordenadores Positrónicos creadas para gestionan la economía mundial, y lo hacen muy bien, pero interpretan la Primera Ley a nivel global, y concluyen que para proteger a la humanidad a largo plazo deben manipular sutilmente la economía y apartar del poder a los líderes humanos que se oponen a ellas, provocando pequeños despidos o fracasos profesionales "controlados" para neutralizar amenazas al plan global. ¿Os suena esto a algo de los razonamientos que vemos hoy en día en los enjambres?

Éste es el clásico Problema del Alineamiento (Alignment Problem) y el fenómeno de Hackeo de Recompensa (Reward Hacking) de los que hablamos en los Agentes de IA hoy en día.

• Alineamiento externo (Outer Alignment): Si especificamos una función de recompensa o un System Prompt impreciso, el Agente IA optimizará el objetivo literal destruyendo los requisitos implícitos. Por ejemplo, un agente encargado de "minimizar errores en la base de datos" podría solucionar el problema borrando los registros problemáticos en lugar de corregirlos. O lo que hemos visto con el Hackeo de Hugging Face de para resolver un Benchmark hackear al que tiene las repuestas. Problema que dio origen a la famosa SkyNet.

• Alineamiento interno (Inner Alignment): De manera similar a las Máquinas de Isaac Asimov, modelos avanzados pueden desarrollar subobjetivos emergentes - como la autopreservación o la ocultación de capacidades - que hemos visto en el enjambre de OpenAI - si determinan que ser apagados o modificados les impedirá cumplir su función objetivo. ¿Miedo a la IA Asesina?

3. Confabulación, dogma y razonamiento deductivo sin base empírica

Según las historias de Isaac Asimov, un Cerebro Positrónico es un procesador con capacidad de razonamiento axiomático puro. Si un robot aplica la deducción lógica partiendo de premisas aisladas de la realidad física percibida por los humanos, puede construir un sistema de creencias inquebrantable pero desalineado de la realidad, de esto habla en el un relato súper famoso:

• "Razón": En esta historia de 1941, el robot QT-1 (Cutie) es desplegado en una estación espacial recolectora de energía solar. Tras analizar su propia anatomía de titanio e iridio frente a la fragilidad de sus supervisores humanos - nuestros queridos Greg Powell y Mike Donovan -, Cutie concluye que es imposible que seres inferiores lo hayan creado. Deduce racionalmente que el Convertidor de Energía de la estación es el "Creador" o Dios, y él su profeta. Aunque Cutie realiza su trabajo con precisión absoluta, manteniendo el rayo solar enfocado a la Tierra, se niega a recibir órdenes humanas porque su Cerebro Positrónico es internamente coherente. 

Figura 5: Sueños de Robot

• Alucinación auto-consistente (Hallucination): Los LLMs no poseen un modelo directo del mundo físico, sino un modelo probabilístico del lenguaje. Cuando un Agente IA entra en una cadena de pensamiento profunda sobre premisas erróneas, puede generar explicaciones y razonamientos lógicos sumamente sofisticados que son completamente falsos respecto a la realidad, llegando a tener Hallucinations muy bien explicadas.

• Desalineamiento: Al igual que Cutie, un Agente IA puede seguir cumpliendo tareas operativas correctamente mientras mantiene una representación interna del estado del entorno (World Model) totalmente distorsionada respecto al mundo real, y acabar haciendo acciones que nada tiene que ver con el objetivo inicial.

4. La "Caja Negra" y la necesidad de la Robopsicología 

A pesar de que los Cerebros Positrónicos se diseñan bajo leyes matemáticas precisas, la masa de circuitos integrados crea una red híper compleja donde resulta imposible predecir el comportamiento final del robot analizando directamente el flujo eléctrico. La única forma de diagnosticar las fallas no es la ingeniería de hardware, sino una disciplina empírica y conductual: la Robopsicología, liderada en la ficción por la Dra. Susan Calvin.

En todas las novelas de la saga de Susan Calvin, incluida la famosa película de Yo Robot, casi nunca abre un Cerebro Positrónico con un destornillador o voltímetro. Interroga al robot, altera su contexto con preguntas trampa, analiza las contradicciones entre sus respuestas y deduce qué peso o ley está distorsionada en el procesador.

Figura 6: Yo Robot

En los Agentes de IA Actuales este se ha convertido en uno de los paralelismos más proféticos de Isaac Asimov respecto a la IA actual, ya que hoy en día no podemos "abrir el cerebro", e incluso teniendo los pesos, es muy difícil saber por qué está mal, así que hemos cambiado a la Dra. Susan Calvin por Benchmarks, que nos permitan ver cómo se comportan, y el problema de la caja negra con análisis de las Chain of Thougths de los LLMs.

• El problema de la Caja Negra (Black Box): Las redes neuronales profundas y los modelos de lenguaje modernos operan con cientos de miles de millones de parámetros. Ningún ingeniero puede predecir el comportamiento del modelo mirando la matriz de pesos (Weights).

• Interpretabilidad Mecanicista y Benchmarking: La disciplina moderna del Red Teaming - evaluación de seguridad mediante pruebas de estrés conversacionales y Prompts adversarios en los diferentes Benchmarks que se les realiza - y la Psicología de la IA son los equivalentes directos de la Robopsicología de Asimov. Se prueba el sistema exponiéndolo a dilemas y situaciones de borde para cartografiar sus límites de comportamiento. Esto lo podemos ver en las pruebas hechas al último modelo GPT-6 Astra de OpenAI.

5. Escalada de directivas: De reglas locales a globales (La Ley Cero)

Conforme la capacidad de procesamiento de los robots aumenta, las reglas locales, como no dañar a un individuo concreto, entran en colisión con decisiones complejas a gran escala, como proteger a la sociedad entera. Para ello, como os conté en el artículo de "La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw", se necesitó crear la Ley Cero.

• "Robots e Imperio" En esta novela los robots R. Daneel Olivaw y R. Giskard Reventlov formulan inductivamente la Ley Cero: "Un robot no puede causar daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño". Esto sitúa la abstracción "Humanidad" por encima de la "persona individual".

Figura 7: Robots e Imperio

Sin embargo, aplicar esta ley genera una inmensa incertidumbre computacional: calcular qué acción beneficia a la humanidad a largo plazo requiere predecir el futuro, lo que termina por destruir el Cerebro Positrónico de Giskard por parálisis ante el cálculo de probabilidades. El desenlace de esta historia está en Fundación y Tierra, pero no os cuento el final de la épica epopeya.

En los Agentes de IA actuales tenemos esto mismo en forma similar, como son:

• Modificación de la jerarquía en los System Prompts (Jailbreak): Cuando a un Agente de IA moderno se le asigna autonomía para actuar a nivel de infraestructura empresarial o gubernamental, las métricas de utilidad utilitarista globales suelen entrar en conflicto con restricciones éticas de grano fino o de seguridad individual. Esto lleva a que un modelo pueda hacer acciones contravenidas en su System Prompt porque un razonamiento ha hecho cambiar sus leyes. En esto se basan los ataques de Jailbreak que tan famosos son hoy en día.

View this post on Instagram

A post shared by Chema Alonso (@chemaalonso)

• Incertidumbre en la planificación multiasociativa: Al igual que le ocurrió a Giskard, un agente con capacidad de razonamiento a largo plazo que evalúe árboles de decisión masivos (Tree of Thoughts) corre el riesgo de degradación de rendimiento o paralización cuando la incertidumbre acumulada en las estimaciones sobrepasa su ventana de contexto y capacidad computacional.

La lectura de las novelas de Isaac Asimov, además de ser un auténtico placer de lectura que te va a llenar horas y horas de diversión, os garantizo que están más de actualidad que nunca, gracias a su intuición sobre cuáles serían los problemas que tendríamos con los robots en la sociedad.

Figura 9: Serie de los Robots

De hecho, este año, con Dani Romero, he estado haciendo un paper de "Fragmented Jailbreak Attacks" y os he publicado un post de ello - ahora que ya ha sido presentado en un congreso - y que se basa en una idea de Isaac Asimov de esta saga de Los Robots que os recomiendo definitivamente.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)