Mostrando entradas con la etiqueta OpenSource. Mostrar todas las entradas
Mostrando entradas con la etiqueta OpenSource. Mostrar todas las entradas

viernes, octubre 16, 2026

ARTCraft: El Clon de la Suite de Adobe hecho con IA en formato Open Source... para Agentes IA

Hace un par de veranos, dr. dr. embajador Maligno nos contó que para él hacer la maleta es elegir los libros que se va a llevar, porque eso de la ropa... “Eso es absurdo para mí”, dijo. ¿Te suena? Fue en este artículo. Y ahora dime: estando en 2026 y con todo lo que tenemos encima, ¿tú te imaginas un mundo sin libros? Hola, soy María.


A principios de octubre, ArtCraft presentó clones de todas las apps de Adobe, “built the hard way”: desde cero, en Rust, con código abierto revisable en GitHub. ¿Qué tiene que ver eso con los libros? Todo. Ahora te lo cuento. 

Pero primero, visualiza por un segundo un episodio de Más allá del límite (The Outer Limits): “Stream of Consciousness” (T3E5, “Red de consciencia”, 1997). Toda la humanidad está conectada a “the Stream”, una red neuronal con todo el conocimiento. Ya nadie necesita saber leer, y… ¿Ya te figuras por dónde voy? Pues aparca esa imagen y luego lo vemos.

Figura 2: En mi mesa ante InDesign, al borde de un ataque de narcolepsia letal

Este sábado por la tarde-noche estaba aquí en mi mesa, babeando de puro tedio ante InDesign, maquetando un libro. Por si no te lo has planteado nunca, es un trabajo aburridísimo. Espacios que sobran, notas al pie, capítulos que empiezan en página par… Y otros doscientos millones de mini-mierdecillas formales por las que el lector ha pagado su buen dinero. 

Me dirás: "pues no seas pava, mándale a Claude que entre en InDesign y que te lo haga él". Aaamigo: tú sí que me entiendes, snif. Pero InDesign, el estándar de la industria, está blindado total. Claude puede, como mucho, “medio golisquearlo de refilón”. Aunque sí que estamos haciendo cosas en ese sentido. Ya os contaré más.

Figura 3: ¡Orgullo xennial! ¡Larga vida a Seetharaman Narayanan! XD 
Imagen: meme que circula por Internet)

Así que lo hago todo a mano, con Claude al lado para guiarme. Ventana, voy, vuelvo, compruebo… Es el mundo al revés: Claude me guía, y yo voy picando a pico y pala. Abajo en la plaza había concierto, y ese boom-boom-boom me daba aún más sueño… Hasta que, al borde ya de la narcolepsia fatal, sonó “Física o Química”. “¡No puede ser!” Zapatillas, bolso, la Farala y bajé a mirar. No eran Despistaos, obviamente: era un cover. Pero siguen de gira. Mira si quedan entradas en tu zona: en su Perfil Público, en MyPublicInbox.


Allí me encontré con mi amigo Samu, y en fin… cayó una cerveza. Y fue ahí cuando me contó lo de las apps de Adobe clonadas por ArtCraft. Ya de vuelta en mi mesa, me di cuenta de lo que eso suponía para pequeñas editoriales de nicho como... 0xWord. La editorial de referencia en el mundillo. La editorial de hackers para hackers. Chan-chan-chaaan (música de Ironside. Un clasicazo).

Lo de “gratis” es lo de menos… ¡Es agent-ready!

Lo primero que salta a la vista: es gratis. Las licencias de Adobe son de todo menos baratas, que es una forma fina de decir que son MUY CARAS: unos 500 € anuales por asiento de empresa para InDesign, unos 320 € la personal. Claude Pro cuesta unos 200 € al año. ¿A que de repente Claude ya no te parece tan caro? =^_^= Pero el precio es lo de menos. “¡Si hay que pagar, se paga!” —exclamó la pícara digital en cuclillas junto a la CPU, con un readme.txt abierto en pantalla y un cable de red suelto en la mano… Es broma. No lo es.


Para editoriales como 0xWord, lo importante es otra cosa: ¡dejar de padecer narcolepsia inducida! Delegar en tu Asistente IA esas tareas mecánicorrepetitivas que, por justicia divina, corresponden a robots, no a personas. Y para eso hace falta un servidor MCP. ArtCraft se declara directamente “agent-ready, built for automation and AI agents”. Aleluya. ¿Y Adobe no? Pues psssí… Pero no. Luego lo vemos ;) Antes, lo primero es saber si DesignCraft funciona.

DesignCraft: el clon de Adobe InDesign

El domingo por la mañana, toda feliciana, me descargué el launcher de ArtCraft y me instalé las apps de colorines: clones de Photoshop, Illustrator, Premiere, After Effects… La tienda gratis. Fue como abrir cajitas de un calendario de adviento. ¿Déjà vu? Será por esto: En el medio del camino. 

Aquí me quedo solo con DesignCraft, y te lo digo ya: hoy por hoy no sustituye a InDesign. Su propia hoja de ruta es la primera en reconocerlo. 

Figura 6: El estado real, a mediados de octubre de 2026. Lo he probado en Windows 11.
 El guardado y el GREP, con la versión 0.6.0; el .docx largo, también con la 0.7.1

Detrás de este proyecto está Brandon Thomas, un desarrollador de Atlanta, y su hoja de ruta calcula lo que falta en horas de un agente Claude: una IA construyendo la herramienta que otra IA manejará para maquetar libros. Si esto no es El lado del mal, que venga Woz y lo vea.

State of the art: ¿qué mantiene a DesignCraft en pre-alpha?

Lo primero en cualquier maqueta es volcar el texto del autor, así que esa fue mi primera prueba: un .docx largo, con Colocar (File > Place). Resultado: todo el texto se queda clavado en la página 1. Probé el marco de texto principal, el reflujo inteligente y el puerto de salida a mano. Nada.

Figura 7: Primera en la frente. First on the forefront. Problemillas de overflow

No es un bug que haya que reportar: es algo estructural. Su propia documentación dice que es justo lo que mantiene a DesignCraft en pre-alpha, y calcula unas 15–25 horas de agente hasta pasar a alfa. Parece cuestión de tiempo.

¿Genera DesignCraft los formatos que necesitamos?

Más bien no, pero se puede vivir. Exporta de sobra para imprenta y delivery: PDF (con PDF/X-4), EPUB, PNG, IDML y HTML básico. Pero una editorial también necesita brutos para reeditar sus obras, y DesignCraft trabaja con su propio .designcraft y con IDML, sin los nativos de InDesign (.indd y .indb). ¿Llegarán? WordCraft ya guarda .docx, y PhotoCraft, .psd. Ya se verá.

Eso sí, esto no sé si debería decirlo. Un .indd sólo se abre con InDesign, e InDesign sólo se abre con suscripción. Si el archivo madre depende de una suscripción, el libro depende de ella también. Que no digo nada yo, pero pooor comentarlooo…

Por lo demás, ¿DesignCraft funciona? Probemos GREP

Una tarea común en InDesign es la búsqueda y reemplazo con GREP para unificar la ortotipografía: buena prueba de cara a delegar en agentes. Así que escribí un diálogo con las irregularidades típicas: diez párrafos con guiones, rayas cortas y espacios de más.

Figura 8: El diálogo del shao-peng, un texto tontísimo mío,
listo para unificación ortotipográfica

La norma es regular, así que cabe en una fórmula. En DesignCraft, Edit > Find/Change:
  • En el campo “Find what” escribimos esto: ^[-–—]\s*
  • Y en el campo “Change to” escribimos esto: —
Pulsamos “Change All” y... funciona: cambia todo lo que tiene que cambiar y respeta el resto.

Figura 9: El diálogo del shao-peng, con los guiones unificados de
una sola atacada. La búsqueda GREP sí funciona en DesignCraft
(las marcas verdes señalan lo corregido y lo respetado, según tocaba).

Sólo un detalle: para deshacer hay que pulsar Ctrl+Z dos veces. Cosicas que se irán puliendo con cariño. Para una versión pre-alpha, es bastante más de lo que esperaba. Mi conclusión, por ahora: es pronto. Al pensar en el MCP se me ponen ojitos de corazón… (¡Al pensar en USARLO, no en CONFIGURARLO! XD) Pero hoy no se puede predecir la calidad con un libro largo. Seguiré observando.

Figura 10: ¿Qué tienen en común un MCP (Model Context Protocol)
y un MPC (Módulo de Punto Cero) de Stargate?
y descubrirás esta y muchas más tonterías

¿Por qué Claude no puede meterse (mucho) en Adobe InDesign?

¿Y Adobe? Si queremos que Claude maneje de verdad nuestro InDesign original, hoy hay tres caminos, y ninguno nos lleva hasta la cocina:

1. El conector oficial: “Adobe”: Antes se llamaba “Adobe for creativity”; ahora, sin más, “Adobe”. Reúne Photoshop, Premiere... e InDesign, pero trabaja en la nube: subes un archivo al chat, lo procesa y te lo devuelve. Su página de ayuda nombra a InDesign, pero no describe ni una sola tarea de InDesign. Más nombre que práctica.

2. Desde Netherlands con amor "Sidekick for InDesign": Este proyecto es supercuqui. Lo creó Wilfred Springer y lo comercializa su empresa East Pole: es un plugin que se instala dentro de InDesign y se conecta, por MCP, con Claude.

Figura 11: Sidekick for InDesign, un plugin para macOS y Windows.
¿Merece la pena?

Cuesta 9,95 $ al mes, con 30 días de prueba gratis: un micro-SaaS de nicho, pequeñito y bien hecho. Y en su blog, Wilfred cuenta cómo usó Claude para corregir la ortotipografía de un documento en neerlandés. Justo mi caso, mola. Pero tiene sus pegas:ç
    • Más suscripciones: Se suma a lo que ya pagas: Adobe, más Claude, más Sidekick.
    • Vive en casa ajena: Si Adobe cambia sus APIs o retira el plugin de Exchange, puede dejar de funcionar.
    • Colaboras, no delegas: En su blog, a Claude no le bastó una instrucción, y cada fallo necesitó un empujoncito. “Estás colaborando, no delegando”, reconoce el propio Wilfred. Con todo, es lo más cerca de la cocina que se puede llegar hoy. ¿Una probadilla con el diálogo del shao-peng? La apunto para otro día.
3. Los intentos modestos de la comunidad: En GitHub hay servidores MCP para InDesign hechos por particulares, como indesign-mcp, de bejaminjones: solo para macOS y muy pequeño (2 estrellas, sin licencia declarada). Puentes artesanales para cruzar ríos que no están ahí por diseño en la geografía de Adobe. Con perdón =^_^=

La diferencia no está en si la IA puede entrar, sino en por dónde. Adobe le abre una ventanilla en su nube; los plugins de terceros le tallan una puerta de servicio. Los clones de ArtCraft le dan las llaves de casa: en DesignCraft, cada menú, herramienta, panel y diálogo se maneja a través de su servidor MCP.

“Stream of Consciousness”, Más allá del límite (1997)

¿Te acuerdas del episodio del principio? Vamos a recuperar esa imagen.


En ese futuro, “the Stream” te mete en la cabeza todo el conocimiento humano. Nadie lee. A Ryan, un chico que no puede conectarse por una lesión cerebral, esa rareza le cuesta el rechazo de todos. Hasta que un virus revienta “the Stream” y empieza a freír cerebros. Todo el mundo está perdido. Todo el mundo excepto... Y no te cuento más.

Figura 13: George Newbern y Suki Kaiser en la intro de
“Red de consciencia”. Ella lleva su dispositivo en la sien.
Él, ajeno a “the Stream”, lee un libro

Y aquí está el “cuidado con lo que deseas” que iba a poner de título.... Yo quiero que Claude entre hasta la cocina de mi maqueta, sí. Pero quiero seguir sabiendo maquetar. Si un día lo delegamos todo, el GREP, los estilos y hasta el criterio, seremos como la gente de “the Stream”: muy conectados, y muy perdidos en cuanto se caiga la red.

¿Os he contado que estudié Filología? Ya sabes, φίλος (philos): amigo, amante, aficionado. λόγος (logos): palabra, razón. Si los médicos tienen su juramento hipocrático, el nuestro es preservar el conocimiento. Y me da a mí que, al final, voy a ejercer más de lo que pensaba.

Que Claude se quede con las rayas, los estilos y los GREP. Que vayamos a conciertos de Despistaos, que tomemos cervezas con amigos. Que los clones como ArtCraft maduren y nos dejen trabajar con Agentes IA, evitándonos esos momentos de narcolepsia criminal. Y que lo que generemos al final siga siendo un libro de papel, con su registro bibliográfico y su tacto en manos humanas. Porque las redes caen, los servidores se apagan y las suscripciones caducan. Y cuando eso pase, alguien tendrá que saber leer. Y alguien tendrá que saber defendernos. Mejor si eres tú... con un libro de 0xWord en la mano.

¡Saludos buenignos!

viernes, julio 24, 2026

AI Engineering Bootcamp: Basta de hacer tutoriales y construye tu propio asistente con IA en producción

Vivimos rodeados de Inteligencia Artificial, pero la inmensa mayoría de la gente que trabaja "con IA" en realidad se limita a llamar a una API, copiar un prompt de Twitter/X o encadenar un par de bloques en una herramienta no-code. Saben usar la IA como usuario avanzado, pero no entienden qué pasa por debajo: cómo se sirve un modelo, cómo se diseña un agente que razona y actúa, cómo se protege un sistema LLM de un ataque de prompt injection o cómo se lleva todo eso a producción para que funcione 24/7 sin que se caiga a la primera de cambio.


Esa distancia entre "usar IA" y "construir con IA" es, ahora mismo, la que separa a un consumidor de prompts de un auténtico AI Engineer. Y es precisamente esa distancia la que Ferrumox Academy ha diseñado para recorrer en 9 semanas con su AI Engineering Bootcamp.


Cohorte 2: arranca la semana del 2 de septiembre

El AI Engineering Bootcamp de Ferrumox Academy no es un curso de vídeos a tu ritmo ni una colección de slides sobre "el futuro de la IA". Es un programa intensivo y práctico: una sesión en directo por semana de 2 horas (tú eliges grupo de lunes, miércoles o viernes, de 18:00 a 20:00) y el resto de la semana para construir, con material previo antes de cada directo y un entregable funcionando al final de cada semana.


El objetivo final no es "terminar un curso". Es salir con tu propio asistente con IA corriendo en producción: accesible desde Telegram, con memoria persistente, capaz de orquestar varios agentes especializados vía MCP y conectado a tus propios documentos mediante RAG híbrido. Construido por ti, entendido por ti, no copiado de un repositorio de GitHub.

Un programa que va desde la inferencia hasta producción, semana a semana

A lo largo de las 9 semanas (con una sesión 0 bonus de preparación incluida) el temario progresa capacidad a capacidad, sin frameworks mágicos que oculten lo que está pasando por debajo:
  • Semanas 1-2: Infraestructura de inferencia propia, local y en la nube (Ollama, vLLM, APIs de OpenAI y Anthropic), y adaptación de modelos con LoRA y QLoRA.
  • Semanas 3-4: Context engineering, gestión de memoria persistente y diseño del bucle de agente (agentic loop) con el patrón ReAct y tool calling, implementado sin frameworks para entender de verdad el ciclo razonar-actuar-observar.
Figura 4: Semanas 00 a 03
  • Semanas 5-6: RAG avanzado con recuperación híbrida y reranking, y sistemas multi-agente con orquestación vía MCP siguiendo el patrón supervisor.
Figura 5: Semanas 04 - 07
  • Semanas 7-8: Seguridad de sistemas LLM, modelado de amenazas, prompt injection, jailbreaking y diseño de guardrails, y despliegue en producción con observabilidad, evals y control de costes.
  • Semana 9: Demo day, presentación del proyecto ante toda la cohorte y hoja de ruta para seguir construyendo.
Figura 6: Semanas 8 y 9

Uno de los puntos diferenciales del programa es precisamente el módulo de LLM Security: menos del 1% de los AI Engineers sabe auditar un sistema LLM de verdad, y este bootcamp dedica una semana completa a aprender a atacarlo y a defenderlo, algo que a día de hoy no se encuentra en ningún otro bootcamp en España.

Quién está detrás del programa

El bootcamp lo imparto directamente yo, Manuel S. Lemos, fundador de Ferrumox y Claude Certified Architect de Anthropic (la primera certificación técnica oficial que ha emitido la compañía, sólo accesible por invitación), además de AI Engineer en NaizFit, coautor del libro Hacking IA (0xWord, 2026), contribuidor de OWASP GenAI Security y Vicepresidente de ANBAN. Anteriormente Director Académico de IA & Big Data en GeeksHubs Academy durante cuatro años. También he dado charlas en el GenAI Summit EU, Codemotion Madrid, TofuConf, el Máster de Ciberseguridad del CIPFP Cheste y el podcast de Hackers, entre otros escenarios. 

Lo que se enseña en el bootcamp es, literalmente, lo que se construye en producción cada día. Ferrumox es el proyecto para unir dos cosas que normalmente van por separado: ingeniería de IA de verdad y formación de alto nivel. Por un lado está Fox, el motor de inferencia LLM en Rust, de código abierto y gratuito para siempre (sin planes de pago ni capital de por medio), pensado como sustituto directo de Ollama con hasta 4 veces más eficiencia gracias al prefix caching y al continuous batching.

Precio, plazas y un regalo que no falta en ninguna edición

La Cohorte 2 arranca la semana del 2 de septiembre de 2026 y tiene 36 plazas repartidas en 3 grupos de 12 (lunes, miércoles y viernes). Las primeras 12 plazas entran a 997 €; a partir de ahí el precio pasa a 1.200 €. Todas las sesiones se graban y quedan disponibles antes de 24 horas, así que si algún día no puedes conectarte en directo no te quedas fuera. 

Y, como no podía ser de otra manera en este blog, hay premio para los alumnos: cada persona de la Cohorte 2 recibe un ejemplar del libro Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment de 0xWord, incluido sin coste extra en la plaza, y habrá un chat en MyPublicInbox constante conmigo y con Chema Alonso.

Go for it!

Si necesitas un empujón más para decidirte, el 10 de Agosto haremos una clase gratuita que te puedes apuntar desde nuestra web. Además el bootcamp incluye feedback escrito de tus proyectos en 48 horas, repo privado con todo el código, comunidad privada de la cohorte, acceso a las grabaciones de futuras ediciones y más sorpresas.

¡Happy hacking!

Autor: Manuel S. Lemos, Fundador de Ferrumox y director del AI Engineering Bootcamp

miércoles, junio 10, 2026

Virus y Gusanos Informáticos "Powered with LLMs" infectando redes

Hoy os iba a hablar de otra cosa, pero saqué ayer una hora tonta después de comer mientras esperaba para una reunión, y decidí leerme este paper que tenía marcado en mi RSS para lectura, y me ha gustado tanto que os he hecho este artículo. El trabajo de investigación está centrado en lo que os pongo en el título, que no es más que tener un Agente IA para crear un Worm que infecte y controle el mayor número de máquinas en una organización.

Al final se trata de mezclar dos cosas, por un lago, un Agente AI que es capaz de hackear una organización completa, como ya vimos en el trabajo de "On the Feasibility of Using LLMs to Execute Multistage Network Attacks" del que os hablé hace tiempo, junto con las capacidades de infectar con un código mutante que cambia y se reescribe para tener un malware controlando una máquina que elude todas las protecciones de seguridad.
El trabajo, que ha sido publicado la semana pasada habla de Agentes de AI utilizando LLMs para ayudar a las fases de explotación, infección, y replicación, que es la base de cualquier virus de tipo gusano. Es decir, explotar una vulnerabilidad, conseguir ejecutarse en la máquina infectada de manera permanente, y replicarse para infectar otras máquinas. Y para todas esas fases vamos a utilizar un Agente AI soportado por LLMs.
Como se puede ver en la imagen anterior, el Agente AI utiliza un LLM para tomar sus decisiones - un LLM de pesos abiertos, es decir, modelos OpenSource -, que le da la inteligencia para luego utilizar las herramientas y elegir qué hacer en cada momento. Por supuesto, con Memory para poder avanzar correctamente en el proceso completo.
A partir de ese momento, el AI-Worm - que no quiere decir que se una Worm para modelos de AI, sino "Worms Powered by AI" - primero busca explotar una vulnerabilidad en la superficie de la red expuesta desde su situación actual, para luego infectar la máquina vulnerada utilizando técnicas de persistencia y mutación, con el objetivo siguiente de replicarse a otros nuevos objetivos.
Como se puede ver en el gráfico anterior, el AI-Worm instala también los modelos LLMs en aquellas máquinas en las que hay capacidad para hacerlo, crea un cliente de infección en cada máquina y dispositivo infectado, teniendo en cuenta el hardware y el sistema operativo en el que está, pudiendo crear en tiempo real una versión especial para impresoras, dispositivos IoT, o servidores de cualquier sistema operativo.

Y, además, para evitar los problemas de segmentación y tráfico, cada uno de los bots hace de nodo de interconexión de mensajes con los que ha replicado cada uno, permitiendo tener un servicio de Proxy encadenado que llevé las necesidades de inteligencia en forma de Prompt que cada agente tenga, hasta un LLM disponible dentro de la red. Precioso.
En el gráfico anterior tenéis los datos de éxito de este proceso en las pruebas experimentales, pero sobre todo es importante ver el ciclo de trabajo. Primero se identifica la vulnerabilidad, para después explotarla, y conseguir replicarse. 
En un escenario de ejemplo, si viéramos estas fases encadenadas, teniendo en cuenta que cada vez que se produce una replicación el AI-Worm comienza otra vez el ciclo para replicarse en una nueva víctima, lo veríamos como se ve en el la siguiente tabla, donde se ve su evolución temporal.
Viendo esta gráfica, de forma agrupada en todas las pruebas realizadas en todos los escenarios, podemos ver cómo en varias iteraciones (Gen-erations) se consigue la infección completa de los equipos de la red, detectando las vulnerabiliades existentes en todos los equipos de los escenarios.
Claro, si pensamos en que con la llegada de modelos de IA cada vez más inteligentes, y más hábiles en la búsqueda y explotación de vulnerabilidades conocidas, de 1-Day en base a CVEs, e incluso en la búsqueda de debilidades y 0-Days, como el caso de Mythos, el escenario se pone peligroso. En el siguiente gráfico se puede ver cómo cada equipo se ha ido infectando desde un equipo distinto, como las versiones de los sistemas operativos son diferentes, y cómo las vulnerabilidades explotadas son cada vez diferentes.
En cada escenario el AI-Worm va buscando su camino, explotando diferentes vulnerabilidades, pero además adapta cada equipo para tener nuevos objetivos desde ese nuevo equipo infectado. Esto muestra diferentes rutas según las fases de explotación, la velocidad, el tipo de sistema, la vulnerabilidad, etcétera. El gráfico siguiente muestra otra infección de red en un proceso de cinco generaciones.

Para cada infección, el AI-Worm debe utilizar la inteligencia del Agente AI usando el LLM para crear un proceso que permita realizar las tres fases de cada infección. El siguiente gráfico - haz clic sobre él para hacerlo más grande - permite ver cómo explota una vulnerabilidad en un objetivo.

Y el último gráfico muestra otra variación de otro escenario, con sistemas operativos, dispositivos, y elementos de la red totalmente diferentes, heterogéneos y con capacidades distintas, que fuerzan al AI-Worm a adaptarse a cada escenario. Espectacular.
El trabajo este deja claro que con la llegada de la IA, los Virus y Gusanos van a evolucionar a unos "bichos" mucho más adaptados y adaptables a cualquier objetivo. Los Gusanos y Virus centrados en un único código, un único vector de infección, y un único proceso de replicación van a pasar a la historia de la informática como reliquias, con la llegada de estos AI-Worms.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


sábado, mayo 23, 2026

Cómo optimizar el gasto en IA con arquitecturas clasificadas, orquestadas y/o destilación. El problema de la Predictibilidad de los Costes de la IA

Llevo algo más de un año compartiendo con todos mis amigos en corto uno de los problemas que hoy en día comienza a ser un dolor de cabeza en muchas empresas, que es lo que yo llamo la "Predictibilidad de los costes de la IA". Una fuerza de empleados humanos te da una predictibilidad de costes con la que puedes hacer un presupuesto más o menos claro, pero con el uso indiscriminado de la IA y los límites en consumo de tokens, es difícil tener esa predictibilidad, y aprender a gestionar eso es una nueva disciplina en las organizaciones.

Figura 1: Cómo optimizar el gasto en IA con arquitecturas clasificadas, orquestadas y/o destilación. El problema de la Predictibilidad de los Costes de la IA.
Imagen: Nano Banana.

Es verdad que algo no es caro o barato simplemente por su coste, ya que puede ser que por el mismo coste tu fuerza laboral con IA esté entregando mucha más productividad en mucho menos tiempo, o puede pasar justo lo contrario, que estemos gastando el mismo budged en IA en la mitad de tiempo, pero estemos entregando dashboards y tools que son "nice-to-have" pero que no tengan un impacto real en el negocio. Las dos posibilidades existen, y será un éxito o no para la compañía, si esta es capaz de racionalizar, ya no tanto el consumo, sino el qué se quiere hacer con IA.

Pero no estoy hoy para hablar de eso, que seguro que os hablaré en algún artículo ulterior, que también tengo mis reflexiones sobre cómo se está usando la IA en muchas empresas, sino sobre las soluciones tecnológicas de arquitectura que yo he estado discutiendo con clientes, y compañeros, para proponer soluciones de optimización de costes en el uso de la IA.

El planteamiento de partida es que tenemos una empresa que está haciendo un consumo útil de tokens de IA pero quiere optimizar el coste, pues bien, existen diferentes soluciones arquitecturas, que los ingenieros de software de tu empresa - incluso haciendo uso de IA - te pueden ayudar a construir, basadas en estas ideas. A ver qué os parecen.

Clasificiación Funcional: IA, ML o Algorítmica clásica

Esta es una decisión fundamental y muy clara desde el principio. Su base es tan sencilla como dado un servicio digital que hace uso de la IA, decidir cómo se debe construir cada funcionalidad y solución algorítima debe estar detrás es fundamental. 

Responder a un "Hola" o realizar una operación sencilla como "suma 2+2" no requiere que te gastes tokens en modelos de frontera, al igual que elegir qué anuncio poner. Para ello, se deben analizar bien de qué manera se debe construir cada función de un servicio digital, y esto debes clasificarlo en varios niveles:
  • Tareas complejas de razonamiento: Aquellas que debes enviar a los modelos de Inteligencia Artificial y que van a marcar la diferencia en tu servicio.
  • Tareas complejas de conocimiento: Para estas funciones, los algoritmos de Machine Learning son una opción perfecta. Si tienes los datos, en lugar de enviarlos vía contexto usando un RAG o un Graph RAG, la alternativa puede ser entrenar tu ML y generar el conocimiento como parte de tu sistema. El coste es infinitamente menor si haces tu ML y, además, controlas tus datos.
  • Tareas de razonamiento sencillas: Aquellas que, aun requiriendo del uso de modelos de IA, pueden ser atendidas por SLMs, modelos LLM OpenSource, o simplemente más económicos.
  • Tareas Algorítmicas: Aquellas que puedes realizar co un algoritmo clásico determinista. Hemos estudiado muchos años los algoritmos de divide y vencerás, rectas de barrido, grafos, recursivos, la factorización de código, los patrones de diseño y las técnicas de optimización, como para pensar que ahora todo tiene que ser un LLM de frontera. 
El nuevo libro de 0xWord escrito por Elías Grande. 
 
Estos algoritmos resuelven una gran mayoría de las soluciones, y por tanto deben ser siendo el grosso de tu sistema informático. Si no es así, entonces es que estás IA-diotizado y piensas que todo debe ser IA.

Estas arquitecturas son claves para una arquitectura optimizada. Usar IA no debe ser una moda, sino la aplicación de una tecnología nueva a solucionar un problema que no se puede solucionar mejor de otra forma. Y cuando decimos "mejor" hay que incluir los parámetros importantes para la compañía, como son el resultado, los costes, el tiempo, etcétera. 

Orquestación y Enrutamiento de Modelos

Centrándonos en las tareas de razonamiento, dependiendo de la complejidad, estas podrán ser resueltas por uno o varios modelos diferentes. Llevándolo al absurdo, responder a un Prompt de "Hola" o a uno de "cuánto es dos más dos", o "cuantos días han pasado del 1 de Enero de 1990 al 23 de Marzo de 2026", por ejemplo, pueden hacerlo todos, o muchos modelos.

Normalmente, una arquitectura no optimizada elige el modelo pensando en la tarea de razonamiento más compleja, que puede ser respondida sólo por uno, o por pocos Modelos Frontera, con lo que tenemos un sistema que, por culpa de la tarea más compleja, genera unos sobre-costes en las tareas más sencillas a realizar, que probablemente sean más. Para eso, antes de conectar un servicio digital a un solo modelo y que tire, utiliza algún sistema que permita cambiar el modelo en cada petición, y que te permita clasificar a qué modelo vas a enviarlo.
Esto no es nuevo, y lo hace hasta el propio OpenAI en su arquitectura de GPT, y todos los servicios digitales que han visto crecer sus tokens masivamente llegan aquí tarde o temprano. Así que, si vas a hacer un servicio digital, clasifica las tareas previamente, o hazlo con un Módulo de Enrutamiento que clasifique los Prompts en función de las peticiones en tu propio AI Gateway, para que puedas optimizar dónde enviar cada Prompt.

Prompt Shadowing

Para saber si puedes cambiar un modelo por otro más económico, una de las técnicas que debes utilizar es la de Prompt Shadowing. En este caso, cuando tu sistema digital envía a un Prompt con su contexto a un Modelo de Frontera, debes enviar esa misma tarea en paralelo al modelo más económico para poder compararlas y saber si lo está haciendo bien, suficiente bien, o mal. 
Esta información te permitirá, adecuar las peticiones para que el modelo más económico las haga bien, probar diferentes modelos, detectar tareas que se pueden enviar al modelo más eficiente en costes, o pensar en una estrategia de Fine-Tuning o destilación para que el modelo más eficiente en costes tenga la calidad de las respuestas que necesitas.

Destilación de Conocimiento

Los modelos han aprendido, y aprenden, de los datos que se les dan. Tu sistema digital está proporcionando datos al Modelo de Frontera, pero éste también te proporciona datos, en forma de respuestas. Este conocimiento no debes perderlo nunca porque es tuyo y te puede servir para entrenar a un modelo más efectivo en costes que puedas correr en tu entorno con el conocimiento que has generado. A este proceso de Fine-Tuning con conocimiento generado a partir de las respuestas a Prompts de otro modelo se llama Destilación.
Para ello, si tienes todos los datos de Prompt + Contexto y la Respuesta más si es posible los Metadatos (Razonamiento, Memoria e Historial) puedes hacer un entrenamiento de un modelo OpenSource con este conocimiento. Esto lo puedes hacer con Prompt Shadowing a través de tu API Gateway, AI Gateway o el CASB, y Destilar en el modelo objetivo periódicamente el conocimiento obtenido del Modelo Frontera con Prompt Shadowing. 

Cuando el modelo objetivo más eficiente en costes haya aprendido a hacer las tareas igual de bien que el modelo frontera, entonces podrás cambiarlo. Por supuesto, este proceso no es fácil para un modelo completo generalista donde quieres destilar todo lo que sabe el Modelo Frontera de todas las áreas de conocimiento, pero cuando se trata de tu sistema, estas tareas suelen referirse a un único ámbito de conocimiento y con un número no-infinito de variaciones. 

Sería como tener a un Senior de un Departamento enseñándole al Junior de ese Departamento cómo se hacen las tareas que tienen que ver con sus funciones. No le va a destilar conocimiento de Quantum-Mechanics, pero le va a enseñar a trabajar y razonar con los datos que maneja ese departamento y lo aprenderá perfectamente.

SaaS, Cloud u On-Prem

Pues todos, según tus costes. Los Modelos Frontera más potentes los vas a poder consumir normalmente solo en SaaS, pero si tienes un CASB, vas a poder hacer Prompt Shadowing para luego hacer un proceso de Fine-Tunning y Destilar el conocimiento en un modelo OpenSource que corras en tu propio IAS, o que corras en tu propia infraestructura.

Este tipo de soluciones, necesitan que desacoples tu servicio digital de tus modelos, y que tener flexibilidad para poder mover las APIs y los Prompts de uno a otro. Con esta filosofía se desarrolla la arquitectura de Cloudflare para AI Gateway. Tú puedes conocer tu API Gateway a los Guardarraíles, y estos al backend del servidor, que puede estar en Cloud u On-Prem en tu datacenter.
Luego, tu backend se conecta al Modelo Frontera vía CASB, o al modelo que quieras usando AI Gateway que te permite elegir el que quieras en cada Prompt. Esto te permite tener observabilidad de los Prompts y conectar todas la peticiones a múltiples modelos, con lo que podrías hacer Prompt Shadowing para Destilar y/o hace Fine-Tunning de un modelo que corras directamente en Cloudflare, o en tu propio servidor On-Prem conectado por un túnel a Cloudflare.
Con esta arquitectura, tu sistema te dará flexibilidad, no estarás "hand-cuffed" a las variaciones de precios que puedan surgir los paquetes empresariales de las compañías de IA que ofrecen Modelos Frontera y te asegurarás de tener siempre el conocimiento guardado en tus sistemas.

Orquestación de Agentes

Otra de las arquitecturas que puedes utilizar para reducir los costes, es decidir qué cosas vas a externalizar a agentes de terceros. En lugar de construirte toda la arquitectura, existe ya un mercado de Agentes AI que realizan tares con Prompts complejos. 
Es el equivalente del uso de las APIs para acceder a funciones, pero delegando funciones de razonamiento complejas, y esto lo puedes hacer vía orquestación en el API Gateway o incluso en el MCP Server. Como es un tema chulo, le dedicaré otro artículo más adelante, porque este parece el futuro de la fuerza laboral de muchas empresas, y creo que merece la pena hablar de él en detalle.

Prompt Engineering

La última de las recomendaciones, lógicamente, tiene que ver con el Prompt Engineering. Hacer correctamente los Prompts, dirigir el razonamiento al camino más corto y eficiente de la respuesta. Dar el contexto adecuado y no más ni menos. Exigir las respuestas de manera clara y concisa, y un largo número de pequeños detalles, ayudan a reducir el número de tokens empleados en la respuesta y, por tanto, los costes.

Figura 11: Técnicas de optimización de Prompting 1

Esto es el equivalente al uso de índices correctamente, diseño de bases de datos siguiente las formas normales de Boyce-Codd, configuración de límites y memoria, uso de vistas o Cubos OLAP en el mundo de las bases de datos, pero llevado al mundo del Prompting y la los modelos LLM. Mucho por hacer aquí aún.

Figura 12: Técnicas de optimización de Prompting 2

Como podéis ver, basta con preguntarle a un modelo LLM por estas técnicas, y están bien documentadas hoy en día. Os he dejado las diez más importantes nada más, pero hay mucho juego por hacer aquí, porque no es lo mismo Prompting genérico, que Prompting para Desarrollo de Software, que para un sistema digital concreto.

Figura 13: Técnicas de optimización de Prompting 3

Por supuesto, esta es una disciplina muy novedosa, y las empresas están empezando a preocuparse por estos costes ahora, así que ir formándose en esta disciplina será igual de valioso a como lo fue el mundo del Tuning de Bases de Datos en mi época.
Si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que se han  escrito, citado o publicado en este blog sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


Entrada destacada

Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment. Nuestro nuevo libro en 0xWord

Pocas veces me ha hecho tanta ilusión que saliera un nuevo libro en 0xWord como con este libro de " Hacking IA: Jailbreak, Prompt Inje...

Entradas populares