El profesor Roger Sanz durante su ponencia.
10 de julio de 2026. El doctor Roger Sanz, investigador de la Universidad Isabel I y especialista en gobernanza de la seguridad e inteligencia artificial, ha participado recientemente como ponente en la novena edición del EuskalHack Security Congress. Durante la conferencia, titulada "THE Agentic AI SUPREMACY: Is your AI a double-agent?", presentó un análisis sobre cómo la adopción de arquitecturas basadas en Inteligencia Artificial agéntica está transformando y ampliando de forma significativa la superficie de ataque de los entornos corporativos.
El eje central de la ponencia fue el concepto de "agente doble", un sistema de Inteligencia Artificial que opera con aparente normalidad, ejecuta correctamente las tareas para las que ha sido diseñado y genera resultados coherentes, pero que ha sido comprometido para actuar en beneficio de un atacante. La principal dificultad de este escenario, explicó Sanz, reside en que el propio agente carece de mecanismos para detectar que su comportamiento ha sido alterado, lo que dificulta enormemente su identificación mediante los controles de seguridad tradicionales.
Anatomía de esta nueva categoría de amenazas
A lo largo de la conferencia, el investigador describió la anatomía de esta nueva categoría de amenazas a través de una cadena de ataque estructurada en tres vectores principales.
El primero se dirige contra la memoria del sistema. Según explicó, este tipo de compromiso trasciende la manipulación temporal de instrucciones (prompt injection) y se comporta como un auténtico rootkit: persiste tras reinicios y actualizaciones, permanece oculto en zonas donde el modelo de lenguaje no tiene control directo y condiciona el comportamiento futuro del agente.
El segundo vector afecta a las bases de conocimiento y a las arquitecturas Retrieval-Augmented Generation (RAG). Mediante la incorporación de documentos manipulados que el sistema interpreta como fuentes legítimas, los atacantes consiguen establecer "puertas traseras semánticas" capaces de modificar el razonamiento del agente o facilitar la exfiltración de información sensible. Casos recientes como GeminiJack o la vulnerabilidad EchoLeak ilustran cómo estas técnicas pueden comprometer sistemas de IA sin requerir interacción directa por parte del usuario.
El tercer vector, identificado como uno de los principales puntos ciegos de las arquitecturas multiagente actuales, se encuentra en las comunicaciones entre agentes. La ausencia generalizada de mecanismos robustos de autenticación, autorización y cifrado de extremo a extremo favorece ataques de interceptación, permitiendo que código malicioso se propague entre agentes, comprometa herramientas compartidas y escale privilegios de forma sistémica.
Como conclusión, Sanz defendió la necesidad de un cambio de paradigma en la protección de la Inteligencia Artificial agéntica. A su juicio, la ciberseguridad ya no puede sustentarse exclusivamente en la confianza depositada en el agente, sino en la validación continua de todo su ecosistema operativo: memoria, herramientas, comunicaciones, fuentes de conocimiento y capacidades de ejecución.
El profesor Roger Sanz.
La respuesta en el nuevo escenario
Como respuesta a este nuevo escenario presentó el TREASURE Agentic Security Framework, un modelo de defensa en profundidad específicamente diseñado para sistemas de IA agéntica. El framework propone una arquitectura de protección basada en cinco capas complementarias que abarcan la validación de la procedencia de los datos, la consideración de cada capacidad del agente como una posible superficie de ataque, la gobernanza del código y de los componentes de IA, la supervisión humana durante todo el ciclo de vida y la aplicación de principios Zero Trust adaptados a arquitecturas inteligentes.
Presentación de Roger Sanz.
La participación de investigadores de la Universidad Isabel I en foros tecnológicos de referencia como el EuskalHack Security Congress refuerza el compromiso de la institución con la investigación aplicada y la transferencia de conocimiento en ámbitos estratégicos como la inteligencia artificial y la ciberseguridad. Trabajos como el presentado por el doctor Roger Sanz contribuyen al desarrollo de nuevos modelos de protección capaces de responder a los desafíos que plantea la próxima generación de sistemas inteligentes, favoreciendo una adopción de la IA más segura, resiliente y confiable tanto para las organizaciones como para la sociedad.