El profesor Roger Sanz participa como ponente en Hacken 2026.
29 de abril de 2026. El profesor de la Universidad Isabel I e investigador experto en inteligencia artificial aplicada a la ciberseguridad, Roger Sanz González, ha participado en la cuarta edición del Congreso Internacional de Ciberseguridad Hacken 2026. El profesor presentó una propuesta innovadora centrada en uno de los grandes problemas actuales en esta materia: garantizar la seguridad en los sistemas de inteligencia artificial agéntica.
La inteligencia artificial agéntica es un tipo de inteligencia artificial diseñada para actuar como un agente autónomo, es decir, un sistema capaz de tomar decisiones, planificar acciones y ejecutarlas para alcanzar objetivos concretos con un grado mínimo de intervención humana. A diferencia de la IA tradicional, que responde a una instrucción puntual (por ejemplo, responder una pregunta o generar un texto).
La IA agéntica no se limita a reaccionar, sino que puede definir pasos intermedios para lograr un objetivo, tomar decisiones en función del contexto, interactuar con diferentes herramientas o sistemas y aprender de los resultados para ajustar su comportamiento. En la práctica, esto significa que un agente de IA puede, por ejemplo, recibir una tarea como “analizar el mercado y generar un informe”, y encargarse de todo el proceso como buscar información, filtrarla, interpretarla para producir un resultado final sin supervisión constante.
Ponencia del profesor Sanz González
Durante su intervención, titulada “Protege tu tesoro de IA agéntica. Mucho más que simples medidas de seguridad en el ‘camino feliz’”, el profesor Sanz expuso el Marco de Seguridad “Treasure” para GenAI, un enfoque práctico que plantea un cambio de paradigma en la forma de proteger los sistemas basados en inteligencia artificial. Frente al modelo tradicional de “caja negra”, su propuesta apuesta por “construir ecosistemas gobernados, auditables y confiables”.
Uno de los elementos centrales del modelo es el denominado “Registro de Diamante” (Diamond Record), que actúa como una fuente de datos limpia, unificada y con control de permisos. Este enfoque permite anclar las decisiones de los agentes de IA en información verificada, reduciendo de forma significativa riesgos como las alucinaciones del sistema o la fuga de datos sensibles.
El experto en ciberseguridad también destacó la importancia de “aplicar una gobernanza a nivel de código, trasladando principios del DevSecOps al funcionamiento de los agentes inteligentes”. En este sentido, los flujos de trabajo dejan de depender de instrucciones improvisadas para gestionarse como código versionado, lo que permite auditar cada acción, someterla a revisión y revertir comportamientos no deseados de manera inmediata.
Otro de los pilares de su propuesta es la orquestación con supervisión humana (human-in-the-loop), que limita la autonomía de los agentes mediante esquemas predefinidos que determinan con precisión qué acciones pueden ejecutar. Este modelo combina la capacidad operativa de la inteligencia artificial con el control estratégico humano, especialmente en contextos críticos.
Adoptar una estrategia de defensa en profundidad
El profesor de la Universidad Isabel I subrayó la necesidad de adoptar una estrategia de defensa en profundidad, en la que la seguridad no actúe como una capa externa, sino que esté integrada en toda la infraestructura. Esto incluye controles de acceso detallados y mecanismos de aislamiento que permiten contener posibles vulnerabilidades incluso en escenarios de ataque o manipulación del sistema.
La participación de Roger Sanz en este encuentro internacional sitúa a la Universidad Isabel I en la vanguardia del debate sobre ciberseguridad aplicada a la inteligencia artificial, un ámbito en plena evolución que exige soluciones cada vez más sofisticadas. Su propuesta contribuye a definir nuevas líneas de trabajo orientadas a construir sistemas de IA más seguros, transparentes y alineados con el entorno digital actual.