Imagen
El Laboratorio y Centro Demostrador de Ciberseguridad en Productos con Elementos Digitales de la Xunta de Galicia celebró una nueva edición de los Encuentros Tecnológicos del Laboratorio, que alcanzó el aforo completo y reunió profesionales del sector empresarial, personal de la Administración pública, profesorado y alumnado alrededor de los nuevos retos de la inteligencia artificial aplicada a la ciberseguridad.
En esta ocasión, la jornada contó con la participación de CrowdStrike y se centró en la evolución de las operaciones de seguridad ante el creciente protagonismo de la inteligencia artificial y de los agentes autónomos. A través de relatorios, demostraciones y actividades prácticas, se abordaron cuestiones como la automatización de los centros de operaciones de seguridad, la protección de los sistemas de IA, la evolución de las amenazas y el papel de la identidad en los nuevos entornos digitales.
La jornada comenzó con la bienvenida de María Rodríguez, directora estratégica del Laboratorio, que condujo el encuentro y dio paso a las distintas intervenciones del programa.
De la operaciones de seguridad tradicionales a los agentes autónomos
Alberto Águeda abordó la evolución de SecOps hacia el Agentic SOC. Mediante una demostración práctica, mostró cómo están evolucionando las operaciones de seguridad desde los modelos tradicionales hacia escenarios en los que los agentes autónomos de inteligencia artificial pueden participar de forma proactiva en la investigación y en la respuesta ante amenazas. La sesión también permitió conocer el papel de la automatización con Falcon Fusion y la incorporación de la IA generativa mediante Charlotte AI/AI.
A continuación, Miguel Ángel de Castro centró su intervención en la protección de la inteligencia artificial y en el uso de la IA para reforzar la ciberseguridad. Durante la sesión se analizaron riesgos como los ataques de prompt injection, el jailbreaking, el envenenamiento de datos y la exfiltración de información sensible. También se abordaron la monitorización de las interacciones con los servicios de IA, el uso de agentes autónomos para reforzar las capacidades defensivas y la importancia de establecer medidas de gobernanza y cumplimiento normativo para incorporar estas tecnologías al ámbito empresarial.
Tras una pausa, Javier López Gordo presentó diferentes servicios de IA de vanguardia aplicados a la ciberseguridad, ahondando en la creación de modelos y agentes especializados en tareas como el threat hunting, el análisis forense automatizado y la respuesta ante incidentes. Asimismo, se destacó la importancia de adaptar estos modelos al contexto y a las necesidades de cada organización, así como de disponer de una estrategia que permita integrar adecuadamente la inteligencia artificial en las operaciones de seguridad.
Por su parte, Luis Gil analizó la evolución del adversario y el uso de la IA como herramienta para pasar de la automatización a la autonomía. Su intervención ahondó en conceptos como el Red Team autónomo, la aplicación de la inteligencia artificial para potenciar las capacidades de los Blue Team, el aprendizaje continuo a partir de ejercicios de seguridad y la validación de la eficacia de los controles mediante ataques controlados.
La identidad, un elemento clave en los contornos digitales basados en la IA
La identidad ocupó también un lugar destacado en la jornada. Aitor Álvarez abordó su papel central en la era de los agentes autónomos y los retos que presenta la gestión de las identidades en entornos cada vez más distribuidos. La sesión incluyó cuestiones relacionadas con la detección y respuesta ante amenazas a la identidad (ITDR), la gestión de accesos privilegiados (PAM) y los modelos Zero Trust, además de los nuevos desafíos en materia de autenticación, autorización y supervisión de agentes autónomos.
En un escenario en el que cada vez más procesos y servicios incorporan inteligencia artificial, la identidad se convierte en un elemento fundamental para determinar quién o qué puede acceder a los recursos de una organización, en qué condiciones y con qué nivel de privilegios.
Una experiencia práctica para explorar los riesgos de la inteligencia artificial
La jornada concluyó con una actividad práctica en formato de juego, organizada en diferentes niveles, que permitió a las personas participantes experimentar con técnicas de jailbreaking . El reto consistía en diseñar distintas instrucciones (prompts) para intentar superar las restricciones de una inteligencia artificial y conseguir que revelara información que debía permanecer protegida, como contraseñas de usuarios.
Esta dinámica acercó a las personas asistentes, de una manera participativa, algunos de los riesgos y vulnerabilidades asociados al uso de sistemas de inteligencia artificial, mostrando la importancia de evaluar sus mecanismos de protección y comprender cómo pueden ser utilizados de forma maliciosa.
Un espacio de encuentro para compartir conocimiento
El aforo completo y la diversidad de perfiles participantes ponen de manifiesto el interés que despierta la inteligencia artificial aplicada a la ciberseguridad y los nuevos desafíos que presenta su incorporación, tanto en las estrategias defensivas como en las capacidades de los potenciales contrincantes.
Con iniciativas como los Encuentros Tecnológicos del Laboratorio, el Laboratorio y Centro Demostrador de Ciberseguridad en Productos con Elementos Digitales de la Xunta de Galicia continúa impulsando espacios de encuentro y colaboración entre empresas, Administración pública y comunidad educativa. Estas jornadas permiten compartir conocimiento, conocer de primera mano tecnologías emergentes y acercar las tendencias que están transformando la ciberseguridad tanto a los profesionales como a las futuras personas especialistas
Galería
Imagen
Imagen
