O uso de axentes de intelixencia artificial con capacidade para executar accións de maneira autónoma está a medrar progresivamente en distintos ámbitos. Estas ferramentas permiten automatizar tarefas, interactuar con aplicacións e manter información entre sesións, o que abre novas posibilidades desde o punto de vista operativo. Ao mesmo tempo, tamén introduce novos retos en materia de ciberseguridade que convén analizar con atención.
Nos últimos meses apareceron solucións que non se limitan a ofrecer recomendacións, senón que poden actuar directamente sobre o sistema, acceder a aplicacións locais e adaptar o seu comportamento en función dos obxectivos definidos. Este tipo de funcionamento supón un cambio respecto do modelo tradicional de software e require revisar os controis de seguridade habituais.
Acceso ao sistema e xestión da información
Unha das principais características destes axentes é a súa capacidade para manter memoria persistente e acceder de maneira ampla ao sistema operativo. Para funcionar correctamente, adoitan almacenar configuración, rexistros de actividade e outra información relevante en ficheiros locais. Nalgúns casos, estes datos poden atoparse en texto plano ou en localizacións facilmente identificables.
Desde o punto de vista da seguridade, este aspecto resulta especialmente relevante. Se o equipo no que se executa o axente sofre un compromiso, esa información podería quedar exposta e ser utilizada de maneira indebida.
Impacto potencial en caso de incidente
A diferenza doutros escenarios, nos que a filtración dunha credencial ten un impacto limitado, a información xestionada por un axente autónomo pode ofrecer un contexto moito máis amplo. Detalles sobre proxectos, hábitos de traballo, contactos ou procesos internos poden facilitar ataques máis dirixidos e difíciles de detectar.
No ámbito das administracións públicas e das entidades locais, este risco adquire unha especial relevancia pola natureza da información tratada e pola necesidade de garantir a continuidade dos servizos.
A importancia de definir identidades e accesos
Unha liña de traballo que comeza a consolidarse é a necesidade de tratar estes axentes como entidades con identidade propia, diferenciadas das persoas usuarias. Isto implica asignarlles permisos específicos, limitar o seu acceso aos recursos necesarios e rexistrar de forma axeitada as accións que realizan.
Os modelos de autorización tradicionais, baseados en permisos concedidos unha única vez, resultan insuficientes cando se trata de sistemas que poden modificar o seu comportamento co paso do tempo. Nestes casos, o control do acceso debe revisarse de maneira continua e adaptarse ao contexto de uso.
Seguridade e gobernanza desde o deseño
O obxectivo non debe ser evitar o uso deste tipo de ferramentas, senón integralas de forma segura e gobernable. Aplicar principios como o mínimo privilexio, a segregación de funcións, a trazabilidade das accións e a posibilidade de revogar accesos permite reducir riscos e mellorar o control.
Este enfoque é coherente cos principios do Esquema Nacional de Seguridade e contribúe a unha adopción responsable das tecnoloxías emerxentes no sector público.
Conclusión
Os axentes de intelixencia artificial formarán parte do ecosistema tecnolóxico nos vindeiros anos. Analizar as súas implicacións desde o punto de vista da ciberseguridade e adoptar medidas proporcionadas desde o inicio permitirá aproveitar as súas vantaxes sen comprometer a seguridade das organizacións. No caso das entidades locais e da Administración Pública, esta análise previa resulta especialmente relevante para garantir un uso seguro e responsable destas tecnoloxías.
