La inteligencia artificial como barrera contra las amenazas en el sector de la defensa

En un escenario marcado por crecientes tensiones geopolíticas, donde las amenazas evolucionan y la tecnología adquiere un papel fundamental, la Inteligencia Artificial (IA) se ha convertido en una herramienta estratégica clave en el ámbito de la defensa, ofreciendo capacidades sin precedentes en la toma de decisiones y la ejecución de operaciones militares. En pleno debate europeo sobre el aumento de la inversión militar y el compromiso de España de elevar la partida presupuestaria destinada a Defensa para alcanzar el 2% del PIB, su creciente integración en sistemas militares también la expone a potenciales vulnerabilidades, lo que plantea el desafío urgente de desarrollar medidas de ciberseguridad más resilientes para garantizar que la IA sea una aliada confiable.

En una industria donde la información es un recurso estratégico fundamental, reforzar la protección de estos sistemas resulta crucial para salvaguardar la seguridad nacional e impedir que agentes hostiles pongan en peligro infraestructuras críticas.

BattleBox, una solución avanzada para la defensa

El fortalecimiento de los sistemas de IA en la industria de defensa se ha vuelto esencial en un sector cada vez más expuesto al rápido avance tecnológico y a la proliferación de nuevas tipologías de amenazas cibernéticas que plantean riesgos significativos para los Estados. Durante el último semestre de 2024, el sector de la defensa experimentó un elevado volumen de Amenazas Persistentes Avanzadas (APT), técnicas hackivistas orquestadas por actores patrocinados por el Estado que operan de forma sigilosa y persistente, dirigidas hacia organizaciones gubernamentales, empresas de seguridad privada y compañías de investigación y desarrollo. El principal objetivo de estos grupos cibercriminales es el ciberespionaje, pero también llevan a cabo ataques que se extienden a la posible pérdida de control sobre armas y equipos, interrupciones de las cadenas de suministro y operaciones con motivación financiera para financiar estrategias militares.

Si bien la IA ofrece grandes ventajas, como mejorar la precisión y la rapidez en las decisiones militares, también introduce nuevos riesgos, especialmente en lo que respecta a las vulnerabilidades cibernéticas. A medida que estos modelos de última generación se integran en los sistemas defensivos nacionales, es fundamental implementar medidas de seguridad avanzadas para protegerlos de posibles ataques que puedan comprometer su integridad. Un ejemplo de ello, es el desarrollo de ‘Battle Box’, una solución de ciberseguridad diseñada por la compañía tecnológica Thales, para evaluar y fortalecer la robustez de los sistemas de IA en el ámbito de la defensa.

Para contrarrestar estos ataques, diseñados para sacar provecho de los puntos débiles de de IA, esta tecnología incorpora un conjunto de herramientas avanzadas de entrenamiento para fortalecer los modelos, basadas en técnicas de aprendizaje, que permite la alimentación de estos sistemas mediante datos distribuidos en múltiples dispositivos y, de desaprendizaje, que eliminan información después de un entrenamiento, como las imágenes de las aeronaves. Por ejemplo, en el caso de un dron equipado con IA, este debe ser capaz de reconocer cualquier avión enemigo como una amenaza potencial. En cambio, tendría que aprender a identificar el modelo del avión de su propio ejército como amistoso, y luego habría que borrarlo mediante técnicas de desaprendizaje. Además, entre otras técnicas que mejoran la identificación y corrigen vulnerabilidades antes de que los grupos cibercriminales puedan explotarlas, las marcas de agua son frecuentemente utilizadas para incrustar identificadores únicos con el fin de verificar su autenticidad y rastrear su origen.

El desafío de la IA en la seguridad y soberanía nacional

En pleno auge de los conflictos geopolíticos y la sofisticación de los sistemas defensivos nacionales, cada vez hay un mayor reconocimiento gubernamental de la importancia de proteger las infraestructuras tecnológicas críticas, donde la seguridad de los sistemas basados en IA es fundamental para salvaguardar la soberanía nacional. La creciente dependencia de estas tecnologías en operaciones militares hace imprescindible garantizar que los sistemas de IA sean seguros y confiables.

Un ejemplo de esta creciente preocupación fue el primer desafío organizado en 2023 por el Ministerio de Defensa Francés durante la Conferencia sobre Inteligencia Artificial para la Defensa (CAID). Con el objetivo de evaluar la capacidad de los ciberdelincuentes para explotar las vulnerabilidades inherentes a los modelos de IA, diversas empresas como Thales, demostraron su capacidad para anticipar las amenazas emergentes mediante el uso de tecnologías inteligentes.

Sin las medidas de protección adecuadas, los sistemas impulsados por IA, como los drones militares, pueden ser neutralizados o desviados, los datos confidenciales de los modelos de entrenamiento pueden ser extraídos, los sistemas de radar falsificados o incluso los objetivos estratégicos desviados. Para reducir estos riesgos, es fundamental desarrollar modelos de IA más sólidos, como los híbridos, que integran el aprendizaje automático con reglas predefinidas, garantizando así su transparencia, fiabilidad y precisión.

En el ámbito de la defensa, asegurar la solidez y precisión de los sistemas de IA no solo es esencial para mantener su eficacia operativa, sino también para preservar la integridad de las misiones críticas y garantizar que la tecnología continúe siendo un aliado confiable frente a amenazas complejas.

David Conde, DFIR & Threat Hunting Manager de Thales S21sec