La complejidad de los sistemas y servicios actuales lleva aparejado un incremento en el volumen y variedad de información dispuesta, así como de los riesgos asociados a la misma. Desde esta perspectiva, resulta oportuno el empleo de esquemas de modelado y aprendizaje automáticos de cara a la mejora de la protección y seguridad de sistemas y servicios.

En este ámbito, la Inteligencia Artificial (IA) está llamada a aportar ventajas desde distintas perspectivas

• Mayor capacidad de generalización y adaptabilidad ante nuevas amenazas y ataques (zero-day attacks).
• Reducción de faltos positivos/negativos en el caso de la detección.
• Modelado de aprendizaje distribuido basadas en el aprendizaje federado.
• Capacidad de integración de inteligencia de amenazas desde diferentes fuentes derivadas del conocimiento común.
• Generación de conjuntos de datos de entrenamiento mejorados que redunden en modelos de aprendizaje automático robustos.
• Evaluación automática del riesgo de seguridad y exposición de una entidad.
• Automatización del proceso de toma de decisiones y respuesta ante ataques o amenazas a la seguridad.

Desde el grupo NESG se investigan y desarrollan nuevas soluciones IA aplicadas para la provisión y modelado de sistemas robustos desde el punto de vista de la seguridad mediante el uso de técnicas de optimización, aprendizaje automático, aprendizaje automático profundo y aprendizaje por refuerzo. Asimismo, los modelos anteriores son también susceptibles de ser atacados en todas las fases de su desarrollo. En consecuencia, desde NESG se estudia y aborda la creación de modelos de aprendizaje automático seguros (security-by-design) ante, por ejemplo, la generación intencionada de muestras que lleven a una toma de decisiones erróneas y, por otro lado, intencionadas.