Programme — Cybersécurité des systèmes d'IA

Cartographie complète du cycle de vie d'un système d'IA — données, entraînement, modèle, déploiement, exploitation — et des acteurs susceptibles d'exploiter chaque point d'exposition.

Comment l'absence de séparation entre instructions et données dans un LLM ouvre la voie à l'injection directe, à l'injection indirecte via des contenus externes, à l'empoisonnement de bases RAG et aux jailbreaks, et quelles défenses en couches limitent réellement leur impact.

Comment des données falsifiées, injectées dans un corpus d'entraînement ou de fine-tuning, altèrent durablement le comportement d'un modèle — et comment détecter, limiter et tracer ce risque.

Comment des secrets, des données personnelles ou des informations internes sortent d'un système d'IA sans que personne n'ait cliqué sur « envoyer » — mécanismes, vecteurs d'attaque et contre-mesures.

Cartographie des points d'injection d'attaque dans la chaîne d'approvisionnement d'un système IA — du jeu de données aux poids du modèle en passant par les dépendances logicielles — et des contrôles pour les fermer.

Comment construire une architecture de défense en profondeur pour un système d'IA en combinant filtrage des entrées et sorties, isolation de l'exécution et gestion des identités et des accès (IAM), plutôt que de compter sur une seule couche de protection.

Comment structurer une campagne de tests de sécurité sur un système d'IA en combinant red teaming humain et fuzzing automatisé de prompts, avec règles d'engagement, oracle de détection, priorisation et rapport actionnable.

Comment segmenter un système d'IA agentique et appliquer le moindre privilège pour contenir l'impact d'une compromission plutôt que de tenter de l'empêcher totalement.

Un cadre opérationnel pour détecter, contenir et documenter un incident impliquant un système d'IA en production, avec les runbooks et les artefacts de preuve spécifiques à ces systèmes.