Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Durée 21 heures
Plan du cours
Fondations : Modèles de menaces pour l’IA agentique
- Types de menaces agentiques : mésusage, élévation de privilèges, fuite de données et risques liés à la chaîne d’approvisionnement
- Profils d’adversaires et capacités des attaquants spécifiques aux agents autonomes
- Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents
Gouvernance, politiques et gestion des risques
- Cadres de gouvernance pour les systèmes agentiques (rôles, responsabilités, points d’approbation)
- Conception des politiques : utilisation acceptable, règles d’escalade, traitement des données et auditabilité
- Considérations de conformité et collecte de preuves pour les audits
Identité non humaine et authentification pour les agents
- Conception d’identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte
- Modèles d’accès au moindre privilège et authentification juste-à-temps
- Cycle de vie des identités, rotation, délégation et stratégies de révocation
Contrôles d’accès, secrets et protection des données
- Modèles de contrôle d’accès granulaire et modèles basés sur les capacités pour les agents
- Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
- Protection des sources de connaissances sensibles et des PII contre l’accès non autorisé des agents
Observabilité, audit et réponse aux incidents
- Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et provenance
- Intégration avec les SIEM, seuils d’alerte et préparation à la forensique
- Procédures opérationnelles et guides (playbooks) pour les incidents liés aux agents et leur confinement
Red-teaming des systèmes agentiques
- Planification des exercices de red-teaming : périmètre, règles d’engagement et basculement sécurisé
- Techniques adverses : injection de prompt, mésusage d’outils, manipulation de la chaîne de pensée et abus des API
- Réalisation d’attaques contrôlées et mesure de l’exposition et de l’impact
Renforcement et atténuations
- Contrôles d’ingénierie : limitation des réponses (throttling), verrouillage des capacités et sandboxing
- Contrôles de politique et d’orchestration : flux d’approbation, humain dans la boucle et points d’ancrage de gouvernance
- Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie
Opérationnalisation des déploiements sûrs d’agents
- Modèles de déploiement : environnement de préproduction, canari et déploiement progressif pour les agents
- Contrôle des modifications, pipelines de tests et vérifications de sécurité avant déploiement
- Gouvernance interfonctionnelle : guides pour la sécurité, le juridique, le produit et les opérations
Projet de fin : Exercice Red-Team / Blue-Team
- Exécuter une attaque simulée de red-team contre un environnement d’agent sandboxé
- Défendre, détecter et corriger en tant qu’équipe bleue en utilisant les contrôles et la télémétrie
- Présenter les constats, le plan de correction et les mises à jour des politiques
Conclusion et prochaines étapes
Pré requis
- Solides connaissances en ingénierie de la sécurité, administration des systèmes ou opérations cloud
- Connaissance des concepts d’IA/ML et du comportement des grands modèles de langage (LLM)
- Expérience en gestion des identités et de l’accès (IAM) et en conception de systèmes sécurisés
Public cible
- Ingénieurs de la sécurité et membres de l’équipe red-team
- Ingénieurs en opérations IA et ingénieurs de plateforme
- Responsables de la conformité et gestionnaires de risques
- Chefs d’ingénierie responsables des déploiements d’agents
Nos clients témoignent (1)
inventorier et identifier les différentes expositions aux risques au sein de l'IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Formation - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduction automatique