Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Fondamentaux : Modèles de menaces pour l'IA agentic
- Types de menaces agentic : usage abusif, élévation de privilèges, fuite de données et risques de la chaîne d'approvisionnement
- Profils d'adversaires et capacités des attaquants spécifiques aux agents autonomes
- Cartographie des actifs, des frontières de confiance et des points de contrôle critiques pour les agents
Gouvernance, politiques et gestion des risques
- Cadres de gouvernance pour les systèmes agentic (rôles, responsabilités, portes de validation)
- Conception des politiques : utilisation acceptable, règles d'escalade, gestion des données et traçabilité
- Considérations de conformité et collecte de preuves pour les audits
Identité non humaine et authentification pour les agents
- Conception des identités pour les agents : comptes de service, JWT et identifiants à courte durée de vie
- Modèles d'accès en privilège minimum et provisionnement à la demande (just-in-time)
- Cycle de vie de l'identité, rotation, délégation et stratégies de révocation
Contrôles d'accès, secrets et protection des données
- Modèles de contrôle d'accès à grain fin et motifs basés sur les capacités pour les agents
- Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
- Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé des agents
Observabilité, audit et réponse aux incidents
- Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et provenance
- Intégration SIEM, seuils d'alerte et préparation aux analyses forensiques
- Manuel d'exploitation et scénarios d'intervention pour les incidents liés aux agents et la confinement
Tests d'intrusion des systèmes agentic
- Planification des exercices de tests d'intrusion : périmètre, règles d'engagement et basculement sûr
- Techniques adversariales : injection d'invites, usage abusif des outils, manipulation de la chaîne de pensée et abus de l'API
- Exécution d'attaques contrôlées et mesure de l'exposition et de l'impact
Endurcissement et atténuations
- Contrôles techniques : throttling des réponses, activation des capacités et sandboxing
- Contrôles de politiques et d'orchestration : flux d'approbation, humain dans la boucle et points d'ancrage de gouvernance
- Défenses au niveau du modèle et de l'invite : validation des entrées, canonicalisation et filtres de sortie
Opérationnalisation des déploiements d'agents sécurisés
- Modèles de déploiement : bac à sable, déploiement canari et déploiement progressif pour les agents
- Contrôle des changements, pipelines de tests et vérifications de sécurité pré-déploiement
- Gouvernance interfonctionnelle : manuels d'exploitation pour la sécurité, les services juridiques, le produit et les opérations
Projet final : Exercice rouge/bleu
- Exécuter une attaque simulée de type test d'intrusion contre un environnement d'agent en bac à sable
- Défendre, détecter et corriger en tant qu'équipe bleue en utilisant des contrôles et la télémétrie
- Présenter les constatations, le plan de correction et les mises à jour des politiques
Résumé et prochaines étapes
Pré requis
- Solides connaissances en ingénierie de la sécurité, administration système ou opérations cloud
- Familiarité avec les concepts de l'IA/ML et le comportement des grands modèles de langage (LLM)
- Expérience avec la gestion des identités et des accès (IAM) et la conception de systèmes sécurisés
Public cible
- Ingénieurs en sécurité et experts en tests d'intrusion
- Ingénieurs en opérations IA et ingénieurs plateformes
- Officiers de conformité et gestionnaires des risques
- Chefs d'équipe technique responsables des déploiements d'agents
21 Heures