Prenez contact avec nous
 Durée 21 heures

Plan du cours

Fondations : Modèles de menaces pour l’IA agentique

  • Types de menaces agentiques : mésusage, élévation de privilèges, fuite de données et risques liés à la chaîne d’approvisionnement
  • Profils d’adversaires et capacités des attaquants spécifiques aux agents autonomes
  • Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents

Gouvernance, politiques et gestion des risques

  • Cadres de gouvernance pour les systèmes agentiques (rôles, responsabilités, points d’approbation)
  • Conception des politiques : utilisation acceptable, règles d’escalade, traitement des données et auditabilité
  • Considérations de conformité et collecte de preuves pour les audits

Identité non humaine et authentification pour les agents

  • Conception d’identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte
  • Modèles d’accès au moindre privilège et authentification juste-à-temps
  • Cycle de vie des identités, rotation, délégation et stratégies de révocation

Contrôles d’accès, secrets et protection des données

  • Modèles de contrôle d’accès granulaire et modèles basés sur les capacités pour les agents
  • Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
  • Protection des sources de connaissances sensibles et des PII contre l’accès non autorisé des agents

Observabilité, audit et réponse aux incidents

  • Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et provenance
  • Intégration avec les SIEM, seuils d’alerte et préparation à la forensique
  • Procédures opérationnelles et guides (playbooks) pour les incidents liés aux agents et leur confinement

Red-teaming des systèmes agentiques

  • Planification des exercices de red-teaming : périmètre, règles d’engagement et basculement sécurisé
  • Techniques adverses : injection de prompt, mésusage d’outils, manipulation de la chaîne de pensée et abus des API
  • Réalisation d’attaques contrôlées et mesure de l’exposition et de l’impact

Renforcement et atténuations

  • Contrôles d’ingénierie : limitation des réponses (throttling), verrouillage des capacités et sandboxing
  • Contrôles de politique et d’orchestration : flux d’approbation, humain dans la boucle et points d’ancrage de gouvernance
  • Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie

Opérationnalisation des déploiements sûrs d’agents

  • Modèles de déploiement : environnement de préproduction, canari et déploiement progressif pour les agents
  • Contrôle des modifications, pipelines de tests et vérifications de sécurité avant déploiement
  • Gouvernance interfonctionnelle : guides pour la sécurité, le juridique, le produit et les opérations

Projet de fin : Exercice Red-Team / Blue-Team

  • Exécuter une attaque simulée de red-team contre un environnement d’agent sandboxé
  • Défendre, détecter et corriger en tant qu’équipe bleue en utilisant les contrôles et la télémétrie
  • Présenter les constats, le plan de correction et les mises à jour des politiques

Conclusion et prochaines étapes

Pré requis

  • Solides connaissances en ingénierie de la sécurité, administration des systèmes ou opérations cloud
  • Connaissance des concepts d’IA/ML et du comportement des grands modèles de langage (LLM)
  • Expérience en gestion des identités et de l’accès (IAM) et en conception de systèmes sécurisés

Public cible

  • Ingénieurs de la sécurité et membres de l’équipe red-team
  • Ingénieurs en opérations IA et ingénieurs de plateforme
  • Responsables de la conformité et gestionnaires de risques
  • Chefs d’ingénierie responsables des déploiements d’agents

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires