Prenez contact avec nous

Plan du cours

Fondamentaux : Modèles de menaces pour l'IA agentic

  • Types de menaces agentic : usage abusif, élévation de privilèges, fuite de données et risques de la chaîne d'approvisionnement
  • Profils d'adversaires et capacités des attaquants spécifiques aux agents autonomes
  • Cartographie des actifs, des frontières de confiance et des points de contrôle critiques pour les agents

Gouvernance, politiques et gestion des risques

  • Cadres de gouvernance pour les systèmes agentic (rôles, responsabilités, portes de validation)
  • Conception des politiques : utilisation acceptable, règles d'escalade, gestion des données et traçabilité
  • Considérations de conformité et collecte de preuves pour les audits

Identité non humaine et authentification pour les agents

  • Conception des identités pour les agents : comptes de service, JWT et identifiants à courte durée de vie
  • Modèles d'accès en privilège minimum et provisionnement à la demande (just-in-time)
  • Cycle de vie de l'identité, rotation, délégation et stratégies de révocation

Contrôles d'accès, secrets et protection des données

  • Modèles de contrôle d'accès à grain fin et motifs basés sur les capacités pour les agents
  • Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
  • Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé des agents

Observabilité, audit et réponse aux incidents

  • Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et provenance
  • Intégration SIEM, seuils d'alerte et préparation aux analyses forensiques
  • Manuel d'exploitation et scénarios d'intervention pour les incidents liés aux agents et la confinement

Tests d'intrusion des systèmes agentic

  • Planification des exercices de tests d'intrusion : périmètre, règles d'engagement et basculement sûr
  • Techniques adversariales : injection d'invites, usage abusif des outils, manipulation de la chaîne de pensée et abus de l'API
  • Exécution d'attaques contrôlées et mesure de l'exposition et de l'impact

Endurcissement et atténuations

  • Contrôles techniques : throttling des réponses, activation des capacités et sandboxing
  • Contrôles de politiques et d'orchestration : flux d'approbation, humain dans la boucle et points d'ancrage de gouvernance
  • Défenses au niveau du modèle et de l'invite : validation des entrées, canonicalisation et filtres de sortie

Opérationnalisation des déploiements d'agents sécurisés

  • Modèles de déploiement : bac à sable, déploiement canari et déploiement progressif pour les agents
  • Contrôle des changements, pipelines de tests et vérifications de sécurité pré-déploiement
  • Gouvernance interfonctionnelle : manuels d'exploitation pour la sécurité, les services juridiques, le produit et les opérations

Projet final : Exercice rouge/bleu

  • Exécuter une attaque simulée de type test d'intrusion contre un environnement d'agent en bac à sable
  • Défendre, détecter et corriger en tant qu'équipe bleue en utilisant des contrôles et la télémétrie
  • Présenter les constatations, le plan de correction et les mises à jour des politiques

Résumé et prochaines étapes

Pré requis

  • Solides connaissances en ingénierie de la sécurité, administration système ou opérations cloud
  • Familiarité avec les concepts de l'IA/ML et le comportement des grands modèles de langage (LLM)
  • Expérience avec la gestion des identités et des accès (IAM) et la conception de systèmes sécurisés

Public cible

  • Ingénieurs en sécurité et experts en tests d'intrusion
  • Ingénieurs en opérations IA et ingénieurs plateformes
  • Officiers de conformité et gestionnaires des risques
  • Chefs d'équipe technique responsables des déploiements d'agents
 21 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires