Prenez contact avec nous

Plan du cours

Le paysage des menaces pour l'IA

  • Pourquoi la sécurité de l'IA est différente : non-déterminisme, raisonnement opaque, l'invite (prompt) comme surface d'attaque.
  • Taxonomie des attaques : attaques au moment de l'entraînement, au moment de l'inférence et dans la chaîne d'approvisionnement.
  • Modèle de l'adversaire en ML : qui attaque les systèmes d'IA et pourquoi.

Top 10 OWASP pour les applications LLM

  • Injection d'invites : vecteurs d'attaque directs et indirects.
  • Gestion non sécurisée des sorties et falsification de requêtes inter-plugins.
  • Empoisonnement des données d'entraînement et vulnérabilités de la chaîne d'approvisionnement.
  • Déni de service du modèle, divulgation d'informations sensibles et agence excessive.
  • Lab pratique : exploitation de chaque catégorie OWASP contre une application de test.

Red Teaming sur l'injection d'invites et le jailbreak

  • Taxonomie des techniques d'injection : directe, indirecte, multi-tour et multimodale.
  • Red teaming automatisé avec Giskard, Garak et des outils de fuzzing personnalisés.
  • Classification du jailbreak et évaluation des défenses.
  • Création d'un cadre de red teaming pour les tests de sécurité continus des LLM.

Attaques et défenses au niveau du modèle

  • Extraction de modèles : vol des poids et des fonctionnalités du modèle via des requêtes API.
  • Inférence d'appartenance : déterminer si des données ont été utilisées dans l'ensemble d'entraînement.
  • Exemples adversariaux : perturbations conçues pour tromper les classificateurs et les embeddings.
  • Empoisonnement des données : corruption des données d'entraînement pour introduire des portes dérobées ou dégrader les performances.

Contrôles de sécurité des entrées et sorties

  • Sanitisation des entrées au-delà des défenses web traditionnelles.
  • Filtrage des sorties : toxicité, fuite de données personnelles (PII), exécution de code halluciné.
  • Les garde-fous (guardrails) en tant qu'infrastructure de sécurité : NeMo, Guardrails AI et politiques personnalisées.
  • L'application des sorties structurées comme une frontière de sécurité.

Sécurité de la chaîne d'approvisionnement en IA

  • Provenance des modèles : vérification de l'authenticité et de l'intégrité des modèles.
  • Analyse des dépendances pour les frameworks ML et les formats de modèles.
  • Détection sécurisée des modèles : sandboxing, isolation réseau et accès au moindre privilège.
  • Évaluation des modèles peaufinés (fine-tuned) et communautaires à la recherche de malwares intégrés.

Sécurité opérationnelle pour les systèmes d'IA

  • Contrôle d'accès pour les points de terminaison des modèles, les magasins de vecteurs et les outils agents.
  • Journaux d'audit pour chaque interaction avec le modèle et chaque décision.
  • Réponse aux incidents spécifiques à l'IA : lorsque le modèle lui-même est compromis.
  • Tests de sécurité continus dans les pipelines CI/CD pour le ML.

Mise en place d'un programme de sécurité pour l'IA

  • Modèle de maturité et feuille de route pour la sécurité de l'IA.
  • Intégration de la sécurité de l'IA dans les programmes existants de sécurité des applications (AppSec) et de la sécurité cloud.
  • Cadres de gouvernance et réglementations émergentes pour les systèmes d'IA.
  • Création et maintien d'un jeu de procédures de sécurité de l'IA organisationnel.

Pré requis

  • Expérience dans le déploiement de modèles ML ou d'applications LLM en production.
  • Familiarité avec les concepts de sécurité, notamment l'authentification, l'autorisation et la modélisation des menaces.
  • Maîtrise de Python pour les exercices de tests adversariaux.

Audience

  • Ingénieurs en sécurité élargissant leur expertise aux surfaces de menace IA/ML.
  • Ingénieurs ML responsables de la sécurité et de la robustesse des modèles.
  • Membres des équipes de red team ajoutant les systèmes d'IA à leur périmètre de tests.
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires