Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Le paysage des menaces pour l'IA
- Pourquoi la sécurité de l'IA est différente : non-déterminisme, raisonnement opaque, l'invite (prompt) comme surface d'attaque.
- Taxonomie des attaques : attaques au moment de l'entraînement, au moment de l'inférence et dans la chaîne d'approvisionnement.
- Modèle de l'adversaire en ML : qui attaque les systèmes d'IA et pourquoi.
Top 10 OWASP pour les applications LLM
- Injection d'invites : vecteurs d'attaque directs et indirects.
- Gestion non sécurisée des sorties et falsification de requêtes inter-plugins.
- Empoisonnement des données d'entraînement et vulnérabilités de la chaîne d'approvisionnement.
- Déni de service du modèle, divulgation d'informations sensibles et agence excessive.
- Lab pratique : exploitation de chaque catégorie OWASP contre une application de test.
Red Teaming sur l'injection d'invites et le jailbreak
- Taxonomie des techniques d'injection : directe, indirecte, multi-tour et multimodale.
- Red teaming automatisé avec Giskard, Garak et des outils de fuzzing personnalisés.
- Classification du jailbreak et évaluation des défenses.
- Création d'un cadre de red teaming pour les tests de sécurité continus des LLM.
Attaques et défenses au niveau du modèle
- Extraction de modèles : vol des poids et des fonctionnalités du modèle via des requêtes API.
- Inférence d'appartenance : déterminer si des données ont été utilisées dans l'ensemble d'entraînement.
- Exemples adversariaux : perturbations conçues pour tromper les classificateurs et les embeddings.
- Empoisonnement des données : corruption des données d'entraînement pour introduire des portes dérobées ou dégrader les performances.
Contrôles de sécurité des entrées et sorties
- Sanitisation des entrées au-delà des défenses web traditionnelles.
- Filtrage des sorties : toxicité, fuite de données personnelles (PII), exécution de code halluciné.
- Les garde-fous (guardrails) en tant qu'infrastructure de sécurité : NeMo, Guardrails AI et politiques personnalisées.
- L'application des sorties structurées comme une frontière de sécurité.
Sécurité de la chaîne d'approvisionnement en IA
- Provenance des modèles : vérification de l'authenticité et de l'intégrité des modèles.
- Analyse des dépendances pour les frameworks ML et les formats de modèles.
- Détection sécurisée des modèles : sandboxing, isolation réseau et accès au moindre privilège.
- Évaluation des modèles peaufinés (fine-tuned) et communautaires à la recherche de malwares intégrés.
Sécurité opérationnelle pour les systèmes d'IA
- Contrôle d'accès pour les points de terminaison des modèles, les magasins de vecteurs et les outils agents.
- Journaux d'audit pour chaque interaction avec le modèle et chaque décision.
- Réponse aux incidents spécifiques à l'IA : lorsque le modèle lui-même est compromis.
- Tests de sécurité continus dans les pipelines CI/CD pour le ML.
Mise en place d'un programme de sécurité pour l'IA
- Modèle de maturité et feuille de route pour la sécurité de l'IA.
- Intégration de la sécurité de l'IA dans les programmes existants de sécurité des applications (AppSec) et de la sécurité cloud.
- Cadres de gouvernance et réglementations émergentes pour les systèmes d'IA.
- Création et maintien d'un jeu de procédures de sécurité de l'IA organisationnel.
Pré requis
- Expérience dans le déploiement de modèles ML ou d'applications LLM en production.
- Familiarité avec les concepts de sécurité, notamment l'authentification, l'autorisation et la modélisation des menaces.
- Maîtrise de Python pour les exercices de tests adversariaux.
Audience
- Ingénieurs en sécurité élargissant leur expertise aux surfaces de menace IA/ML.
- Ingénieurs ML responsables de la sécurité et de la robustesse des modèles.
- Membres des équipes de red team ajoutant les systèmes d'IA à leur périmètre de tests.
14 Heures