Formation ML Security and AI Red Teaming
AI systems introduce novel attack surfaces: prompt injection, data poisoning, model extraction, adversarial inputs, and supply chain compromises. Traditional application security is necessary but insufficient. ML security requires understanding both classic vulnerability classes and AI-specific threats including the OWASP Top 10 for LLM Applications.
This instructor-led, live training (online or onsite) is aimed at security and ML engineers who need to identify, test, and defend against attacks on ML models and LLM-powered applications.
By the end of this training, participants will be able to:
- Threat-model AI systems across the ML lifecycle from training to inference.
- Execute red-team exercises against LLM applications including prompt injection and jailbreak attempts.
- Detect and defend against data poisoning, model extraction, and membership inference attacks.
- Apply the OWASP Top 10 for LLM Applications to real-world deployments.
- Implement input validation, output filtering, and guardrail strategies.
- Conduct supply chain security assessments for model artifacts and dependencies.
- Build an AI security testing playbook for continuous validation.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training, please contact us to arrange.
Plan du cours
The AI Threat Landscape
- Why AI security is different: non-determinism, opaque reasoning, prompt as attack surface
- Attack taxonomy: training-time vs inference-time vs supply chain attacks
- The ML adversary model: who attacks AI systems and why
OWASP Top 10 for LLM Applications
- Prompt injection: direct and indirect attack vectors
- Insecure output handling and cross-plugin request forgery
- Training data poisoning and supply chain vulnerabilities
- Model denial of service, sensitive information disclosure, and excessive agency
- Hands-on lab: exploiting each OWASP category against a test application
Prompt Injection and Jailbreak Red Teaming
- Taxonomy of injection techniques: direct, indirect, multi-turn, and multi-modal
- Automated red-teaming with Giskard, Garak, and custom fuzzing tools
- Jailbreak classification and defense evaluation
- Building a red-team harness for continuous LLM security testing
Model-Level Attacks and Defenses
- Model extraction: stealing model weights and functionality via API queries
- Membership inference: determining if data was in the training set
- Adversarial examples: perturbations that fool classifiers and embeddings
- Data poisoning: corrupting training data to induce backdoors or degrade performance
Input and Output Security Controls
- Input sanitization beyond traditional web defenses
- Output filtering: toxicity, PII leakage, hallucinated code execution
- Guardrails as security infrastructure: NeMo, Guardrails AI, and custom policies
- Structured output enforcement as a security boundary
AI Supply Chain Security
- Model provenance: verifying model authenticity and integrity
- Dependency scanning for ML frameworks and model formats
- Secure model serving: sandboxing, network isolation, and least-privilege access
- Vetting fine-tuned and community models for embedded malware
Operational Security for AI Systems
- Access control for model endpoints, vector stores, and agent tools
- Audit logging for every model interaction and decision
- Incident response for AI-specific breaches: when the model itself is compromised
- Continuous security testing in CI/CD for ML pipelines
Building an AI Security Program
- AI security maturity model and roadmap
- Integrating AI security into existing AppSec and cloud security programs
- Governance frameworks and emerging regulations for AI systems
- Creating and maintaining an organizational AI security playbook
Pré requis
- Experience deploying ML models or LLM applications in production.
- Familiarity with security concepts including authentication, authorization, and threat modeling.
- Python proficiency for adversarial testing exercises.
Audience
- Security engineers expanding into AI/ML threat surfaces.
- ML engineers responsible for model safety and robustness.
- Red team members adding AI systems to their testing scope.
Cours à partir de 4 + personnes. Pour un entraînement individuel ou en petit groupe, veuillez demander un devis.
Formation ML Security and AI Red Teaming - Réservation
Formation ML Security and AI Red Teaming - Demande de renseignements
ML Security and AI Red Teaming - Demande d'informations consulting
Cours à venir
Cours Similaires
ISACA Avancé en gestion de la sécurité de l'IA (AAISM)
21 HeuresL'AAISM est un cadre avancé d'évaluation, de gouvernance et de gestion des risques de sécurité dans les systèmes d'intelligence artificielle.
Cette formation en direct, dispensée par un formateur (en ligne ou sur place), s'adresse aux professionnels de niveau avancé qui souhaitent mettre en œuvre des mesures de contrôle de sécurité et des pratiques de gouvernance efficaces pour leurs environnements d'IA d'entreprise.
À l'issue de ce programme, les participants seront en mesure de :
- Évaluer les risques de sécurité de l'IA à l'aide de méthodologies reconnues par l'industrie.
- Mettre en œuvre des modèles de gouvernance pour un déploiement responsable de l'IA.
- Aligner les politiques de sécurité de l'IA sur les objectifs organisationnels et les attentes réglementaires.
- Renforcer la résilience et la responsabilité au sein des opérations dirigées par l'IA.
Format du cours
- Conférences animées soutenues par des analyses d'experts.
- Ateliers pratiques et activités fondées sur l'évaluation.
- Exercices appliqués utilisant des scénarios réels de gouvernance de l'IA.
Options de personnalisation du cours
- Pour une formation sur mesure alignée sur votre stratégie d'IA organisationnelle, veuillez nous contacter pour personnaliser le cours.
Gouvernance, conformité et sécurité de l'IA pour les dirigeants d'entreprise
14 HeuresCette formation en présentiel ou en ligne, animée par un formateur expert, dans Canada s'adresse aux dirigeants d'entreprise de niveau intermédiaire souhaitant comprendre comment gouverner et sécuriser les systèmes d'IA de manière responsable et conforme aux cadres réglementaires mondiaux émergents, tels que le Règlement sur l'IA de l'UE, le RGPD, la norme ISO/IEC 42001 et l'Exécutoire présidentiel des États-Unis sur l'IA.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les risques juridiques, éthiques et réglementaires associés à l'utilisation de l'IA au sein des différents départements.
- Interpréter et appliquer les principaux cadres de gouvernance de l'IA (Règlement sur l'IA de l'UE, NIST AI RMF, ISO/IEC 42001).
- Établir des politiques de sécurité, d'audit et de supervision pour le déploiement de l'IA dans l'entreprise.
- Élaborer des lignes directrices pour les achats et l'utilisation des systèmes d'IA tiers et internes.
AI-Driven Observability: From Logs to LLM-Powered Insights
14 HeuresThis instructor-led, live training in Canada (online or onsite) is aimed at observability and SRE engineers who want to integrate LLMs and AI into their monitoring, alerting, and incident analysis workflows.
AIOps en action : prédiction des incidents et automatisation de l'analyse des causes racines
14 HeuresL'AIOps (Intelligence artificielle pour les opérations informatiques) est de plus en plus utilisé pour prédire les incidents avant qu'ils ne se produisent et automatiser l'analyse des causes racines (RCA) afin de minimiser les temps d'arrêt et d'accélérer la résolution.
Cette formation en présentiel, animée par un instructeur (en ligne ou sur site), s'adresse aux professionnels de l'informatique de niveau avancé qui souhaitent mettre en œuvre des analyses prédictives, automatiser les corrections et concevoir des flux de travail d'analyse des causes racines intelligents à l'aide d'outils AIOps et de modèles d'apprentissage automatique.
À la fin de cette formation, les participants seront en mesure de :
- Construire et entraîner des modèles ML pour détecter les patterns conduisant à des défaillances du système.
- Automatiser les flux de travail d'analyse des causes racines sur la base de la corrélation de logs et de métriques provenant de plusieurs sources.
- Intégrer les processus d'alerte et de correction dans les plateformes existantes.
- Déployer et mettre à l'échelle des pipelines AIOps intelligents dans des environnements de production.
Format du cours
- Conférence interactive et discussion.
- De nombreux exercices et pratiques.
- Mise en œuvre pratique dans un environnement de laboratoire en temps réel.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Fondamentaux de l'AIOps : Surveillance, corrélation et alertes intelligentes
14 HeuresL'AIOps (Intelligence artificielle pour les opérations informatiques) est une pratique qui applique le machine learning et l'analytique pour automatiser et améliorer les opérations informatiques, particulièrement en matière de surveillance, de détection d'incidents et de réponse.
Cette formation en présentiel ou en ligne, animée par un formateur, s'adresse aux professionnels des opérations informatiques de niveau intermédiaire souhaitant mettre en œuvre des techniques d'AIOps pour corréler les métriques et les logs, réduire le bruit des alertes et améliorer l'observabilité grâce à l'automatisation intelligente.
À la fin de cette formation, les participants seront capables de :
- Comprendre les principes et l'architecture des plateformes d'AIOps.
- Corréler les données entre les logs, les métriques et les traces pour identifier les causes racines.
- Réduire la fatigue des alertes grâce à un filtrage intelligent et à la suppression du bruit.
- Utiliser des outils open source ou commerciaux pour surveiller et répondre automatiquement aux incidents.
Format du cours
- Cours interactif et discussions.
- De nombreux exercices et mises en pratique.
- Mise en œuvre concrète dans un environnement de laboratoire en direct.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Création d'un pipeline AIOps avec des outils open source
14 HeuresUn pipeline AIOps entièrement conçu avec des outils open source permet aux équipes de concevoir des solutions rentables et flexibles pour l'observabilité, la détection d'anomalies et l'alerte intelligente dans des environnements de production.
Cette formation animée par un instructeur (en ligne ou en présentiel) s'adresse aux ingénieurs de niveau avancé qui souhaitent créer et déployer un pipeline AIOps de bout en bout en utilisant des outils tels que Prometheus, ELK, Grafana et des modèles de machine learning personnalisés.
À l'issue de cette formation, les participants seront en mesure de :
- Concevoir une architecture AIOps en n'utilisant que des composants open source.
- Collecter et normaliser les données provenant des journaux, des métriques et des traces.
- Appliquer des modèles de machine learning pour détecter les anomalies et prédire les incidents.
- Automatiser l'alerte et la remédiation à l'aide d'outils open source.
Format du cours
- Conférence interactive et discussions.
- De nombreux exercices et pratiques.
- Mise en œuvre pratique dans un environnement de laboratoire en direct.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Gestion des risques et sécurité de l’IA dans le secteur public
7 HeuresL’intelligence artificielle (IA) introduit de nouvelles dimensions en matière de risques opérationnels, de défis de gouvernance et d’exposition aux cybermenaces pour les organismes et ministères gouvernementaux.
Cette formation en présentiel ou en ligne, dispensée par un formateur, s’adresse aux professionnels de la technologie de l’information (TI) et de la gestion des risques du secteur public ayant peu d’expérience préalable avec l’IA, qui souhaitent comprendre comment évaluer, surveiller et sécuriser les systèmes d’IA dans un contexte gouvernemental ou réglementaire.
À la fin de cette formation, les participants seront en mesure de :
- Interpréter les concepts clés de risque liés aux systèmes d’IA, y compris le biais, l’imprévisibilité et la dérive du modèle.
- Appliquer des cadres de gouvernance et de vérification spécifiques à l’IA, tels que le NIST AI RMF et l’ISO/IEC 42001.
- Reconnaître les cybermenaces ciblant les modèles d’IA et les pipelines de données.
- Établir des plans de gestion des risques interministériels et l’alignement des politiques pour le déploiement de l’IA.
Format du cours
- Conférence interactive et discussion sur des cas d’usage du secteur public.
- Exercices sur les cadres de gouvernance de l’IA et cartographie des politiques.
- Modélisation des menaces et évaluation des risques basée sur des scénarios.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Sécurité de l'IA pour les équipes de sécurité
35 HeuresCe cours offre une introduction pratique à la sécurisation des applications modernes alimentées par l'IA, des API, des copilotes et des agents autonomes. Les participants apprennent en quoi la sécurité de l'IA diffère de la sécurité web traditionnelle, explorent les menaces courantes spécifiques à l'IA telles que l'injection de prompts, le poisonnement du RAG et l'abus d'agents, et comprennent comment protéger les systèmes IA à l'aide de défenses multicouches incluant les WAF, les passerelles IA, la sécurité des API et les garde-fous. Grâce à des laboratoires pratiques et à des exemples du monde réel, les élèves acquièrent les compétences nécessaires pour identifier les schémas d'attaque de l'IA, sécuriser les applications basées sur des LLM et déployer des défenses efficaces à l'exécution pour les environnements de production.
Introduction à la gestion de la confiance, des risques et de la sécurité dans l'IA (AI TRiSM)
21 HeuresCette formation en présentiel ou en ligne à Canada s'adresse aux professionnels de l'informatique débutants et intermédiaires qui souhaitent comprendre et mettre en œuvre l'AI TRiSM dans leurs organisations.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les concepts clés et l'importance de la gestion de la confiance, des risques et de la sécurité dans l'IA.
- Identifier et atténuer les risques associés aux systèmes d'IA.
- Mettre en œuvre les meilleures pratiques de sécurité pour l'IA.
- Comprendre la conformité réglementaire et les considérations éthiques pour l'IA.
- Élaborer des stratégies pour une gouvernance et une gestion efficaces de l'IA.
Autonomous Operations with AI Agents
14 HeuresThis instructor-led, live training in Canada (online or onsite) is aimed at SRE and DevOps engineers who want to design, build, and safely deploy AI agents for autonomous IT operations.
Développement d'applications LLM sécurisées et responsables
14 HeuresCette formation en présentiel ou à distance, animée par un instructeur, en Canada s'adresse aux développeurs, architectes et chefs de produit IA de niveau intermédiaire à avancé souhaitant identifier et atténuer les risques associés aux applications alimentées par des LLM, notamment les injections de prompts, les fuites de données et les sorties non filtrées, tout en intégrant des mesures de sécurité telles que la validation des entrées, la supervision humaine dans la boucle et les garde-fous de sortie.
À la fin de cette formation, les participants seront en mesure de :
- Comprendre les vulnérabilités fondamentales des systèmes basés sur des LLM.
- Appliquer des principes de conception sécurisée à l'architecture des applications LLM.
- Utiliser des outils tels que Guardrails AI et LangChain pour la validation, le filtrage et la sécurité.
- Intégrer des techniques comme le sand-boxing, le test d'intrusion (red teaming) et la révision humaine dans la boucle au sein de pipelines de production.
Créer des applications IA sécurisées
21 HeuresCe cours enseigne aux développeurs de logiciels comment construire des applications alimentées par l'IA de manière sécurisée dès la conception. Les participants apprennent à protéger les chatbots, les copilotes, les pipelines RAG et les agents IA contre les menaces spécifiques à l'IA telles que l'injection de prompt, l'empoisonnement des données, l'abus d'outils, la fuite de secrets et la gestion non sécurisée de la sortie du modèle. Le cours couvre la conception sécurisée des prompts, la sécurité RAG, l'accès au moindre privilège, les garde-fous et les tests par intrusion, aidant les développeurs à créer des fonctionnalités IA qui sont sûres, fiables et résilientes dans des environnements réels.
AIOps d'entreprise avec Splunk, Moogsoft et Dynatrace
14 HeuresLes plateformes AIOps d'entreprise comme Splunk, Moogsoft et Dynatrace offrent des capacités puissantes pour détecter les anomalies, corréler les alertes et automatiser les interventions au sein d'environnements IT de grande envergure.
Cette formation en présentiel (en ligne ou sur site), animée par un formateur, s'adresse aux équipes IT d'entreprise de niveau intermédiaire souhaitant intégrer des outils AIOps dans leur pile d'observabilité existante et leurs workflows opérationnels.
À la fin de cette formation, les participants seront en mesure de :
- Configurer et intégrer Splunk, Moogsoft et Dynatrace dans une architecture AIOps unifiée.
- Corréler les métriques, les journaux et les événements sur des systèmes distribués grâce à l'analyse pilotée par l'IA.
- Automatiser la détection, la hiérarchisation et la réponse aux incidents à l'aide de workflows intégrés et personnalisés.
- Optimiser les performances, réduire le MTTR (temps moyen de résolution) et améliorer l'efficacité opérationnelle à l'échelle de l'entreprise.
Format du cours
- Conférence interactive et discussions.
- De nombreux exercices et mises en pratique.
- Mise en œuvre pratique dans un environnement de laboratoire en temps réel.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de prendre les dispositions nécessaires.
Mise en œuvre d'AIOps avec Prometheus, Grafana et ML
14 HeuresPrometheus et Grafana sont des outils largement adoptés pour l'observabilité dans les infrastructures modernes, tandis que l'apprentissage automatique (machine learning) enrichit ces outils avec des insights prédictifs et intelligents pour automatiser les décisions opérationnelles.
Cette formation en présentiel ou à distance, animée par un formateur expert, s'adresse aux professionnels de l'observabilité de niveau intermédiaire souhaitant moderniser leur infrastructure de surveillance en intégrant les pratiques AIOps à l'aide de Prometheus, Grafana et des techniques de ML.
À l'issue de cette formation, les participants seront capables de :
- Configurer Prometheus et Grafana pour assurer l'observabilité à travers les systèmes et les services.
- Collecter, stocker et visualiser des données chronologiques (time series) de haute qualité.
- Appliquer des modèles d'apprentissage automatique pour la détection d'anomalies et la prévision.
- Construire des règles d'alerte intelligentes basées sur des insights prédictifs.
Format de la formation
- Conférence interactive et discussions.
- Nombreux exercices et exercices pratiques.
- Implémentation pratique dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de l'organiser.
LLMOps: Production LLM Operations and Governance
14 HeuresThis instructor-led, live training in Canada (online or onsite) is aimed at ML engineers and platform teams who need to build robust operational pipelines for LLM-powered applications at scale.
