Formation Sécurisation des modèles d'IA : Menaces, attaques et défenses

L'AAISM est un cadre avancé d'évaluation, de gouvernance et de gestion des risques de sécurité dans les systèmes d'intelligence artificielle.

Cette formation en direct, dispensée par un formateur (en ligne ou sur place), s'adresse aux professionnels de niveau avancé qui souhaitent mettre en œuvre des mesures de contrôle de sécurité et des pratiques de gouvernance efficaces pour leurs environnements d'IA d'entreprise.

À l'issue de ce programme, les participants seront en mesure de :

• Évaluer les risques de sécurité de l'IA à l'aide de méthodologies reconnues par l'industrie.
• Mettre en œuvre des modèles de gouvernance pour un déploiement responsable de l'IA.
• Aligner les politiques de sécurité de l'IA sur les objectifs organisationnels et les attentes réglementaires.
• Renforcer la résilience et la responsabilité au sein des opérations dirigées par l'IA.

Format du cours

• Conférences animées soutenues par des analyses d'experts.
• Ateliers pratiques et activités fondées sur l'évaluation.
• Exercices appliqués utilisant des scénarios réels de gouvernance de l'IA.

Options de personnalisation du cours

• Pour une formation sur mesure alignée sur votre stratégie d'IA organisationnelle, veuillez nous contacter pour personnaliser le cours.

Cette formation en présentiel ou en ligne, animée par un formateur expert, dans Canada s'adresse aux dirigeants d'entreprise de niveau intermédiaire souhaitant comprendre comment gouverner et sécuriser les systèmes d'IA de manière responsable et conforme aux cadres réglementaires mondiaux émergents, tels que le Règlement sur l'IA de l'UE, le RGPD, la norme ISO/IEC 42001 et l'Exécutoire présidentiel des États-Unis sur l'IA.

À l'issue de cette formation, les participants seront en mesure de :

• Comprendre les risques juridiques, éthiques et réglementaires associés à l'utilisation de l'IA au sein des différents départements.
• Interpréter et appliquer les principaux cadres de gouvernance de l'IA (Règlement sur l'IA de l'UE, NIST AI RMF, ISO/IEC 42001).
• Établir des politiques de sécurité, d'audit et de supervision pour le déploiement de l'IA dans l'entreprise.
• Élaborer des lignes directrices pour les achats et l'utilisation des systèmes d'IA tiers et internes.

L’intelligence artificielle (IA) introduit de nouvelles dimensions en matière de risques opérationnels, de défis de gouvernance et d’exposition aux cybermenaces pour les organismes et ministères gouvernementaux.

Cette formation en présentiel ou en ligne, dispensée par un formateur, s’adresse aux professionnels de la technologie de l’information (TI) et de la gestion des risques du secteur public ayant peu d’expérience préalable avec l’IA, qui souhaitent comprendre comment évaluer, surveiller et sécuriser les systèmes d’IA dans un contexte gouvernemental ou réglementaire.

À la fin de cette formation, les participants seront en mesure de :

• Interpréter les concepts clés de risque liés aux systèmes d’IA, y compris le biais, l’imprévisibilité et la dérive du modèle.
• Appliquer des cadres de gouvernance et de vérification spécifiques à l’IA, tels que le NIST AI RMF et l’ISO/IEC 42001.
• Reconnaître les cybermenaces ciblant les modèles d’IA et les pipelines de données.
• Établir des plans de gestion des risques interministériels et l’alignement des politiques pour le déploiement de l’IA.

Format du cours

• Conférence interactive et discussion sur des cas d’usage du secteur public.
• Exercices sur les cadres de gouvernance de l’IA et cartographie des politiques.
• Modélisation des menaces et évaluation des risques basée sur des scénarios.

Options de personnalisation du cours

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.

Cette formation en présentiel ou en ligne à Canada s'adresse aux professionnels de l'informatique débutants et intermédiaires qui souhaitent comprendre et mettre en œuvre l'AI TRiSM dans leurs organisations.

À l'issue de cette formation, les participants seront en mesure de :

• Comprendre les concepts clés et l'importance de la gestion de la confiance, des risques et de la sécurité dans l'IA.
• Identifier et atténuer les risques associés aux systèmes d'IA.
• Mettre en œuvre les meilleures pratiques de sécurité pour l'IA.
• Comprendre la conformité réglementaire et les considérations éthiques pour l'IA.
• Élaborer des stratégies pour une gouvernance et une gestion efficaces de l'IA.

Cette formation en direct, encadrée par un instructeur, à Canada (en ligne ou sur site), s'adresse aux développeurs en IA, aux architectes et aux chefs de produit de niveau intermédiaire à avancé qui souhaitent identifier et atténuer les risques associés aux applications alimentées par des LLM, notamment l'injection de prompts, les fuites de données et les sorties non filtrées, tout en intégrant des mesures de sécurité telles que la validation des entrées, la supervision humaine en boucle et les garde-fous de sortie.

À l'issue de cette formation, les participants seront en mesure de :

• Comprendre les vulnérabilités fondamentales des systèmes basés sur les LLM.
• Appliquer des principes de conception sécurisée à l'architecture des applications LLM.
• Utiliser des outils tels que Guardrails AI et LangChain pour la validation, le filtrage et la sécurité.
• Intégrer des techniques telles que le sandboxing, les tests de pénétration par une équipe adverse (red teaming) et la revue humaine en boucle dans des pipelines de niveau production.

Cette formation animée par un instructeur à Canada (en ligne ou sur site) s'adresse aux professionnels de l'IA et de la cybersécurité de niveau intermédiaire qui souhaitent comprendre et résoudre les vulnérabilités de sécurité spécifiques aux modèles et aux systèmes d'IA, en particulier dans des industries hautement réglementées telles que la finance, la gouvernance des données et le conseil.

À la fin de cette formation, les participants seront capables de :

• Comprendre les types d'attaques adversariales ciblant les systèmes d'IA et les méthodes pour s'en défendre.
• Mettre en œuvre des techniques de durcissement des modèles pour sécuriser les pipelines d'apprentissage machine.
• Garantir la sécurité et l'intégrité des données dans les modèles d'apprentissage machine.
• Naviguer dans les exigences de conformité réglementaire liées à la sécurité de l'IA.

Ce cours en présentiel ou en ligne, dirigé par un formateur, est dispensé dans Canada et s'adresse aux ingénieurs en sécurité et aux responsables de la conformité qui souhaitent renforcer les déploiements d'EXO, contrôler l'accès aux modèles et gouverner les charges de travail d'IA fonctionnant entièrement en locale.

Cette formation en direct, animée par un formateur, à Canada (en ligne ou en présentiel), s'adresse aux professionnels débutants de la sécurité informatique, de la gestion des risques et de la conformité qui souhaitent comprendre les concepts fondamentaux de la sécurité de l'IA, les vecteurs de menace et les cadres mondiaux tels que le NIST AI RMF et l'ISO/IEC 42001.

À l'issue de cette formation, les participants seront en mesure de :

• Comprendre les risques de sécurité spécifiques introduits par les systèmes d'IA.
• Identifier les vecteurs de menace tels que les attaques adversariales, l'empoisonnement des données et l'inversion de modèle.
• Appliquer des modèles de gouvernance fondamentaux comme le Cadre de gestion des risques en matière d'IA du NIST.
• Aligner l'utilisation de l'IA avec les normes émergentes, les directives de conformité et les principes éthiques.

Fondée sur les dernières directives du projet OWASP GenAI Security, cette formation permet aux participants d'apprendre à identifier, évaluer et atténuer les menaces spécifiques à l'IA grâce à des exercices pratiques et des scénarios réels.

Cette formation en présentiel ou à distance, animée par un formateur, est dispensée à Canada et s'adresse aux professionnels avancés qui souhaitent mettre en œuvre et évaluer des techniques telles que l'apprentissage fédéré, le calcul multipartite sécurisé, le chiffrement homomorphe et la confidentialité différentielle dans des pipelines d'apprentissage automatique réels.

À la fin de cette formation, les participants seront capables de :

• Comprendre et comparer les principales techniques de préservation de la vie privée en ML.
• Mettre en œuvre des systèmes d'apprentissage fédéré à l'aide de cadres open-source.
• Appliquer la confidentialité différentielle pour un partage de données sécurisé et l'entraînement de modèles.
• Utiliser des techniques de chiffrement et de calcul sécurisé pour protéger les entrées et les sorties des modèles.

Cette formation en direct, animée par un formateur, à Canada (en ligne ou sur site), s'adresse aux professionnels de la sécurité avancés et aux spécialistes de l'IA souhaitant simuler des attaques contre des systèmes d'IA, découvrir leurs vulnérabilités et renforcer la robustesse des modèles d'IA déployés.

À l'issue de cette formation, les participants seront en mesure de :

• Simuler des menaces du monde réel visant les modèles d'apprentissage automatique.
• Générer des exemples adversariaux pour tester la robustesse des modèles.
• Évaluer la surface d'attaque des API et des pipelines d'IA.
• Concevoir des stratégies de test de pénétration pour les environnements de déploiement d'IA.

Cette formation en présentiel ou en ligne, animée par un formateur expert, s'adresse aux ingénieurs et aux professionnels de la sécurité de niveau intermédiaire qui souhaitent protéger les modèles d'IA déployés en périphérie contre des menaces telles que la falsification, les fuites de données, les entrées adverses et les attaques physiques.

À l'issue de cette formation, les participants seront en mesure de :

• Identifier et évaluer les risques de sécurité dans les déploiements d'IA en périphérie.
• Appliquer des techniques de résistance à la falsification et de chiffrement de l'inférence.
• Durcir les modèles déployés en périphérie et sécuriser les pipelines de données.
• Mettre en œuvre des stratégies d'atténuation des menaces spécifiques aux systèmes embarqués et contraints.

TinyML est une approche consistant à déployer des modèles d'apprentissage automatique sur des appareils à faible consommation et aux ressources limitées, fonctionnant au niveau de la périphérie du réseau.

Cette formation en direct animée par un formateur (en ligne ou sur place) s'adresse aux professionnels de niveau avancé souhaitant sécuriser les pipelines TinyML et mettre en œuvre des techniques préservant la confidentialité dans les applications d'IA en périphérie.

À l'issue de ce cours, les participants seront en mesure de :

• Identifier les risques de sécurité spécifiques à l'inférence TinyML sur les appareils.
• Mettre en œuvre des mécanismes préservant la confidentialité pour les déploiements d'IA en périphérie.
• Durcir les modèles TinyML et les systèmes embarqués contre les menaces adversariales.
• Appliquer les meilleures pratiques pour la gestion sécurisée des données dans des environnements contraints.

Format du cours

• Conférences engageantes soutenues par des discussions animées par des experts.
• Exercices pratiques mettant l'accent sur des scénarios de menace réalistes.
• Mise en œuvre concrète à l'aide d'outils de sécurité embarquée et de TinyML.

Options de personnalisation du cours

• Les organisations peuvent demander une version adaptée de cette formation pour l'aligner sur leurs exigences spécifiques en matière de sécurité et de conformité.

Ce cours porte sur la gouvernance, la gestion des identités et les tests adversariaux pour les systèmes d'IA agentic, en mettant l'accent sur les modèles de déploiement sécurisés pour les entreprises et les techniques pratiques de tests d'intrusion (red-teaming).

Cette formation en présentiel ou en ligne, animée par un instructeur, s'adresse aux praticiens avancés qui souhaitent concevoir, sécuriser et évaluer des systèmes d'IA basés sur des agents dans des environnements de production.

À l'issue de cette formation, les participants seront en mesure de :

• Définir des modèles de gouvernance et des politiques pour des déploiements d'IA agentic sécurisés.
• Concevoir des flux d'identité et d'authentification non humains pour les agents avec un accès en privilège minimum.
• Mettre en œuvre des contrôles d'accès, des journaux d'audit et de l'observabilité adaptés aux agents autonomes.
• Planifier et exécuter des exercices de tests d'intrusion pour identifier les utilisations abusives, les chemins de privilège et les risques d'exfiltration de données.
• Atténuer les menaces courantes aux systèmes agentic par des politiques, des contrôles techniques et de la surveillance.

Format du cours

• Conférences interactives et ateliers de modélisation des menaces.
• Labs pratiques : provisionnement des identités, application des politiques et simulation d'adversaires.
• Exercices rouge/bleu et évaluation finale du cours.

Options de personnalisation du cours

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser une rencontre.