Formation AI Security en Ville de Québec

AAISM est un cadre avancé pour évaluer, gouverner et gérer les risques de sécurité dans les systèmes d'intelligence artificielle.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels de niveau avancé souhaitant mettre en œuvre des contrôles et pratiques de gouvernance efficaces pour les environnements d'IA d'entreprise.

À la fin de ce programme, les participants seront prêts à :

• Évaluer les risques de sécurité de l'IA en utilisant des méthodologies reconnues dans l'industrie.
• Mettre en œuvre des modèles de gouvernance pour un déploiement responsable de l'IA.
• Aligner les politiques de sécurité de l'IA avec les objectifs organisationnels et les attentes réglementaires.
• Renforcer la résilience et la responsabilité au sein des opérations pilotées par l'IA.

Format de la Formation

• Des conférences animées soutenues par une analyse d'experts.
• Des ateliers pratiques et des activités basées sur l'évaluation.
• Des exercices appliqués utilisant des scénarios de gouvernance de l'IA du monde réel.

Options d'Personnalisation de la Formation

• Pour une formation sur mesure alignée à votre stratégie d'IA organisationnelle, veuillez nous contacter pour personnaliser le cours.

Cette formation dirigée par un instructeur (en ligne ou sur site) s'adresse aux professionnels IT débutants à intermédiaires qui souhaitent comprendre et mettre en œuvre AI TRiSM dans leurs organisations.

À la fin de cette formation, les participants seront en mesure de :

• Comprendre les concepts clés et l'importance de la gestion de la confiance, des risques et de la sécurité en IA.
• Identifier et atténuer les risques associés aux systèmes d'IA.
• Mettre en œuvre les meilleures pratiques de sécurité pour l'IA.
• Comprendre la conformité réglementaire et les considérations éthiques liées à l'IA.
• Développer des stratégies pour une gouvernance et une gestion efficaces de l'IA.

Ce cours couvre la gouvernance, la gestion des identités et les tests adverses pour les systèmes d'IA agente, en mettant l'accent sur les modèles de déploiement sécurisés pour les entreprises et des techniques pratiques de red-teaming.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux praticiens de niveau avancé souhaitant concevoir, sécuriser et évaluer des systèmes d'IA basés sur les agents dans des environnements de production.

À la fin de cette formation, les participants seront en mesure de :

• Définir des modèles et des politiques de gouvernance pour des déploiements d'IA agente sécurisés.
• Concevoir des flux d'identité et d'authentification non humains pour les agents avec un accès à privilèges minimums.
• Mettre en œuvre des contrôles d'accès, des traces d'audit et une observabilité adaptés aux agents autonomes.
• Planifier et exécuter des exercices de red-teaming pour découvrir les mauvais usages, les chemins d'escalade et les risques d'exfiltration de données.
• Atténuer les menaces courantes aux systèmes agente par le biais de politiques, de contrôles d'ingénierie et de surveillance.

Format du Cours

• Conférences interactives et ateliers de modélisation des menaces.
• Ateliers pratiques : provisionnement d'identité, application des politiques et simulation d'adversaires.
• Exercices de red-team/blue-team et évaluation finale du cours.

Options de Personnalisation du Cours

• Pour demander une formation personnalisée pour ce cours, merci de nous contacter pour organiser.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels intermédiaires de l'IA et de la cybersécurité qui souhaitent comprendre et aborder les vulnérabilités de sécurité spécifiques aux modèles et systèmes d'IA, en particulier dans des secteurs fortement réglementés tels que la finance, la gouvernance des données et le conseil.

À la fin de cette formation, les participants seront capables de :

• Comprendre les types d'attaques adverses ciblant les systèmes d'IA et les méthodes pour s'en défendre.
• Mettre en œuvre des techniques de renforcement du modèle pour sécuriser les pipelines d'apprentissage machine.
• Assurer la sécurité et l'intégrité des données dans les modèles d'apprentissage machine.
• Naviguer dans les exigences de conformité réglementaire liées à la sécurité de l'IA.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels de la sécurité de niveau avancé et aux spécialistes du ML qui souhaitent simuler des attaques sur les systèmes d'IA, découvrir des vulnérabilités et renforcer la robustesse des modèles d'IA déployés.

À la fin de cette formation, les participants seront en mesure de :

• Simuler des menaces réelles sur les modèles d'apprentissage automatique.
• Générer des exemples adverses pour tester la robustesse des modèles.
• Évaluer le périmètre d'attaque des API et pipelines IA.
• Concevoir des stratégies de red teaming pour les environnements de déploiement IA.

TinyML est une approche consistant à déployer des modèles d'apprentissage automatique sur des appareils à faible puissance et à ressources limitées, fonctionnant au bord du réseau.

Cette formation en ligne ou sur site, dirigée par un formateur, s'adresse aux professionnels de niveau avancé qui souhaitent sécuriser les pipelines TinyML et mettre en œuvre des techniques de préservation de la confidentialité dans les applications d'IA au bord.

À la fin de cette formation, les participants seront capables de :

• Identifier les risques de sécurité propres à l'inférence TinyML sur appareil.
• Mettre en œuvre des mécanismes de préservation de la confidentialité pour les déploiements d'IA au bord.
• Durcir les modèles TinyML et les systèmes embarqués contre les menaces adversaires.
• Appliquer les meilleures pratiques pour la gestion sécurisée des données dans des environnements contraints.

Format de la formation

• Des présentations captivantes soutenues par des discussions dirigées par un expert.
• Des exercices pratiques mettant l'accent sur des scénarios de menace réels.
• Une mise en œuvre pratique utilisant les outils de sécurité embarquée et TinyML.

Options de personnalisation de la formation

• Les organisations peuvent demander une version sur mesure de cette formation pour s'aligner avec leurs besoins spécifiques en matière de sécurité et de conformité.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux ingénieurs et professionnels de la sécurité de niveau intermédiaire qui souhaitent sécuriser les modèles d'IA déployés au bord contre des menaces telles que le piratage, la fuite de données, les entrées adverses et les attaques physiques.

À la fin de cette formation, les participants seront en mesure de :

• Identifier et évaluer les risques de sécurité dans les déploiements d'IA au bord.
• Appliquer des techniques de résistance aux manipulations et d'inférence chiffrée.
• Rendre les modèles déployés au bord plus robustes et sécuriser les pipelines de données.
• Mettre en œuvre des stratégies d'atténuation des menaces spécifiques aux systèmes embarqués et contraints.

Ce entraînement en direct, dirigé par un formateur (en ligne ou sur site), s'adresse aux professionnels avancés qui souhaitent mettre en œuvre et évaluer des techniques telles que l'apprentissage fédéré, le calcul multipartie sécurisé, le chiffrement homomorphique et la confidentialité différentielle dans les pipelines d'apprentissage automatique réels.

À la fin de cet entraînement, les participants seront en mesure de :

• Comprendre et comparer les techniques clés de préservation de la vie privée en ML.
• Mettre en œuvre des systèmes d'apprentissage fédéré à l'aide de cadres open-source.
• Appliquer la confidentialité différentielle pour un partage de données et une formation de modèles sûrs.
• Utiliser des techniques de chiffrement et de calcul sécurisé pour protéger les entrées et les sorties des modèles.

L’Intelligence Artificielle (IA) introduit de nouvelles dimensions de risques opérationnels, de défis de gouvernance et d’exposition aux menaces de cybersécurité pour les agences et départements gouvernementaux.

Cette formation dirigée par un instructeur (en ligne ou sur site) s’adresse aux professionnels des TIC et du risque du secteur public ayant une expérience limitée en IA et souhaitant comprendre comment évaluer, surveiller et sécuriser les systèmes d'IA dans un contexte gouvernemental ou réglementaire.

À la fin de cette formation, les participants seront en mesure de :

• Interpréter les concepts clés de risque liés aux systèmes d'IA, y compris le biais, l'imprévisibilité et le décalage des modèles.
• Appliquer des cadres de gouvernance et d’audit spécifiques à l'IA tels que NIST AI RMF et ISO/IEC 42001.
• Reconnaître les menaces de cybersécurité ciblant les modèles d'IA et les pipelines de données.
• Établir des plans de gestion des risques interdépartementaux et une harmonisation des politiques pour le déploiement de l'IA.

Format du cours

• Conférence interactive et discussion sur des cas d'utilisation dans le secteur public.
• Exercices de cadres de gouvernance de l'IA et cartographie des politiques.
• Modélisation de menaces basée sur des scénarios et évaluation des risques.

Options de personnalisation du cours

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser.

Cette formation encadrée par un instructeur en ligne ou sur site est destinée aux dirigeants d'entreprise de niveau intermédiaire qui souhaitent comprendre comment gouverner et sécuriser les systèmes d'IA de manière responsable et en conformité avec les cadres mondiaux émergents tels que le Règlement AI de l'UE, le RGPD, la norme ISO/IEC 42001 et l'Ordre exécutif sur l'IA des États-Unis.

À la fin de cette formation, les participants seront en mesure de :

• Comprendre les risques juridiques, éthiques et réglementaires liés à l'utilisation de l'IA dans différents départements.
• Interpréter et appliquer les principaux cadres de gouvernance de l'IA (Règlement AI de l'UE, NIST AI RMF, ISO/IEC 42001).
• Établir des politiques de sécurité, d'audit et de supervision pour le déploiement de l'IA dans l'entreprise.
• Développer des lignes directrices pour l'acquisition et l'utilisation de systèmes d'IA tiers et internes.

Cette formation dirigée par un instructeur, en ligne ou sur site à Ville de Québec, est destinée aux développeurs AI, architectes et gestionnaires de produits intermédiaires à avancés qui souhaitent identifier et atténuer les risques associés aux applications alimentées par des LLM (modèles linguistiques larges), notamment les injections de prompts, les fuites de données et les sorties non filtrées, tout en intégrant des contrôles de sécurité tels que la validation des entrées, le contrôle humain dans la boucle et les garde-fous de sortie.

À la fin de cette formation, les participants seront en mesure de :

• Comprendre les vulnérabilités fondamentales des systèmes basés sur les LLM.
• Appliquer des principes de conception sécurisés à l'architecture des applications LLM.
• Utiliser des outils tels que Guardrails AI et LangChain pour la validation, le filtrage et la sécurité.
• Intégrer des techniques telles que le bac à sable (sandboxing), les équipes rouges (red teaming) et l'examen humain dans la boucle dans des pipelines de production de qualité.

Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels de niveau intermédiaire en apprentissage automatique et cybersécurité qui souhaitent comprendre et atténuer les menaces émergentes contre les modèles d'IA, en utilisant à la fois des cadres conceptuels et des défenses pratiques telles que l'entraînement robuste et la confidentialité différentielle.

À la fin de cette formation, les participants seront capables de :

• Identifier et classer les menaces spécifiques à l'IA telles que les attaques adverses, l'inversion et l'empoisonnement.
• Utiliser des outils comme la Boîte à outils de robustesse adversaire (ART) pour simuler des attaques et tester les modèles.
• Appliquer des défenses pratiques, notamment l'entraînement adverse, l'injection de bruit et les techniques de préservation de la confidentialité.
• Concevoir des stratégies d'évaluation des modèles sensibles aux menaces dans des environnements de production.

Cette formation dirigée par un formateur (en ligne ou sur site) est destinée aux professionnels débutants en sécurité, gestion des risques et conformité informatiques qui souhaitent comprendre les concepts fondamentaux de la sécurité de l'IA, les vecteurs de menace et les cadres mondiaux tels que le NIST AI RMF et l'ISO/IEC 42001.

À la fin de cette formation, les participants seront en mesure de :

• Comprendre les risques de sécurité uniques introduits par les systèmes d'IA.
• Identifier les vecteurs de menace tels que les attaques adversaires, l'intoxication des données et l'inversion du modèle.
• Appliquer des modèles de gouvernance fondamentaux comme le Cadre de gestion des risques de l'IA NIST (NIST AI RMF).
• Aligner l'utilisation de l'IA sur les normes émergentes, les lignes directrices de conformité et les principes éthiques.

Basée sur les dernières directives du projet OWASP GenAI Security, les participants apprendront à identifier, évaluer et atténuer les menaces spécifiques aux IA à travers des exercices pratiques et des scénarios réels.