Plan du cours

Fondements de l'IA et de la Sécurité

  • Ce qui rend les systèmes d'IA uniques du point de vue de la sécurité
  • Aperçu du cycle de vie de l'IA : données, formation, inférence et déploiement
  • Taxonomie de base des risques liés à l'IA : techniques, éthiques, juridiques et organisationnels

Vecteurs de Menace Spécifiques à l'IA

  • Exemples adversaires et manipulation du modèle
  • Inversion du modèle et risques de fuite de données
  • Em-poisonnement des données pendant les phases de formation
  • Risques dans l'IA générative (par exemple, utilisation abusive des LLM, injection de prompts)

Cadres de Sécurité Risk Management

  • Cadre AI de NIST Risk Management (NIST AI RMF)
  • ISO/IEC 42001 et autres normes spécifiques à l'IA
  • Mappage des risques liés à l'IA sur les cadres existants de gestion des risques et de la conformité d'entreprise (GRC)

Gouvernance Go et Principes de Conformité de l'IA

  • Comptabilité et auditabilité de l'IA
  • Transparence, explication et équité en tant que propriétés pertinentes pour la sécurité
  • Préjugés, discrimination et dommages à long terme

Prêt des Entreprises et AI Security Politiques

  • Définition des rôles et responsabilités dans les programmes de sécurité IA
  • Éléments de la politique : développement, achat, utilisation et retrait
  • Risques liés aux tiers et à l'utilisation d'outils AI par les fournisseurs

Cadre Réglementaire et Tendances Mondiales

  • Aperçu de la règlementation de l’UE sur l’IA et des régulations internationales
  • Décret exécutif des États-Unis sur une IA sûre, sécurisée et digne de confiance
  • Cadres nationaux émergents et orientations sectorielles spécifiques

Atelier Optionnel : Mappage des Risques et Auto-Évaluation

  • Mappage de cas réels d'utilisation de l'IA aux fonctions du cadre NIST AI RMF
  • Effectuer une auto-évaluation de base des risques liés à l’IA
  • Identifier les lacunes internes en matière de préparation à la sécurité de l'IA

Résumé et Prochaines Étapes

Pré requis

  • Une compréhension des principes de base de la cybersécurité
  • Expérience avec les cadres de gouvernance IT ou de gestion des risques
  • La familiarité avec les concepts généraux de l'IA est utile mais non obligatoire

Public cible

  • Équipes de sécurité informatique (IT)
  • Gestionnaires de risques
  • Professionnels de la conformité
 14 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires