Plan du cours
Jour 1
Anatomie d’un Agent IA Moderne
Au-delà des chatbots : les agents comme systèmes autonomes de raisonnement et d’action
Paradigmes réactifs, proactifs, hybrides et orientés par les objectifs
Composants clés : perception, planification, mémoire, utilisation d’outils, action
Arbres de décision entre architectures mono-agent et multi-agent
Frameworks d’Agents et Écosystème Moderne
LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis
Comparaison avec les frameworks classiques tels que JADE et SPADE
Choix d’un framework selon les exigences de production
Appels d’outils, appels de fonctions et sorties structurées
Pratique : création d’un agent Python mono-agent avec appels d’outils
Architectures de Systèmes Multi-Agents
Conceptions centralisées, décentralisées, hybrides et en couches des MAS
FIPA ACL, transmission de messages et équivalents modernes
Modèles de coordination : planification, négociation, synchronisation
Comportements émergents et auto-organisation dans les populations d’agents
Prise de décision et apprentissage chez les agents
Théorie des jeux pour les interactions coopératives et compétitives entre agents
Apprentissage par renforcement dans les environnements multi-agents
Apprentissage par transfert et partage de connaissances entre agents
Résolution des conflits et construction de la confiance entre agents coordonnés
Jour 2
Fondements Multi-Modaux pour les Agents
IA multi-modale comme flux de travail unifié couvrant texte, image, voix et vidéo
Modèles multi-modaux de pointe : GPT-4 Vision, Gemini, Claude, Whisper
Techniques de fusion pour combiner les modalités au sein de la boucle de raisonnement de l’agent
Compromis entre latence, coût et précision dans les pipelines multi-modaux
Construction de la Couche de Perception
Traitement d’images pour les agents : classification, légendage, détection d’objets
Reconnaissance vocale avec Whisper ASR et transcription en continu
Synthèse text-to-speech et interaction vocale naturelle
Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d’outils
Pratique - Construction d’un Agent Multi-Modale en Python
Définition de la tâche de l’agent, de la fenêtre contextuelle et de l’inventaire d’outils
Connexion complète des API GPT-4 Vision et Whisper
Mise en œuvre de la mémoire, de l’état et de la gestion de la conversation
Ajout d’appels d’outils produisant des effets secondaires réels en toute sécurité
Pratique - Orchestration d’un Système Multi-Agent
Composition d’agents spécialisés avec AutoGen ou CrewAI
Définition des rôles, responsabilités et protocoles de communication inter-agents
Allocation des ressources et coordination dans un environnement simulé
Journalisation du raisonnement, des appels d’outils et des décisions des agents pour inspection et audit
Jour 3
Surface de Menace des Agents IA en Production
Ce qui rend l’IA agentic uniquevment vulnérable par rapport aux logiciels traditionnels
Surface d’attaque : couches de données, modèle, invite, outil, sortie et interface
Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d’outils
Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle
Attaques Adversariales en Pratique
Exemples adversariaux et méthodes de perturbation : FGSM, PGD, DeepFool
Scénarios d’attaques en boîte blanche versus boîte noire
Attaques d’inversion de modèle et d’inférence d’appartenance
Poisonnement des données et injection de portes dérobées lors de l’entraînement
Injection d’invites, contournement de sécurité (jailbreaking) et détournement d’outils dans les agents basés sur des LLM
Techniques de Défense et Durcissement des Modèles
Stratégies d’entraînement adversarial et d’augmentation des données
Distillation défensive et autres techniques de robustesse
Prétraitement des entrées, masquage des gradients et régularisation
Vie privée différentielle, injection de bruit et budgets de confidentialité
Apprentissage fédéré et agrégation sécurisée pour l’entraînement distribué
Pratique avec la Boîte à Outils de Robustesse Adversariale
Simulation d’attaques contre l’agent multi-modal construit au Jour 2
Mesure de la robustesse sous perturbation et quantification de la dégradation
Application itérative des défenses et réévaluation des taux de succès des attaques
Test sous charge des chemins d’appels d’outils et des vecteurs d’injection d’invites
Jour 4
Cadres de Gestion des Risques pour l’IA
Cadre NIST AI Risk Management Framework : gouverner, cartographier, mesurer, gérer
ISO/IEC 42001 et normes émergentes spécifiques à l’IA
Alignement des risques IA avec les cadres existants de GRC (Gouvernance, Risques, Conformité) d’entreprise
Responsabilité, traçabilité et exigences de documentation en matière d’IA
Conformité Réglementaire pour les Systèmes Agentic
EU AI Act : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque
Implications du RGPD et de la CCPA pour les pipelines de données des agents
Ordre Exécutif des États-Unis sur une IA sûre, sécurisée et digne de confiance
Directives sectorielles pour la finance, la santé et les services publics
Risque tiers et utilisation des outils d’IA par les fournisseurs
Éthique, Biais et Expliquabilité
Détection et atténuation des biais dans la perception et le raisonnement des agents
Expliquabilité et transparence comme propriétés pertinentes pour la sécurité
Équité, préjudices indirects et déploiement responsable
Conception d’un comportement d’agent inclusif et auditable
Déploiement en Production, Surveillance et Gestion des Incidents
Modèles de déploiement sécurisés pour les systèmes mono-agents et multi-agents
Surveillance continue de la dérive, des anomalies et des abus
Journalisation, pistes d’audit et préparation aux investigations forensiques pour les actions des agents
Plans d’intervention aux incidents de sécurité IA et stratégies de récupération
Études de cas de violations réelles de l’IA et enseignements tirés
Projet Final et Synthèse
Revue du système multi-agent multi-modal construit tout au long du cours
Revue de bout en bout du pipeline : conception, construction, sécurisation, gouvernance, déploiement
Auto-évaluation du système selon les fonctions du NIST AI RMF
Perspectives futures sur les tendances émergentes en matière d’IA agentic et de sécurité de l’IA
Résumé et Prochaines Étapes
Pré requis
Public cible
Ingénieurs et architectes IA concevant des systèmes agentic à des fins de production. Professionnels de la cybersécurité, des risques et de la conformité responsables de l’assurance IA dans des secteurs réglementés tels que la finance, la santé et le conseil. Développeurs seniors et chefs de solution intégrant des capacités multi-modales et multi-agents dans des plateformes d’entreprise.
Nos clients témoignent (3)
Le formateur est patient et très aidant. Il maîtrise bien le sujet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Formation - Agentic AI for Business Automation: Use Cases & Integration
Traduction automatique
Bon mélange de connaissances et de pratique
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Agentic AI for Enterprise Applications
Traduction automatique
Le mélange de théorie et de pratique, ainsi que des perspectives de haut niveau et de bas niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Autonomous Decision-Making with Agentic AI
Traduction automatique
