Plan du cours
Jour 1
Anatomie d'un Agent IA Moderne
Au-delà des chatbots : les agents en tant que systèmes autonomes de raisonnement et d'action
Paradigmes des agents réactifs, proactifs, hybrides et dirigés par des objectifs
Composants clés : perception, planification, mémoire, utilisation d'outils, action
Au compromis entre la conception mono-agent et multi-agent
Cadres d'Agents et la Stack Moderne
LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis respectifs
Comparaison avec les frameworks classiques tels que JADE et SPADE
Choisir un framework en fonction des exigences de production
Appels d'outils, appels de fonctions et sorties structurées
Travaux pratiques : mise en place d'un agent Python unique avec des appels d'outils
Architectures de Systèmes Multi-Agents
Conceptions MAS (Multi-Agent Systems) centralisées, décentralisées, hybrides et en couches
FIPA ACL, échange de messages et équivalents modernes
Modes de coordination : planification, négociation, synchronisation
Comportements émergents et auto-organisation dans les populations d'agents
Prise de Décision et Apprentissage chez les Agents
Théorie des jeux pour les interactions coopératives et concurrentielles entre agents
Apprentissage par renforcement dans les environnements multi-agents
Transfert d'apprentissage et partage de connaissances entre agents
Résolution de conflits et confiance entre les agents coordonnés
Jour 2
Fondations Multimodales pour les Agents
L'IA multimodale en tant que flux de travail unifié couvrant le texte, l'image, la parole et la vidéo
Modèles multimodaux leaders : GPT-4 Vision, Gemini, Claude, Whisper
Techniques de fusion pour combiner les modalités au sein de la boucle de raisonnement d'un agent
Au compromis entre latence, coût et précision dans les pipelines multimodaux
Construction de la Couche de Perception
Traitement d'image pour les agents : classification, légendage, détection d'objets
Reconnaissance vocale avec Whisper ASR et transcription en continu
Synthèse texte-parole et interaction vocale naturelle
Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d'outils
Travaux Pratiques - Construction d'un Agent Multimodal en Python
Définition de la tâche, de la fenêtre contextuelle et de l'inventaire d'outils de l'agent
Câblage complet des APIs GPT-4 Vision et Whisper
Mise en œuvre de la mémoire, de l'état et de la gestion de conversation
Ajout d'appels d'outils produisant des effets secondaires dans le monde réel, tout en assurant la sécurité
Travaux Pratiques - Orchestration d'un Système Multi-Agents
Composition d'agents spécialisés avec AutoGen ou CrewAI
Définition des rôles, responsabilités et protocoles de communication inter-agents
Allocation des ressources et coordination dans un environnement simulé
Journalisation du raisonnement des agents, des appels d'outils et des décisions pour l'inspection et l'audit
Jour 3
Surface de Menace des Agents IA en Production
Ce qui rend l'IA agentic unique ment vulnérable par rapport aux logiciels traditionnels
Surface d'attaque : couches de données, modèle, invite (prompt), outil, sortie et interface
Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d'outils
Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle
Travaux Pratiques - Attaques Adversariales
Exemples adversariaux et méthodes de perturbation : FGSM, PGD, DeepFool
Scénarios d'attaques en boîte blanche versus boîte noire
Attaques par inversion de modèle et inférence d'appartenance au jeu de données
Empoisonnement des données et injection de portes dérobées pendant l'entraînement
Injection de prompts, contournement des sécurités (jailbreaking) et mauvaise utilisation des outils dans les agents basés sur LLM
Techniques Défensives et Durcissement des Modèles
Entraînement adversarial et stratégies d'augmentation de données
Distillation défensive et autres techniques de robustesse
Prétraitement des entrées, masquage des gradients et régularisation
Vie privée différentielle, injection de bruit et budgets de confidentialité
Apprentissage fédéré et agrégation sécurisée pour l'entraînement distribué
Travaux Pratiques avec l'Adversarial Robustness Toolbox
Simulation d'attaques contre l'agent multimodal construit au Jour 2
Mesure de la robustesse sous perturbation et quantification de la dégradation
Application itérative des défenses et réévaluation des taux de réussite des attaques
Test de résistance des parcours d'appels d'outils et des vecteurs d'injection de prompts
Jour 4
Cadres de Gestion des Risques pour l'IA
NIST AI Risk Management Framework : gouverner, cartographier, mesurer, gérer
ISO/IEC 42001 et normes émergentes spécifiques à l'IA
Cartographie des risques IA vers les frameworks GRC (Gouvernance, Risque et Conformité) existants de l'entreprise
Exigences de responsabilité IA, d'auditabilité et de documentation
Conformité Réglementaire pour les Systèmes Agentic
EU AI Act : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque
Implications du RGPD et de la CCPA pour les pipelines de données des agents
Décret Exécutif américain sur une IA sûre, sécurisée et digne de confiance
Lignes directrices sectorielles pour la finance, la santé et les services publics
Risque tiers et utilisation d'outils IA par les fournisseurs
Éthique, Biais et Expliquabilité
Détection et atténuation des biais à travers la perception et le raisonnement des agents
L'expliquabilité et la transparence en tant que propriétés pertinentes pour la sécurité
Équité, préjudices en aval et déploiement responsable
Conception de comportements d'agents inclusifs et auditables
Déploiement en Production, Surveillance et Réponse aux Incidents
Modes de déploiement sécurisés pour les systèmes mono-agents et multi-agents
Surveillance continue pour la dérive (drift), les anomalies et les abus
Journalisation, pistes d'audit et préparation forensic pour les actions des agents
Cahiers de jeu de réponse aux incidents de sécurité IA et récupération
Études de cas de violations réelles d'IA et leçons apprises
Projet Final et Synthèse
Revue du système multi-agent multimodal construit tout au long du cours
Revue du pipeline de bout en bout : conception, construction, sécurisation, gouvernance, déploiement
Auto-évaluation du système par rapport aux fonctions du NIST AI RMF
Perspective sur les tendances émergentes dans l'IA agentic et la sécurité IA
Résumé et Prochaines Étapes
Pré requis
Audience cible
Ingénieurs et architectes IA concevant des systèmes agentic pour un usage en production. Professionnels de la cybersécurité, des risques et de la conformité responsables de l'assurance IA dans les secteurs réglementés tels que la finance, la santé et le conseil. Développeurs seniors et leads de solutions intégrant des capacités multimodales et multi-agents dans des plateformes d'entreprise.
Nos clients témoignent (3)
Le formateur est patient et très aidant. Il maîtrise bien le sujet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Formation - Agentic AI for Business Automation: Use Cases & Integration
Traduction automatique
Bon mélange de connaissances et de pratique
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Agentic AI for Enterprise Applications
Traduction automatique
Le mélange de théorie et de pratique, ainsi que des perspectives de haut niveau et de bas niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Autonomous Decision-Making with Agentic AI
Traduction automatique