Prenez contact avec nous

Plan du cours

Jour 1
Anatomie d'un Agent IA Moderne

Au-delà des chatbots : les agents en tant que systèmes autonomes de raisonnement et d'action

Paradigmes des agents réactifs, proactifs, hybrides et dirigés par des objectifs

Composants clés : perception, planification, mémoire, utilisation d'outils, action

Au compromis entre la conception mono-agent et multi-agent

Cadres d'Agents et la Stack Moderne

LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis respectifs

Comparaison avec les frameworks classiques tels que JADE et SPADE

Choisir un framework en fonction des exigences de production

Appels d'outils, appels de fonctions et sorties structurées

Travaux pratiques : mise en place d'un agent Python unique avec des appels d'outils

Architectures de Systèmes Multi-Agents

Conceptions MAS (Multi-Agent Systems) centralisées, décentralisées, hybrides et en couches

FIPA ACL, échange de messages et équivalents modernes

Modes de coordination : planification, négociation, synchronisation

Comportements émergents et auto-organisation dans les populations d'agents

Prise de Décision et Apprentissage chez les Agents

Théorie des jeux pour les interactions coopératives et concurrentielles entre agents

Apprentissage par renforcement dans les environnements multi-agents

Transfert d'apprentissage et partage de connaissances entre agents

Résolution de conflits et confiance entre les agents coordonnés

Jour 2
Fondations Multimodales pour les Agents

L'IA multimodale en tant que flux de travail unifié couvrant le texte, l'image, la parole et la vidéo

Modèles multimodaux leaders : GPT-4 Vision, Gemini, Claude, Whisper

Techniques de fusion pour combiner les modalités au sein de la boucle de raisonnement d'un agent

Au compromis entre latence, coût et précision dans les pipelines multimodaux

Construction de la Couche de Perception

Traitement d'image pour les agents : classification, légendage, détection d'objets

Reconnaissance vocale avec Whisper ASR et transcription en continu

Synthèse texte-parole et interaction vocale naturelle

Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d'outils

Travaux Pratiques - Construction d'un Agent Multimodal en Python

Définition de la tâche, de la fenêtre contextuelle et de l'inventaire d'outils de l'agent

Câblage complet des APIs GPT-4 Vision et Whisper

Mise en œuvre de la mémoire, de l'état et de la gestion de conversation

Ajout d'appels d'outils produisant des effets secondaires dans le monde réel, tout en assurant la sécurité

Travaux Pratiques - Orchestration d'un Système Multi-Agents

Composition d'agents spécialisés avec AutoGen ou CrewAI

Définition des rôles, responsabilités et protocoles de communication inter-agents

Allocation des ressources et coordination dans un environnement simulé

Journalisation du raisonnement des agents, des appels d'outils et des décisions pour l'inspection et l'audit

Jour 3
Surface de Menace des Agents IA en Production

Ce qui rend l'IA agentic unique ment vulnérable par rapport aux logiciels traditionnels

Surface d'attaque : couches de données, modèle, invite (prompt), outil, sortie et interface

Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d'outils

Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle

Travaux Pratiques - Attaques Adversariales

Exemples adversariaux et méthodes de perturbation : FGSM, PGD, DeepFool

Scénarios d'attaques en boîte blanche versus boîte noire

Attaques par inversion de modèle et inférence d'appartenance au jeu de données

Empoisonnement des données et injection de portes dérobées pendant l'entraînement

Injection de prompts, contournement des sécurités (jailbreaking) et mauvaise utilisation des outils dans les agents basés sur LLM

Techniques Défensives et Durcissement des Modèles

Entraînement adversarial et stratégies d'augmentation de données

Distillation défensive et autres techniques de robustesse

Prétraitement des entrées, masquage des gradients et régularisation

Vie privée différentielle, injection de bruit et budgets de confidentialité

Apprentissage fédéré et agrégation sécurisée pour l'entraînement distribué

Travaux Pratiques avec l'Adversarial Robustness Toolbox

Simulation d'attaques contre l'agent multimodal construit au Jour 2

Mesure de la robustesse sous perturbation et quantification de la dégradation

Application itérative des défenses et réévaluation des taux de réussite des attaques

Test de résistance des parcours d'appels d'outils et des vecteurs d'injection de prompts

Jour 4
Cadres de Gestion des Risques pour l'IA

NIST AI Risk Management Framework : gouverner, cartographier, mesurer, gérer

ISO/IEC 42001 et normes émergentes spécifiques à l'IA

Cartographie des risques IA vers les frameworks GRC (Gouvernance, Risque et Conformité) existants de l'entreprise

Exigences de responsabilité IA, d'auditabilité et de documentation

Conformité Réglementaire pour les Systèmes Agentic

EU AI Act : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque

Implications du RGPD et de la CCPA pour les pipelines de données des agents

Décret Exécutif américain sur une IA sûre, sécurisée et digne de confiance

Lignes directrices sectorielles pour la finance, la santé et les services publics

Risque tiers et utilisation d'outils IA par les fournisseurs

Éthique, Biais et Expliquabilité

Détection et atténuation des biais à travers la perception et le raisonnement des agents

L'expliquabilité et la transparence en tant que propriétés pertinentes pour la sécurité

Équité, préjudices en aval et déploiement responsable

Conception de comportements d'agents inclusifs et auditables

Déploiement en Production, Surveillance et Réponse aux Incidents

Modes de déploiement sécurisés pour les systèmes mono-agents et multi-agents

Surveillance continue pour la dérive (drift), les anomalies et les abus

Journalisation, pistes d'audit et préparation forensic pour les actions des agents

Cahiers de jeu de réponse aux incidents de sécurité IA et récupération

Études de cas de violations réelles d'IA et leçons apprises

Projet Final et Synthèse

Revue du système multi-agent multimodal construit tout au long du cours

Revue du pipeline de bout en bout : conception, construction, sécurisation, gouvernance, déploiement

Auto-évaluation du système par rapport aux fonctions du NIST AI RMF

Perspective sur les tendances émergentes dans l'IA agentic et la sécurité IA

Résumé et Prochaines Étapes

Pré requis

Audience cible

Ingénieurs et architectes IA concevant des systèmes agentic pour un usage en production. Professionnels de la cybersécurité, des risques et de la conformité responsables de l'assurance IA dans les secteurs réglementés tels que la finance, la santé et le conseil. Développeurs seniors et leads de solutions intégrant des capacités multimodales et multi-agents dans des plateformes d'entreprise.

 28 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires