Plan du cours
Fondements de l’architecture pour les systèmes d’IA
- Couches, frontières et séparation des préoccupations
- Ports et adaptateurs appliqués aux composants d’IA
- Scénarios d’attributs de qualité pour les fonctionnalités d’IA
- Enregistrements de décisions d’architecture comme moyen de gouvernance
Évolution d’une application existante
- Modernisation incrémentale plutôt que réécriture
- Placement des services d’IA à côté d’un monolithe existant
- Modèles de chaperon (strangler) et de couche anti-corruption
- Points d’intégration pour les API et les données existantes
Modèles d’architecture d’intégration de LLM
- Passerelle de modèles en tant que frontière d’abstraction
- Intégration synchronisée, asynchronisée et en flux continu
- Repli, dégradation et basculement de fournisseur
- Configuration des prompts et des modèles en tant qu’actifs versionnés
Contrats, API et échange de données
- Plans de données de sortie structurés et validation
- Idempotence, répétitions et limitation de débit
- Budgets de latence et orchestration des temporisations
- Coût par requête en tant que contrainte architecturale
Architecture RAG de bout en bout
- Pipeline d’ingestion, de découpage et d’incorporation (embedding)
- Étapes d’indexation, de récupération, de re-classement et de génération
- Placement de la récupération par rapport aux services applicatifs
- Compromis et modes de défaillance à chaque étape
Bases de données vectorielles et conception de la récupération
- Stockage vectoriel géré par rapport à l’hébergement auto
- Recherche dense, creuse et hybride
- Filtrage par métadonnées et isolement des locataires
- Stratégie de ré-incorporation lorsque les modèles changent
Qualité de la récupération, ancrage et évaluation
- Ensembles d’évaluation construits à partir de requêtes réelles
- Métriques de qualité de récupération et de réponse
- Citation, ancrage et contention des hallucinations
- Boucles de retour vers l’index
Architectures d’agents
- Boucle d’agent et invocation d’outils
- Flux de travail déterministes par rapport aux planificateurs autonomes
- Cas où un agent est la mauvaise réponse
- Définition du périmètre des responsabilités et de l’état de l’agent
Systèmes multi-agents et orchestration
- Topologies de superviseur et d’orchestrateur
- Protocoles de transfert et contrats de messages
- Mémoire partagée et gestion du contexte
- Comparaison des frameworks sur des bases architecturales
Communication de services et protocoles d’outils
- Coordination basée sur les événements et les files d’attente
- Exposition des outils via des protocoles standards
- Sagas, compensation et transactions longues
- Observabilité au fil des sauts de service
Agents d’IA dans le flux de développement
- Agents de codage dans le pipeline de livraison
- Développement basé sur les spécifications et points de contrôle de revue
- Génération de tests et contrôles de qualité automatisés
- Garde-fous qui préservent le contrôle architectural
Gouvernance et qualité logicielle
- Revue de conception des fonctionnalités d’IA
- Gestion des changements de modèles et de prompts
- Évaluation de régression en tant qu’étape du pipeline
- Propriété, politique et chemins d’approbation
Sécurité, confidentialité et gouvernance des données
- Injection de prompts et défense en profondeur
- Secrets, contrôle d’accès et privilèges minimums
- Résidence des données, données personnelles et rétention
- Audibilité et contrôles avec intervention humaine
Scalabilité, coûts et observabilité
- Tracé au fil des chaînes d’agents
- Télémesure des jetons et des coûts
- Mise en cache et optimisation de la latence
- Niveaux de service et réponse aux incidents pour les services d’IA
Projet terminal : Architecture pour une solution alimentée par l’IA
- Vues de contexte, de composant et de déploiement
- Conception de l’orchestration de la récupération et des agents
- Plan de sécurité, de gouvernance et de coûts
- Revue par les pairs, critique et feuille de route de migration
Pré requis
- Expérience dans la conception et la maintenance de systèmes logiciels en production
- Connaissances pratiques des API REST et de l’intégration de services
- Familiarité avec les bases de données relationnelles et le modélisation des données
- Exposition de base aux outils ou API basés sur les LLM
Public cible
- Architectes logiciels
- Responsables techniques et ingénieurs seniors
- Managers d’ingénierie responsables des décisions d’architecture
Nos clients témoignent (1)
J'ai acquis des connaissances sur la bibliothèque Streamlit en Python et je vais certainement essayer de l'utiliser pour améliorer les applications de mon équipe qui sont actuellement développées avec R Shiny.
Michal Maj - XL Catlin Services SE (AXA XL)
Formation - GitHub Copilot for Developers
Traduction automatique