Plan du cours
Introduction à l'inférence AI avec Docker
- Comprendre les charges de travail d'inférence AI
- Les avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence AI
- Sélection des images de base et des frameworks
- Empaquetage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services AI conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau sécurisé et d'exposition API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Assurance d'environnements de temps d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement et test locaux
- Exécution de services localement avec Docker
- Débogage des conteneurs d'inférence
- Test des performances et de la fiabilité
Déploiement sur des serveurs et des VM cloud
- Adaptation des conteneurs pour les environnements à distance
- Configuration de l'accès serveur sécurisé
- Déploiement d'API d'inférence sur des VM cloud
Utilisation de Docker Compose pour les systèmes AI multi-services
- Orchestration de l'inférence avec des composants d'assistance
- Gestion des variables d'environnement et des configurations
- Évolutivité des microservices avec Compose
Surveillance et maintenance des services d'inférence AI
- Approches de journalisation et d'observabilité
- Détection des échecs dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et étapes suivantes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience avec Python ou le développement back-end
- Une familiarité avec les concepts fondamentaux des conteneurs
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services AI
Nos clients témoignent (5)
Il a expliqué tout, pas seulement les notions de k8s.
Stefan Voinea - EMAG IT Research S.R.L
Formation - Certified Kubernetes Application Developer (CKAD) - exam preparation
Traduction automatique
Profondeur des connaissances du formateur
Grant Miller - BMW
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
Tres informatif et concis. Pratique pratique.
Gil Matias - FINEOS
Formation - Introduction to Docker
Traduction automatique
Contenu excellent
Alan Kavanagh - FINEOS Corporation Ltd
Formation - Docker from Basic to Advanced
Traduction automatique
Labos et discussions techniques.
Dinesh Panchal - AXA XL
Formation - Advanced Docker
Traduction automatique