Plan du cours
Introduction à l'inférence IA avec Docker
- Comprendre les charges de travail de l'inférence IA
- Avantages de l'inférence conteneurisée
- Scénarios de déploiement et contraintes
Création de conteneurs pour l'inférence IA
- Sélection des images de base et des frameworks
- Empaquetage des modèles préentraînés
- Structuration du code d'inférence pour l'exécution dans un conteneur
Sécurisation des services IA conteneurisés
- Réduction de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de networking sûr et d'exposition des API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Garantie d'environnements d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement local et tests
- Exécution des services en local avec Docker
- Débogage des conteneurs d'inférence
- Tests de performance et de fiabilité
Déploiement sur les serveurs et les VM cloud
- Adaptation des conteneurs aux environnements distants
- Configuration de l'accès sécurisé aux serveurs
- Déploiement des API d'inférence sur les VM cloud
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec les composants de support
- Gestion des variables d'environnement et des configurations
- Mise à l'échelle des microservices avec Compose
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation et d'observabilité
- Détection des défaillances dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et prochaines étapes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience avec Python ou le développement backend
- Une familiarité avec les concepts fondamentaux des conteneurs
Audience cible
- Développeurs
- Ingénieurs backend
- Équipes déployant des services IA
Nos clients témoignent (2)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique