Plan du cours
Introduction à l'inférence IA avec Docker
- Comprendre les charges de travail d'inférence IA
- Avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence IA
- Sélection d'images de base et de cadres (frameworks)
- Emballage de modèles préentraînés
- Structuration du code d'inférence pour l'exécution dans des conteneurs
Sécurisation des services IA conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau sécurisé et d'exposition des API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Assurance d'environnements d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement local et tests
- Exécution des services localement avec Docker
- Débogage des conteneurs d'inférence
- Test des performances et de la fiabilité
Déploiement sur serveurs et machines virtuelles cloud
- Adaptation des conteneurs pour les environnements distants
- Configuration d'un accès serveur sécurisé
- Déploiement des API d'inférence sur des VM cloud
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec des composants de soutien
- Gestion des variables d'environnement et des configurations
- Mise à l'échelle des microservices avec Compose
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation et d'observabilité
- Détection des pannes dans les pipelines d'inférence
- Mise à jour et gestion des versions des modèles en production
Résumé et prochaines étapes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience en Python ou en développement back-end
- Une familiarité avec les concepts fondamentaux des conteneurs
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services IA
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique