Plan du cours
Introduction à l'inférence AI avec Docker
- Comprendre les charges de travail d'inférence AI
- Les avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence AI
- Sélection des images de base et des frameworks
- Empaquetage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services AI conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau sécurisé et d'exposition API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Assurance d'environnements de temps d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement et test locaux
- Exécution de services localement avec Docker
- Débogage des conteneurs d'inférence
- Test des performances et de la fiabilité
Déploiement sur des serveurs et des VM cloud
- Adaptation des conteneurs pour les environnements à distance
- Configuration de l'accès serveur sécurisé
- Déploiement d'API d'inférence sur des VM cloud
Utilisation de Docker Compose pour les systèmes AI multi-services
- Orchestration de l'inférence avec des composants d'assistance
- Gestion des variables d'environnement et des configurations
- Évolutivité des microservices avec Compose
Surveillance et maintenance des services d'inférence AI
- Approches de journalisation et d'observabilité
- Détection des échecs dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et étapes suivantes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience avec Python ou le développement back-end
- Une familiarité avec les concepts fondamentaux des conteneurs
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services AI
Nos clients témoignent (5)
OC est nouveau pour nous et nous avons beaucoup appris, les laboratoires étaient excellents.
sharkey dollie
Formation - OpenShift 4 for Administrators
Traduction automatique
Très informatif et direct au point. Pratique pratique (Note: "pratique pratique" is a literal translation but may sound redundant in French. A better phrasing could be "Pratique appliquée". However, since the guideline specifies not to modify or add content beyond what is provided, the above translation adheres strictly to the given text.)
Gil Matias - FINEOS
Formation - Introduction to Docker
Traduction automatique
Ateliers et discussions techniques.
Dinesh Panchal - AXA XL
Formation - Advanced Docker
Traduction automatique
Il a fourni une bonne base pour Docker et Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Formation - Docker (introducing Kubernetes)
Traduction automatique
J'ai surtout apprécié les connaissances du formateur.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Formation - Docker, Kubernetes and OpenShift for Developers
Traduction automatique