Plan du cours
Introduction au déploiement en production
- Principaux défis du déploiement de modèles ajustés.
- Différences entre les environnements de développement et de production.
- Outils et plateformes pour le déploiement de modèles.
Préparation des modèles pour le déploiement
- Exportation des modèles dans des formats standard (ONNX, TensorFlow SavedModel, etc.).
- Optimisation des modèles pour la latence et le débit.
- Tests des modèles sur des cas limites et des données réelles.
Conteneurisation pour le déploiement de modèles
- Introduction à Docker.
- Création d'images Docker pour les modèles ML.
- Meilleures pratiques pour la sécurité et l'efficacité des conteneurs.
Mise à l'échelle des déploiements avec Kubernetes
- Introduction à Kubernetes pour les charges de travail d'IA.
- Configuration de clusters Kubernetes pour l'hébergement de modèles.
- Équilibrage de charge et mise à l'échelle horizontale.
Surveillance et maintenance des modèles
- Mise en œuvre de la surveillance avec Prometheus et Grafana.
- Consignation automatisée pour le suivi des erreurs et les performances.
- Pipelines de réentraînement pour la dérive des modèles et les mises à jour.
Garantie de la sécurité en production
- Sécurisation des API pour l'inférence de modèles.
- Mécanismes d'authentification et d'autorisation.
- Prise en compte des préoccupations liées à la confidentialité des données.
Études de cas et laboratoires pratiques
- Déploiement d'un modèle d'analyse de sentiment.
- Mise à l'échelle d'un service de traduction automatique.
- Mise en œuvre de la surveillance pour les modèles de classification d'images.
Résumé et prochaines étapes
Pré requis
- Bonne compréhension des flux de travail d'apprentissage automatique.
- Expérience dans l'ajustement de modèles d'apprentissage automatique.
- Connaissance des principes DevOps ou MLOps.
Audience cible
- Ingénieurs DevOps.
- Praticiens MLOps.
- Spécialistes du déploiement d'IA.
Nos clients témoignent (2)
Craig était très impliqué dans la formation, toujours en s'assurant que nous prêtions attention, en adaptant les exemples à nos activités quotidiennes et en fournissant une réponse chaque fois qu'on lui posait une question, même si l'information n'était pas incluse dans la présentation.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Formation - DevOps Foundation®
Traduction automatique
Niveau élevé d’engagement et de connaissances du formateur
Jacek - Softsystem
Formation - DevOps Engineering Foundation (DOEF)®
Traduction automatique
