Plan du cours
Introduction au déploiement de la production
- Principaux défis liés au déploiement de modèles affinés
- Différences entre les environnements de développement et de production
- Outils et plateformes pour le déploiement de modèles
Préparation des modèles pour le déploiement
- Exportation des modèles dans des formats standard (ONNX, TensorFlow SavedModel, etc.)
- Optimisation des modèles pour la latence et le débit
- Test des modèles sur des cas limites et des données réelles
Conteneurisation pour le déploiement de modèles
- Introduction à Docker
- Création d'images Docker pour les modèles ML
- Meilleures pratiques pour la sécurité et l'efficacité des conteneurs
Mise à l'échelle des déploiements avec Kubernetes
- Introduction à Kubernetes pour les charges de travail d'IA
- Mise en place de clusters Kubernetes pour l'hébergement de modèles
- Équilibrage de charge et mise à l'échelle horizontale
Surveillance et maintenance des modèles
- Mise en œuvre de la surveillance avec Prometheus et Grafana
- Journalisation automatisée pour le suivi des erreurs et des performances
- Pipelines de recyclage pour la dérive des modèles et les mises à jour
Assurer la sécurité en production
- Sécurisation des API pour l'inférence de modèles
- Mécanismes d'authentification et d'autorisation
- Répondre aux préoccupations en matière de confidentialité des données
Études de cas et travaux pratiques
- Déploiement d'un modèle d'analyse des sentiments
- Mise à l'échelle d'un service de traduction automatique
- Mise en œuvre de la surveillance des modèles de classification d'images
Résumé et prochaines étapes
Pré requis
- Forte compréhension des flux de travail d'apprentissage automatique
- Expérience du réglage fin des modèles d'apprentissage automatique
- Familiarité avec les principes DevOps ou MLOps.
Audience
- DevOps ingénieurs
- MLOps praticiens
- Spécialistes du déploiement de l'IA
Nos clients témoignent (2)
Craig était très impliqué dans la formation, toujours en s'assurant que nous prêtions attention, en adaptant les exemples à nos activités quotidiennes et en fournissant une réponse chaque fois qu'on lui posait une question, même si l'information n'était pas incluse dans la présentation.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Formation - DevOps Foundation®
Traduction automatique
Niveau élevé d’engagement et de connaissances du formateur
Jacek - Softsystem
Formation - DevOps Engineering Foundation (DOEF)®
Traduction automatique
