Prenez contact avec nous

Plan du cours

Introduction à l'inférence IA avec Docker

  • Comprendre les charges de travail de l'inférence IA
  • Avantages de l'inférence conteneurisée
  • Scénarios de déploiement et contraintes

Création de conteneurs pour l'inférence IA

  • Sélection des images de base et des frameworks
  • Empaquetage des modèles préentraînés
  • Structuration du code d'inférence pour l'exécution dans un conteneur

Sécurisation des services IA conteneurisés

  • Réduction de la surface d'attaque des conteneurs
  • Gestion des secrets et des fichiers sensibles
  • Stratégies de networking sûr et d'exposition des API

Techniques de déploiement portable

  • Optimisation des images pour la portabilité
  • Garantie d'environnements d'exécution prévisibles
  • Gestion des dépendances entre les plateformes

Déploiement local et tests

  • Exécution des services en local avec Docker
  • Débogage des conteneurs d'inférence
  • Tests de performance et de fiabilité

Déploiement sur les serveurs et les VM cloud

  • Adaptation des conteneurs aux environnements distants
  • Configuration de l'accès sécurisé aux serveurs
  • Déploiement des API d'inférence sur les VM cloud

Utilisation de Docker Compose pour les systèmes IA multi-services

  • Orchestration de l'inférence avec les composants de support
  • Gestion des variables d'environnement et des configurations
  • Mise à l'échelle des microservices avec Compose

Surveillance et maintenance des services d'inférence IA

  • Approches de journalisation et d'observabilité
  • Détection des défaillances dans les pipelines d'inférence
  • Mise à jour et versionnement des modèles en production

Résumé et prochaines étapes

Pré requis

  • Une compréhension des concepts de base de l'apprentissage automatique
  • De l'expérience avec Python ou le développement backend
  • Une familiarité avec les concepts fondamentaux des conteneurs

Audience cible

  • Développeurs
  • Ingénieurs backend
  • Équipes déployant des services IA
 14 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires