Prenez contact avec nous

Plan du cours

Introduction à la conteneurisation accélérée par GPU

  • Compréhension de l'utilisation des GPU dans les flux de travail d'apprentissage profond
  • Comment Docker prend en charge les charges de travail basées sur le GPU
  • Facteurs clés de performance à considérer

Installation et configuration de NVIDIA Container Toolkit

  • Configuration des pilotes et compatibilité CUDA
  • Validation de l'accès au GPU à l'intérieur des conteneurs
  • Configuration de l'environnement d'exécution

Construction d'images Docker activées pour le GPU

  • Utilisation d'images de base CUDA
  • Intégration des frameworks d'IA dans des conteneurs prêts pour le GPU
  • Gestion des dépendances pour l'entraînement et l'inférence

Exécution de charges de travail d'IA accélérées par GPU

  • Exécution des jobs d'entraînement en utilisant les GPU
  • Gestion des charges de travail multi-GPU
  • Surveillance de l'utilisation du GPU

Optimisation des performances et allocation des ressources

  • Limitation et isolement des ressources GPU
  • Optimisation de la mémoire, des tailles de lot et de l'emplacement des dispositifs
  • Réglage des performances et diagnostic

Inférence conteneurisée et diffusion de modèles

  • Construction de conteneurs prêts pour l'inférence
  • Diffusion de charges de travail à fort volume sur les GPU
  • Intégration des moteurs de modèle et des API

Mise à l'échelle des charges de travail GPU avec Docker

  • Stratégies pour l'entraînement distribué sur GPU
  • Mise à l'échelle des microservices d'inférence
  • Coordination des systèmes d'IA multi-conteneurs

Sécurité et fiabilité pour les conteneurs activés par GPU

  • Garantie d'un accès sûr au GPU dans les environnements partagés
  • Durcissement des images de conteneurs
  • Gestion des mises à jour, des versions et de la compatibilité

Résumé et prochaines étapes

Pré requis

  • Une compréhension des fondamentaux de l'apprentissage profond
  • De l'expérience avec Python et des frameworks d'IA courants
  • Une familiarité avec les concepts de base de la conteneurisation

Audience

  • Ingénieurs en apprentissage profond
  • Équipes de recherche et développement
  • Entraîneurs de modèles d'IA
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires