Prenez contact avec nous

Plan du cours

Introduction à Huawei CloudMatrix

  • Écosystème de CloudMatrix et flux de déploiement
  • Modèles pris en charge, formats et modes de déploiement
  • Cas d'utilisation typiques et chipsets pris en charge

Préparation des modèles pour le déploiement

  • Exportation des modèles à partir des outils d'entraînement (MindSpore, TensorFlow, PyTorch)
  • Utilisation d'ATC (Ascend Tensor Compiler) pour la conversion de format
  • Modèles à formes statiques vs dynamiques

Déploiement sur CloudMatrix

  • Création de services et enregistrement des modèles
  • Déploiement de services d'inférence via l'interface utilisateur ou la ligne de commande (CLI)
  • Routage, authentification et contrôle d'accès

Mise à disposition des requêtes d'inférence

  • Flux d'inférence par lots vs en temps réel
  • Pipelines de prétraitement et post-traitement des données
  • Appel des services CloudMatrix à partir d'applications externes

Surveillance et optimisation des performances

  • Journaux de déploiement et suivi des requêtes
  • Mise à l'échelle des ressources et équilibrage de charge
  • Ajustement de la latence et optimisation du débit

Intégration avec les outils d'entreprise

  • Connexion de CloudMatrix avec OBS et ModelArts
  • Utilisation des workflows et de la gestion des versions de modèles
  • CI/CD pour le déploiement des modèles et le retour arrière (rollback)

Pipeline d'inférence de bout en bout

  • Déploiement d'un pipeline complet de classification d'images
  • Référentiel de performances et validation de l'exactitude
  • Simulation de basculement et alertes système

Résumé et prochaines étapes

Pré requis

  • Une compréhension des flux de travail d'entraînement des modèles d'IA
  • De l'expérience avec des frameworks d'apprentissage automatique basés sur Python
  • Une familiarité de base avec les concepts de déploiement cloud

Public cible

  • Équipes Opérations IA (AI Ops)
  • Ingénieurs en apprentissage automatique
  • Spécialistes du déploiement cloud travaillant avec l'infrastructure Huawei
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires