Prenez contact avec nous

Plan du cours

Introduction à Cambricon et à l'architecture MLU

  • Aperçu de la gamme de puces AI de Cambricon.
  • Architecture MLU et pipeline d'instructions.
  • Types de modèles pris en charge et cas d'utilisation.

Installation de la chaîne d'outils de développement

  • Installation de BANGPy et du SDK Neuware.
  • Configuration de l'environnement pour Python et C++.
  • Compatibilité des modèles et prétraitement.

Développement de modèles avec BANGPy

  • Structure des tenseurs et gestion des formes.
  • Construction du graphe de calcul.
  • Support d'opérations personnalisées dans BANGPy.

Déploiement avec le runtime Neuware

  • Conversion et chargement des modèles.
  • Contrôle de l'exécution et de l'inférence.
  • Pratiques de déploiement edge et data center.

Optimisation des performances

  • Cartographie mémoire et ajustement des couches.
  • Tracé de l'exécution et profilage.
  • Bottlenecks courants et correctifs.

Intégration du MLU dans les applications

  • Utilisation des API Neuware pour l'intégration application.
  • Support du streaming et des modèles multiples.
  • Scénarios d'inférence hybride CPU-MLU.

Projet de bout en bout et cas d'utilisation

  • Labo : Déploiement d'un modèle de vision ou de NLP.
  • Inférence edge avec intégration BANGPy.
  • Tests de précision et de débit.

Résumé et prochaines étapes

Pré requis

  • Compréhension des structures de modèles d'apprentissage automatique.
  • Expérience avec Python et/ou C++.
  • Connaissance des concepts de déploiement et d'accélération de modèles.

Audience

  • Développeurs IA intégrés.
  • Ingénieurs ML déployant sur des appareils edge ou des data centers.
  • Développeurs travaillant avec des infrastructures IA chinoises.
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires