Prenez contact avec nous

Plan du cours

Introduction à Cambricon et à l'architecture MLU

  • Aperçu du portefeuille de puces IA de Cambricon
  • Architecture MLU et pipeline d'instructions
  • Types de modèles pris en charge et cas d'usage

Installation de la chaîne d'outils de développement

  • Installation de BANGPy et du SDK Neuware
  • Configuration de l'environnement pour Python et C++
  • Compatibilité des modèles et prétraitement

Développement de modèles avec BANGPy

  • Structure des tenseurs et gestion des formes
  • Construction du graphe de calcul
  • Prise en charge des opérations personnalisées dans BANGPy

Déploiement avec l'environnement d'exécution Neuware

  • Conversion et chargement des modèles
  • Contrôle de l'exécution et de l'inférence
  • Bonnes pratiques de déploiement en périphérie et dans les centres de données

Optimisation des performances

  • Mappage de la mémoire et ajustement des couches
  • Trace d'exécution et profilage
  • Goulots d'étranglement courants et solutions

Intégration des MLU dans les applications

  • Utilisation des API Neuware pour l'intégration d'applications
  • Prise en charge du streaming et des multi-modèles
  • Scénarios d'inférence hybride CPU-MLU

Projet de bout en bout et cas d'usage

  • Pratique : Déploiement d'un modèle de vision ou de NLP
  • Inférence en périphérie avec intégration BANGPy
  • Test de la précision et du débit

Résumé et prochaines étapes

Pré requis

  • Comprendre les structures des modèles d'apprentissage automatique
  • Avoir de l'expérience avec Python et/ou C++
  • Être familier avec les concepts de déploiement de modèles et d'accélération

Public cible

  • Développeurs d'IA embarquée
  • Ingénieurs IA déployant des solutions en périphérie ou dans des centres de données
  • Développeurs travaillant avec des infrastructures d'IA chinoises
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires