Formation Cambricon (MLU) en Saskatoon

Ascend, Biren et Cambricon sont des plateformes de matériel IA leaders en Chine, chacune offrant des outils uniques d'accélération et de profilage pour les charges de travail AI à l'échelle de production.

Cette formation en direct dirigée par un formateur (en ligne ou sur site) s'adresse aux ingénieurs高级AI基础设施和性能工程师，他们希望在多个中国AI芯片平台上优化模型推理和训练工作流。

到本培训结束时，参与者将能够：

• 在Ascend、Biren和Cambricon平台上对模型进行基准测试。
• 识别系统瓶颈和内存/计算低效问题。
• 应用图级、内核级和操作符级优化。
• 调整部署管道以提高吞吐量和减少延迟。

课程格式

• 互动讲座和讨论。
• 在每个平台上实际使用性能分析和优化工具。
• 专注于实用调优场景的指导练习。

课程定制选项

• 如需基于您的性能环境或模型类型对此课程进行定制培训，请联系我们安排。

Les architectures chinoises GPU telles que Huawei Ascend, Biren et Cambricon MLUs offrent des alternatives à CUDA adaptées aux marchés locaux de l'IA et du calcul haute performance.

Cette formation en direct (en ligne ou sur site) dispensée par un formateur est destinée aux programmeurs avancés GPU et aux spécialistes d'infrastructure qui souhaitent migrer et optimiser des applications CUDA existantes pour leur déploiement sur des plateformes matérielles chinoises.

À la fin de cette formation, les participants seront capables de :

• Évaluer la compatibilité des charges de travail CUDA existantes avec les alternatives à base de puces chinoises.
• Migrer des bases de code CUDA vers Huawei CANN, Biren SDK et environnements Cambricon BANGPy.
• Comparer les performances et identifier les points d'optimisation sur différents plateformes.
• Aborder les défis pratiques du support inter-architecture et du déploiement.

Format de la formation

• Cours interactif et discussion.
• Laboratoires pratiques de traduction de code et de comparaison des performances.
• Exercices guidés axés sur les stratégies d'adaptation multi-GPU.

Options de personnalisation du cours

• Pour demander une formation personnalisée basée sur votre plateforme ou projet CUDA, veuillez nous contacter pour organiser cela.

Les Cambricon MLUs (Machine Learning Unités) sont des puces AI spécialisées optimisées pour l'inférence et la formation dans les scénarios de périphérie et de centre de données.

Cette formation en direct (en ligne ou sur site), animée par un formateur, s'adresse aux développeurs intermédiaires souhaitant construire et déployer des modèles AI à l'aide du cadre BANGPy et du SDK Neuware sur le matériel Cambricon MLU.

À la fin de cette formation, les participants seront capables de :

• Configurer et configurer les environnements de développement BANGPy et Neuware.
• Développer et optimiser des modèles basés sur Python et C++ pour Cambricon MLUs.
• Déployer des modèles vers des appareils de périphérie et de centre de données exécutant le runtime Neuware.
• Intégrer les flux de travail ML avec des fonctionnalités d'accélération spécifiques à MLU.

Format du cours

• Cours interactifs et discussions.
• Utilisation pratique de BANGPy et Neuware pour le développement et le déploiement.
• Exercices guidés axés sur l'optimisation, l'intégration et les tests.

Options de personnalisation du cours

• Pour demander une formation personnalisée pour ce cours basée sur votre modèle d'appareil Cambricon ou votre cas d'utilisation, veuillez nous contacter pour organiser cela.

Introduction à Cambricon et à l'architecture MLU

• Aperçu de la gamme de puces AI de Cambricon
• Architecture MLU et pipeline d'instructions
• Types de modèles pris en charge et cas d'utilisation

Installation du chaînon de développement

• Installation de BANGPy et du SDK Neuware
• Configuration de l'environnement pour Python et C++
• Compatibilité des modèles et prétraitement

Développement de modèles avec BANGPy

• Gestion de la structure et de la forme du tenseur
• Construction du graphe de calcul
• Soutien aux opérations personnalisées dans BANGPy

Déploiement avec le runtime Neuware

• Conversion et chargement des modèles
• Contrôle d'exécution et d'inférence
• Pratiques de déploiement pour périphérie et centre de données

Optimisation des performances

• Mappage mémoire et réglage par couche
• Suivi d'exécution et profilage
• Bouchons courants et corrections

Intégration de MLU dans les applications

• Utilisation des API Neuware pour l'intégration d'applications
• Soutien au streaming et aux modèles multiples
• Scénarios d'inférence hybride CPU-MLU

Projet de bout en bout et Use Case

• Laboratoire : déploiement d'un modèle vision ou NLP
• Inférence périphérique avec intégration BANGPy
• Test de précision et de débit

Récapitulatif et prochaines étapes

• Compréhension des structures de modèles d'apprentissage automatique
• Expérience avec Python et/ou C++
• Familiarité avec les concepts de déploiement et d'accélération des modèles

Audience

• Développeurs AI embarqués
• Ingénieurs ML déployant sur périphérie ou centre de données
• Développeurs travaillant avec l'infrastructure AI chinoise

Récapitulatif et prochaines étapes