Formation Cambricon MLU Development with BANGPy and Neuware
Les Cambricon MLUs (Machine Learning Unités) sont des puces AI spécialisées optimisées pour l'inférence et la formation dans les scénarios de périphérie et de centre de données.
Cette formation en direct (en ligne ou sur site), animée par un formateur, s'adresse aux développeurs intermédiaires souhaitant construire et déployer des modèles AI à l'aide du cadre BANGPy et du SDK Neuware sur le matériel Cambricon MLU.
À la fin de cette formation, les participants seront capables de :
- Configurer et configurer les environnements de développement BANGPy et Neuware.
- Développer et optimiser des modèles basés sur Python et C++ pour Cambricon MLUs.
- Déployer des modèles vers des appareils de périphérie et de centre de données exécutant le runtime Neuware.
- Intégrer les flux de travail ML avec des fonctionnalités d'accélération spécifiques à MLU.
Format du cours
- Cours interactifs et discussions.
- Utilisation pratique de BANGPy et Neuware pour le développement et le déploiement.
- Exercices guidés axés sur l'optimisation, l'intégration et les tests.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours basée sur votre modèle d'appareil Cambricon ou votre cas d'utilisation, veuillez nous contacter pour organiser cela.
Introduction à Cambricon et à l'architecture MLU
- Aperçu de la gamme de puces AI de Cambricon
- Architecture MLU et pipeline d'instructions
- Types de modèles pris en charge et cas d'utilisation
Installation du chaînon de développement
- Installation de BANGPy et du SDK Neuware
- Configuration de l'environnement pour Python et C++
- Compatibilité des modèles et prétraitement
Développement de modèles avec BANGPy
- Gestion de la structure et de la forme du tenseur
- Construction du graphe de calcul
- Soutien aux opérations personnalisées dans BANGPy
Déploiement avec le runtime Neuware
- Conversion et chargement des modèles
- Contrôle d'exécution et d'inférence
- Pratiques de déploiement pour périphérie et centre de données
Optimisation des performances
- Mappage mémoire et réglage par couche
- Suivi d'exécution et profilage
- Bouchons courants et corrections
Intégration de MLU dans les applications
- Utilisation des API Neuware pour l'intégration d'applications
- Soutien au streaming et aux modèles multiples
- Scénarios d'inférence hybride CPU-MLU
Projet de bout en bout et Use Case
- Laboratoire : déploiement d'un modèle vision ou NLP
- Inférence périphérique avec intégration BANGPy
- Test de précision et de débit
Récapitulatif et prochaines étapes
- Compréhension des structures de modèles d'apprentissage automatique
- Expérience avec Python et/ou C++
- Familiarité avec les concepts de déploiement et d'accélération des modèles
Audience
- Développeurs AI embarqués
- Ingénieurs ML déployant sur périphérie ou centre de données
- Développeurs travaillant avec l'infrastructure AI chinoise
Récapitulatif et prochaines étapes
Plan du cours
Introduction à Cambricon et à l'architecture MLU
- Aperçu de la gamme de puces AI de Cambricon
- Architecture MLU et pipeline d'instructions
- Types de modèles pris en charge et cas d'utilisation
Installation du chaînage de développement
- Installation de BANGPy et de la SDK Neuware
- Configuration de l'environnement pour Python et C++
- Compatibilité des modèles et prétraitement
Développement de modèles avec BANGPy
- Gestion de la structure et de la forme des tenseurs
- Construction du graphe de calcul
- Soutien aux opérations personnalisées dans BANGPy
Déploiement avec le runtime Neuware
- Conversion et chargement des modèles
- Contrôle d'exécution et d'inférence
- Pratiques de déploiement aux bords et dans les centres de données
Optimisation des performances
- Mappage mémoire et ajustement des couches
- Suivi et profilage d'exécution
- Bouchons courants et corrections
Intégration de MLU dans les applications
- Utilisation des API Neuware pour l'intégration des applications
- Support du streaming et des modèles multiples
- Cas d'inférence hybride CPU-MLU
Projet de bout en bout et Use Case
- Atelier : Déploiement d'un modèle de vision ou NLP
- Inférence aux bords avec intégration BANGPy
- Test de précision et de débit
Résumé et prochaines étapes
Pré requis
- Une compréhension des structures de modèles d'apprentissage automatique
- Expérience avec Python et/ou C++
- Familiarité avec les concepts de déploiement et d'accélération des modèles
Public cible
- Développeurs AI embarqués
- Ingénieurs ML déployant sur le bord ou dans un centre de données
- Développeurs travaillant avec l'infrastructure AI chinoise
Les formations ouvertes requièrent plus de 3 participants.
Formation Cambricon MLU Development with BANGPy and Neuware - Booking
Formation Cambricon MLU Development with BANGPy and Neuware - Enquiry
Cambricon MLU Development with BANGPy and Neuware - Demande d'informations consulting
Demande d'informations consulting
Cours à venir
Cours Similaires
Advanced Edge AI Techniques
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur place) s'adresse aux praticiens, chercheurs et développeurs en IA de niveau avancé qui souhaitent maîtriser les dernières avancées en matière d'Edge AI, optimiser leurs modèles d'IA pour le déploiement en périphérie, et explorer des applications spécialisées dans divers secteurs d'activité.
À l'issue de cette formation, les participants seront capables de :
- Explorer les techniques avancées de développement et d'optimisation des modèles d'Edge AI.
- Mettre en œuvre des stratégies de pointe pour déployer des modèles d'IA sur des appareils périphériques.
- Utiliser des outils et des cadres spécialisés pour les applications avancées d'Edge AI.
- Optimiser les performances et l'efficacité des solutions Edge AI.
- Explorer les cas d'utilisation innovants et les tendances émergentes dans le domaine de l'Edge AI.
- Aborder les considérations éthiques et de sécurité avancées dans les déploiements Edge AI.
Building AI Solutions on the Edge
14 HeuresCette formation en direct avec instructeur en Canada (en ligne ou sur place) s'adresse aux développeurs de niveau intermédiaire, aux scientifiques des données et aux passionnés de technologie qui souhaitent acquérir des compétences pratiques dans le déploiement de modèles d'IA sur des appareils périphériques pour diverses applications.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les principes de l'Edge AI et ses avantages.
- Mettre en place et configurer l'environnement informatique périphérique.
- Développer, former et optimiser des modèles d'IA pour le déploiement en périphérie.
- Mettre en œuvre des solutions pratiques d'IA sur des appareils périphériques.
- Évaluer et améliorer les performances des modèles déployés en périphérie.
- Aborder les considérations éthiques et de sécurité dans les applications d'Edge AI.
Migrating CUDA Applications to Chinese GPU Architectures
21 HeuresLes architectures chinoises GPU telles que Huawei Ascend, Biren et Cambricon MLUs offrent des alternatives à CUDA adaptées aux marchés locaux de l'IA et du calcul haute performance.
Cette formation en direct (en ligne ou sur site) dispensée par un formateur est destinée aux programmeurs avancés GPU et aux spécialistes d'infrastructure qui souhaitent migrer et optimiser des applications CUDA existantes pour leur déploiement sur des plateformes matérielles chinoises.
À la fin de cette formation, les participants seront capables de :
- Évaluer la compatibilité des charges de travail CUDA existantes avec les alternatives à base de puces chinoises.
- Migrer des bases de code CUDA vers Huawei CANN, Biren SDK et environnements Cambricon BANGPy.
- Comparer les performances et identifier les points d'optimisation sur différents plateformes.
- Aborder les défis pratiques du support inter-architecture et du déploiement.
Format de la formation
- Cours interactif et discussion.
- Laboratoires pratiques de traduction de code et de comparaison des performances.
- Exercices guidés axés sur les stratégies d'adaptation multi-GPU.
Options de personnalisation du cours
- Pour demander une formation personnalisée basée sur votre plateforme ou projet CUDA, veuillez nous contacter pour organiser cela.
Edge AI in Autonomous Systems
14 HeuresCette formation en direct (en ligne ou sur site) s'adresse aux ingénieurs en robotique de niveau intermédiaire, aux développeurs de véhicules autonomes et aux chercheurs en IA qui souhaitent tirer parti de l'Edge AI pour mettre au point des solutions innovantes en matière de systèmes autonomes.
A l'issue de cette formation, les participants seront en mesure de :
- Comprendre le rôle et les avantages de l'Edge AI dans les systèmes autonomes.
- Développer et déployer des modèles d'IA pour le traitement en temps réel sur des appareils périphériques.
- Mettre en œuvre des solutions Edge AI dans les véhicules autonomes, les drones et la robotique.
- Concevoir et optimiser les systèmes de contrôle à l'aide de l'Edge AI.
- Aborder les considérations éthiques et réglementaires dans les applications d'IA autonome.
Edge AI: From Concept to Implementation
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur site) s'adresse aux développeurs et aux professionnels de l'informatique de niveau intermédiaire qui souhaitent acquérir une compréhension complète de l'Edge AI, du concept à la mise en œuvre pratique, y compris l'installation et le déploiement.
A l'issue de cette formation, les participants seront en mesure de :
- Comprendre les concepts fondamentaux de l'Edge AI.
- Mettre en place et configurer des environnements Edge AI.
- Développer, former et optimiser des modèles Edge AI.
- Déployer et gérer les applications Edge AI.
- Intégrer l'Edge AI aux systèmes et flux de travail existants.
- Aborder les considérations éthiques et les meilleures pratiques dans la mise en œuvre de l'Edge AI.
Edge AI for Financial Services
14 HeuresCette formation en direct avec instructeur en Canada (en ligne ou sur site) est destinée aux professionnels de la finance de niveau intermédiaire, aux développeurs fintech et aux spécialistes de l'IA qui souhaitent mettre en œuvre des solutions Edge AI dans les services financiers.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre le rôle de l'Edge AI dans les services financiers.
- Mettre en œuvre des systèmes de détection de la fraude à l'aide de l'Edge AI.
- Améliorer le service à la clientèle grâce à des solutions basées sur l'IA.
- Appliquer l'Edge AI pour la gestion des risques et la prise de décision.
- Déployer et gérer des solutions Edge AI dans des environnements financiers.
Edge AI for Healthcare
14 HeuresCette formation en direct dans Canada (en ligne ou sur place) est destinée aux professionnels de la santé de niveau intermédiaire, aux ingénieurs biomédicaux et aux développeurs d'IA qui souhaitent tirer parti de l'Edge AI pour des solutions innovantes dans le domaine de la santé.
A l'issue de cette formation, les participants seront en mesure de :
- Comprendre le rôle et les avantages de l'Edge AI dans les soins de santé.
- Développer et déployer des modèles d'IA sur des dispositifs de pointe pour des applications de soins de santé.
- Mettre en œuvre des solutions d'Edge AI dans des dispositifs portables et des outils de diagnostic.
- Concevoir et déployer des systèmes de surveillance des patients à l'aide de l'IA périphérique.
- Aborder les considérations éthiques et réglementaires dans les applications de l'IA dans le domaine de la santé.
Edge AI in Industrial Automation
14 HeuresCette formation en direct avec instructeur en Canada (en ligne ou sur site) est destinée aux ingénieurs industriels de niveau intermédiaire, aux professionnels de la fabrication et aux développeurs d'IA qui souhaitent mettre en œuvre des solutions Edge AI dans le domaine de l'automatisation industrielle.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre le rôle de l'Edge AI dans l'automatisation industrielle.
- Mettre en œuvre des solutions de maintenance prédictive à l'aide de l'Edge AI.
- Appliquer des techniques d'IA pour le contrôle de la qualité dans les processus de fabrication.
- Optimiser les processus industriels à l'aide de l'Edge AI.
- Déployer et gérer des solutions Edge AI dans des environnements industriels.
Edge AI for IoT Applications
14 HeuresCette formation en direct avec instructeur en Canada (en ligne ou sur site) s'adresse aux développeurs de niveau intermédiaire, aux architectes système et aux professionnels de l'industrie qui souhaitent tirer parti de l'Edge AI pour améliorer les applications IoT avec des capacités de traitement et d'analyse de données intelligentes.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les principes fondamentaux de l'Edge AI et son application dans l'IoT.
- Mettre en place et configurer des environnements Edge AI pour les appareils IoT.
- Développer et déployer des modèles d'IA sur des appareils Edge pour des applications IoT.
- Mettre en œuvre le traitement des données en temps réel et la prise de décision dans les systèmes IoT.
- Intégrer l'Edge AI à divers protocoles et plateformes IoT.
- Aborder les considérations éthiques et les meilleures pratiques en matière d'Edge AI pour l'IoT.
Edge AI for Smart Cities
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur place) est destinée aux urbanistes, ingénieurs civils et gestionnaires de projets de villes intelligentes de niveau intermédiaire qui souhaitent tirer parti de l'Edge AI pour les initiatives de villes intelligentes.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre le rôle de l'Edge AI dans les infrastructures des villes intelligentes.
- Mettre en œuvre des solutions Edge AI pour la gestion du trafic et la surveillance.
- Optimiser les ressources urbaines à l'aide des technologies Edge AI.
- Intégrer l'Edge AI aux systèmes de ville intelligente existants.
- Aborder les considérations éthiques et réglementaires dans les déploiements de villes intelligentes.
Edge AI with TensorFlow Lite
14 HeuresCette formation en direct dans Canada (en ligne ou sur site) est destinée aux développeurs de niveau intermédiaire, aux scientifiques des données et aux praticiens de l'IA qui souhaitent tirer parti de TensorFlow Lite pour les applications d'IA de pointe.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les principes fondamentaux de TensorFlow Lite et son rôle dans l'Edge AI.
- Développer et optimiser des modèles d'IA à l'aide de TensorFlow Lite.
- Déployer des modèles TensorFlow Lite sur divers appareils périphériques.
- Utiliser des outils et des techniques pour la conversion et l'optimisation des modèles.
- Mettre en œuvre des applications pratiques d'Edge AI à l'aide de TensorFlow Lite.
Introduction to Edge AI
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur site) est destinée aux développeurs débutants et aux professionnels de l'informatique qui souhaitent comprendre les principes fondamentaux de l'Edge AI et ses applications d'introduction.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les concepts de base et l'architecture de Edge AI.
- Mettre en place et configurer des environnements Edge AI.
- Développer et déployer des applications Edge AI simples.
- Identifier et comprendre les cas d'utilisation et les avantages de l'Edge AI.
Optimizing AI Models for Edge Devices
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur site) est destinée aux développeurs d'IA de niveau intermédiaire, aux ingénieurs en apprentissage automatique et aux architectes de système qui souhaitent optimiser les modèles d'IA pour le déploiement en périphérie.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les défis et les exigences liés au déploiement de modèles d'IA sur des appareils périphériques.
- Appliquer des techniques de compression de modèles pour réduire la taille et la complexité des modèles d'IA.
- Utiliser des méthodes de quantification pour améliorer l'efficacité des modèles sur le matériel périphérique.
- Mettre en œuvre des techniques d'élagage et d'autres techniques d'optimisation pour améliorer les performances des modèles.
- Déployer des modèles d'IA optimisés sur divers appareils périphériques.
Performance Optimization on Ascend, Biren, and Cambricon
21 HeuresAscend, Biren et Cambricon sont des plateformes de matériel IA leaders en Chine, chacune offrant des outils uniques d'accélération et de profilage pour les charges de travail AI à l'échelle de production.
Cette formation en direct dirigée par un formateur (en ligne ou sur site) s'adresse aux ingénieurs高级AI基础设施和性能工程师,他们希望在多个中国AI芯片平台上优化模型推理和训练工作流。
到本培训结束时,参与者将能够:
- 在Ascend、Biren和Cambricon平台上对模型进行基准测试。
- 识别系统瓶颈和内存/计算低效问题。
- 应用图级、内核级和操作符级优化。
- 调整部署管道以提高吞吐量和减少延迟。
课程格式
- 互动讲座和讨论。
- 在每个平台上实际使用性能分析和优化工具。
- 专注于实用调优场景的指导练习。
课程定制选项
- 如需基于您的性能环境或模型类型对此课程进行定制培训,请联系我们安排。
Security and Privacy in Edge AI
14 HeuresCette formation en direct avec instructeur à Canada (en ligne ou sur place) est destinée aux professionnels de la cybersécurité de niveau intermédiaire, aux administrateurs de systèmes et aux chercheurs en éthique de l'IA qui souhaitent sécuriser et déployer de manière éthique les solutions d'IA Edge.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les défis en matière de sécurité et de protection de la vie privée dans l'Edge AI.
- Mettre en œuvre les meilleures pratiques pour sécuriser les appareils et les données de l'Edge AI.
- Développer des stratégies pour atténuer les risques de sécurité dans les déploiements Edge AI.
- Aborder les considérations éthiques et assurer la conformité avec les réglementations.
- Effectuer des évaluations et des audits de sécurité pour les applications Edge AI.