Formation Migration des applications CUDA vers des architectures GPU chinoises
Les architectures GPU chinoises, telles que Huawei Ascend, Biren et les MLU de Cambricon, offrent des alternatives à CUDA adaptées aux marchés locaux de l'IA et du calcul haute performance (HPC).
Cette formation en présentiel ou en ligne, animée par un expert, s'adresse aux programmeurs GPU avancés et aux spécialistes de l'infrastructure souhaitant migrer et optimiser leurs applications CUDA existantes afin de les déployer sur des plateformes matérielles chinoises.
À l'issue de cette formation, les participants seront capables de :
- Évaluer la compatibilité des charges de travail CUDA existantes avec les puces chinoises alternatives.
- Porter les bases de code CUDA vers les environnements Huawei CANN, Biren SDK et Cambricon BANGPy.
- Comparer les performances et identifier les points d'optimisation entre les différentes plateformes.
- Aborder les défis pratiques liés au support et au déploiement entre architectures.
Format du cours
- Conférence interactive et discussion.
- Pratiques guidées de traduction de code et de comparaison des performances.
- Exercices ciblés sur les stratégies d'adaptation multi-GPU.
Options de personnalisation du cours
- Pour demander une formation personnalisée basée sur votre plateforme ou votre projet CUDA, veuillez nous contacter pour convenir des modalités.
Plan du cours
Aperçu de l'écosystème GPU d'IA chinois
- Comparaison entre Huawei Ascend, Biren et Cambricon MLU
- Modèles CUDA vs CANN, Biren SDK et BANGPy
- Tendances industrielles et écosystèmes fournisseurs
Préparation à la migration
- Évaluation de votre base de code CUDA
- Identification des plateformes cibles et des versions du SDK
- Installation de la chaîne d'outils et configuration de l'environnement
Techniques de traduction de code
- Portage de l'accès à la mémoire CUDA et de la logique des noyaux
- Cartographie des modèles de grille de calcul et de threads
- Solutions de traduction automatisées versus manuelles
Implémentations spécifiques à la plateforme
- Utilisation des opérateurs et noyaux personnalisés de Huawei CANN
- Pipeline de conversion du SDK Biren
- Reconstruction des modèles avec BANGPy (Cambricon)
Tests et optimisation interplateformes
- Profilage de l'exécution sur chaque plateforme cible
- Optimisation de la mémoire et comparaison de l'exécution parallèle
- Suivi des performances et itérations
Gestion des environnements GPU mixtes
- Déploiements hybrides avec plusieurs architectures
- Stratégies de repli et détection des périphériques
- Couches d'abstraction pour la maintenabilité du code
Études de cas et bonnes pratiques
- Portage de modèles de vision/traitement du langage naturel (NLP) vers Ascend ou Cambricon
- Adaptation des pipelines d'inférence sur les clusters Biren
- Gestion des écarts de versions et des lacunes API
Résumé et prochaines étapes
Pré requis
- Expérience en programmation CUDA ou en applications basées sur le GPU
- Compréhension des modèles de mémoire GPU et des noyaux de calcul
- Maîtrise des workflows de déploiement ou d'accélération de modèles d'IA
Public visé
- Programmeurs GPU
- Architectes systèmes
- Spécialistes en portage
Cours à partir de 4 + personnes. Pour un entraînement individuel ou en petit groupe, veuillez demander un devis.
Formation Migration des applications CUDA vers des architectures GPU chinoises - Réservation
Formation Migration des applications CUDA vers des architectures GPU chinoises - Demande de renseignements
Migration des applications CUDA vers des architectures GPU chinoises - Demande d'informations consulting
Cours à venir
Cours Similaires
Développement d'applications IA avec Huawei Ascend et CANN
21 HeuresHuawei Ascend est une famille de processeurs IA conçus pour l'inférence et l'entraînement haute performance.
Cette formation en présentiel ou à distance, animée par un formateur, s'adresse aux ingénieurs en IA et aux data scientists de niveau intermédiaire qui souhaitent développer et optimiser des modèles de réseaux neuronaux à l'aide de la plateforme Ascend de Huawei et de la boîte à outils CANN.
À l'issue de cette formation, les participants seront capables de :
- Installer et configurer l'environnement de développement CANN.
- Développer des applications IA à l'aide de MindSpore et des workflows CloudMatrix.
- Optimiser les performances sur les NPU Ascend à l'aide d'opérateurs personnalisés et du tuilage.
- Déployer des modèles dans des environnements edge ou cloud.
Format de la formation
- Cours interactif et discussions.
- Pratique avec la plateforme Huawei Ascend et la boîte à outils CANN dans des applications d'exemple.
- Exercices guidés axés sur la création, l'entraînement et le déploiement de modèles.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours en fonction de votre infrastructure ou de vos jeux de données, veuillez nous contacter pour en convenir.
Déploiement de modèles d'IA avec CANN et processeurs AI Ascend
14 HeuresCANN (Compute Architecture for Neural Networks) est la pile de calcul IA de Huawei, conçue pour déployer et optimiser des modèles d'IA sur les processeurs AI Ascend.
Cette formation en présentiel ou en ligne, animée par un formateur, s'adresse aux développeurs et ingénieurs en IA de niveau intermédiaire souhaitant déployer efficacement des modèles d'IA entraînés sur du matériel Huawei Ascend à l'aide de la boîte à outils CANN et d'outils tels que MindSpore, TensorFlow ou PyTorch.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'architecture de CANN et son rôle dans le pipeline de déploiement de l'IA.
- Convertir et adapter des modèles provenant de frameworks populaires vers des formats compatibles avec Ascend.
- Utiliser des outils tels que ATC, la conversion de modèles OM et MindSpore pour l'inférence en edge et dans le cloud.
- Diagnostiquer les problèmes de déploiement et optimiser les performances sur le matériel Ascend.
Format du cours
- Cours interactif et démonstrations.
- Travaux pratiques en laboratoire utilisant les outils CANN et des simulateurs ou appareils Ascend.
- Scénarios de déploiement concrets basés sur des modèles d'IA du monde réel.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Inférence et déploiement avec CloudMatrix
21 HeuresCloudMatrix est la plateforme unifiée de développement et de déploiement d'IA de Huawei, conçue pour soutenir des pipelines d'inférence évolutifs et de niveau production.
Cette formation en direct animée par un instructeur (en ligne ou sur site) s'adresse aux professionnels de l'IA de niveau débutant à intermédiaire qui souhaitent déployer et superviser des modèles d'IA à l'aide de la plateforme CloudMatrix, intégrée avec CANN et MindSpore.
À l'issue de cette formation, les participants seront capables de :
- Utiliser CloudMatrix pour l'emballage, le déploiement et la mise à disposition des modèles.
- Convertir et optimiser les modèles pour les chipsets Ascend.
- Mettre en place des pipelines pour les tâches d'inférence en temps réel et par lots.
- Superviser les déploiements et ajuster les performances dans des environnements de production.
Format du cours
- Cours interactif et discussions.
- Utilisation pratique de CloudMatrix avec des scénarios de déploiement réels.
- Exercices guidés axés sur la conversion, l'optimisation et la mise à l'échelle.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, basée sur votre infrastructure d'IA ou votre environnement cloud, veuillez nous contacter pour en convenir.
Programmation GPU sur les accélérateurs IA Biren
21 HeuresLes accélérateurs IA Biren sont des GPU haute performance conçus pour les charges de travail d'IA et de calcul haute performance (HPC), avec prise en charge de l'entraînement et de l'inférence à grande échelle.
Cette formation en direct animée par un instructeur (en ligne ou sur site) s'adresse aux développeurs de niveau intermédiaire à avancé souhaitant programmer et optimiser des applications à l'aide de la pile GPU propriétaire de Biren, avec des comparaisons pratiques par rapport aux environnements basés sur CUDA.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre l'architecture GPU Biren et sa hiérarchie mémoire.
- Configurer l'environnement de développement et utiliser le modèle de programmation de Biren.
- Traduire et optimiser du code de style CUDA pour les plateformes Biren.
- Appliquer des techniques de réglage des performances et de débogage.
Format de la formation
- Conférence interactive et discussions.
- Utilisation pratique du SDK Biren sur des charges de travail GPU d'exemple.
- Exercices guidés axés sur la migration et le réglage des performances.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, basée sur votre pile d'applications ou vos besoins d'intégration, veuillez nous contacter pour organiser cela.
Développement MLU Cambricon avec BANGPy et Neuware
21 HeuresLes MLU (Unités de calcul pour l'intelligence artificielle) de Cambricon sont des puces AI spécialisées, optimisées pour l'inférence et l'entraînement dans des environnements de pointe et de data centers.
Cette formation en direct, animée par un formateur (en ligne ou sur site), s'adresse aux développeurs de niveau intermédiaire souhaitant concevoir et déployer des modèles d'IA à l'aide du framework BANGPy et du SDK Neuware sur du matériel Cambricon MLU.
À l'issue de cette formation, les participants seront capables de :
- Configurer et mettre en place les environnements de développement BANGPy et Neuware.
- Développer et optimiser des modèles basés sur Python et C++ pour les MLU Cambricon.
- Déployer des modèles sur des appareils edge et des data centers exécutant le runtime Neuware.
- Intégrer des workflows ML avec les fonctionnalités d'accélération spécifiques aux MLU.
Format de la formation
- Cours interactifs et discussions.
- Mise en pratique de BANGPy et Neuware pour le développement et le déploiement.
- Exercices guidés axés sur l'optimisation, l'intégration et les tests.
Options de personnalisation de la formation
- Pour demander une formation personnalisée adaptée à votre modèle d'appareil Cambricon ou à votre cas d'utilisation, veuillez nous contacter afin d'en convenir.
Introduction au CANN pour les développeurs de frameworks d'IA
7 HeuresLe CANN (Compute Architecture for Neural Networks) est la boîte à outils de calcul IA de Huawei, utilisée pour compiler, optimiser et déployer des modèles IA sur des processeurs IA Ascend.
Cette formation animée par un instructeur (en ligne ou sur site) s'adresse aux développeurs IA débutants qui souhaitent comprendre comment le CANN s'intègre dans le cycle de vie du modèle, de l'entraînement au déploiement, et comment il fonctionne avec des frameworks tels que MindSpore, TensorFlow et PyTorch.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'objectif et l'architecture de la boîte à outils CANN.
- Configurer un environnement de développement avec CANN et MindSpore.
- Convertir et déployer un modèle IA simple sur du matériel Ascend.
- Acquérir des connaissances fondamentales pour de futurs projets d'optimisation ou d'intégration avec CANN.
Format du cours
- Cours interactif et débats.
- Travaux pratiques avec déploiement de modèles simples.
- Guide étape par étape de la chaîne d'outils CANN et des points d'intégration.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
CANN pour le déploiement de l'IA en périphérie
14 HeuresLa boîte à outils Ascend CANN de Huawei permet une inférence IA puissante sur des appareils en périphérie tels que l'Ascend 310. CANN fournit des outils essentiels pour compiler, optimiser et déployer des modèles dans des environnements à la puissance de calcul et à la mémoire limitées.
Cette formation en présentiel (en ligne ou sur site) est destinée aux développeurs et intégrateurs IA de niveau intermédiaire souhaitant déployer et optimiser des modèles sur des appareils en périphérie Ascend à l'aide de la chaîne d'outils CANN.
À l'issue de cette formation, les participants seront en mesure de :
- Préparer et convertir des modèles IA pour l'Ascend 310 en utilisant les outils CANN.
- Concevoir des pipelines d'inférence légers avec MindSpore Lite et AscendCL.
- Optimiser les performances des modèles pour des environnements à ressources limitées (calcul et mémoire).
- Déployer et surveiller des applications IA dans des cas d'utilisation réels en périphérie.
Format de la formation
- Cours interactif et démonstrations.
- Ateliers pratiques sur des modèles et scénarios spécifiques à la périphérie.
- Exemples de déploiement en direct sur du matériel virtuel ou physique en périphérie.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en discuter.
Comprendre la pile de calcul IA de Huawei : de CANN à MindSpore
14 HeuresLa pile IA de Huawei, allant du SDK CANN de bas niveau au framework MindSpore de haut niveau, offre un environnement de développement et de déploiement IA étroitement intégré, optimisé pour le matériel Ascend.
Cette formation en présentiel (en ligne ou sur site) est destinée à des professionnels techniques de niveau débutant à intermédiaire souhaitant comprendre comment les composants CANN et MindSpore fonctionnent ensemble pour soutenir la gestion du cycle de vie de l'IA et les décisions d'infrastructure.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre l'architecture en couches de la pile de calcul IA de Huawei.
- Identifier comment CANN soutient l'optimisation des modèles et le déploiement au niveau du matériel.
- Évaluer le framework MindSpore et sa chaîne d'outils par rapport aux alternatives de l'industrie.
- Positionner la pile IA de Huawei dans des environnements d'entreprise, qu'ils soient dans le cloud ou sur site (on-prem).
Format de la formation
- Conférence interactive et discussions.
- Démonstrations système en direct et ateliers basés sur des cas pratiques.
- Laboratoires guidés optionnels sur le flux de modèles, de MindSpore à CANN.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en discuter.
Optimisation des performances des réseaux de neurones avec le kit de développement CANN
14 HeuresLe kit de développement CANN (Compute Architecture for Neural Networks) est la base informatique d'intelligence artificielle de Huawei, permettant aux développeurs d'ajuster et d'optimiser les performances des réseaux de neurones déployés sur les processeurs IA Ascend.
Ce cours en présentiel (en ligne ou sur site) est destiné aux développeurs IA de niveau avancé et aux ingénieurs systèmes souhaitant optimiser les performances d'inférence à l'aide de la suite d'outils avancés de CANN, y compris le moteur de graphes (Graph Engine), TIK et le développement d'opérateurs personnalisés.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'architecture d'exécution et le cycle de vie des performances de CANN.
- Utiliser les outils de profilage et le moteur de graphes pour l'analyse et l'optimisation des performances.
- Créer et optimiser des opérateurs personnalisés à l'aide de TIK et de TVM.
- Résoudre les goulets d'étranglement mémoire et améliorer le débit des modèles.
Format du cours
- Cours interactif et discussions.
- Pratiques avec des profils en temps réel et réglage des opérateurs.
- Exercices d'optimisation à l'aide d'exemples de déploiement de cas limites.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
SDK CANN pour les pipelines de vision par ordinateur et de TAL
14 HeuresLe SDK CANN (Compute Architecture for Neural Networks) fournit des outils puissants de déploiement et d'optimisation pour les applications d'IA en temps réel dans les domaines de la vision par ordinateur et du TAL, en particulier sur le matériel Huawei Ascend.
Cette formation pratique dirigée par un instructeur (en ligne ou en présentiel) s'adresse aux praticiens de l'IA de niveau intermédiaire qui souhaitent construire, déployer et optimiser des modèles de vision et de langage en utilisant le SDK CANN pour des cas d'utilisation en production.
À l'issue de cette formation, les participants seront en mesure de :
- Déployer et optimiser des modèles de vision par ordinateur et de TAL à l'aide de CANN et d'AscendCL.
- Utiliser les outils CANN pour convertir des modèles et les intégrer dans des pipelines en temps réel.
- Optimiser les performances d'inférence pour des tâches telles que la détection, la classification et l'analyse des sentiments.
- Construire des pipelines de vision par ordinateur et de TAL en temps réel pour des scénarios de déploiement sur edge ou dans le cloud.
Format du cours
- Conférence interactive et démonstration.
- Atelier pratique avec déploiement de modèles et profilage des performances.
- Conception de pipelines en direct en utilisant des cas d'utilisation réels de vision par ordinateur et de TAL.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser.
Création d'opérateurs IA personnalisés avec CANN TIK et TVM
14 HeuresCANN TIK (Tensor Instruction Kernel) et Apache TVM permettent l'optimisation avancée et la personnalisation des opérateurs de modèles d'IA pour le matériel Huawei Ascend.
Cette formation en direct animée par un formateur (en ligne ou sur site) s'adresse aux développeurs système de niveau avancé souhaitant créer, déployer et affiner des opérateurs personnalisés pour des modèles d'IA en utilisant le modèle de programmation TIK de CANN et l'intégration du compilateur TVM.
À l'issue de cette formation, les participants seront capables de :
- Écrire et tester des opérateurs d'IA personnalisés à l'aide du DSL TIK pour les processeurs Ascend.
- Intégrer des ops personnalisés dans le runtime CANN et le graphe d'exécution.
- Utiliser TVM pour la planification des opérateurs, l'auto-tuning et le benchmarking.
- Déboguer et optimiser les performances au niveau des instructions pour des motifs de calcul personnalisés.
Format du cours
- Cours interactif et démonstrations.
- Codage pratique d'opérateurs utilisant les pipelines TIK et TVM.
- Tests et affinement sur du matériel Ascend ou des simulateurs.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Optimisation des performances sur Ascend, Biren et Cambricon
21 HeuresAscend, Biren et Cambricon sont des plateformes matérielles d'IA de premier plan en Chine, offrant chacune des outils d'accélération et de profilage uniques pour des charges de travail d'IA à grande échelle en production.
Cette formation en présentiel ou à distance, animée par un instructeur, s'adresse aux ingénieurs avancés en infrastructure et performance d'IA souhaitant optimiser les flux de travail d'inférence et d'entraînement sur plusieurs plateformes de puces d'IA chinoises.
À l'issue de cette formation, les participants seront capables de :
- Réaliser des benchmarks de modèles sur les plateformes Ascend, Biren et Cambricon.
- Identifier les goulots d'étranglement système et les inefficacités mémoire/calcul.
- Appliquer des optimisations aux niveaux du graphique, des noyaux et des opérateurs.
- Ajuster les pipelines de déploiement pour améliorer le débit et la latence.
Format du cours
- Cours interactif et discussions.
- Prise en main des outils de profilage et d'optimisation sur chaque plateforme.
- Exercices guidés axés sur des scénarios pratiques de réglage.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, adaptée à votre environnement de performance ou à votre type de modèle, veuillez nous contacter afin d'organiser cela.