Formation ROCm pour Windows
ROCm est une plateforme open source pour la programmation GPU qui prend en charge les GPU AMD et assure également la compatibilité avec CUDA et OpenCL. ROCm expose les détails matériels aux développeurs et leur donne un contrôle total sur le processus de parallélisation. Cela nécessite toutefois une bonne compréhension de l'architecture du dispositif, du modèle de mémoire, du modèle d'exécution et des techniques d'optimisation.
ROCm pour Windows est un développement récent qui permet aux utilisateurs d'installer et d'utiliser ROCm sur le système d'exploitation Windows, largement utilisé à des fins personnelles et professionnelles. ROCm pour Windows permet aux utilisateurs de tirer parti de la puissance des GPU AMD pour diverses applications, telles que l'intelligence artificielle, les jeux vidéo, les graphiques et le calcul scientifique.
Cette formation en direct animée par un instructeur (en ligne ou sur site) s'adresse aux développeurs de niveau débutant à intermédiaire qui souhaitent installer et utiliser ROCm sur Windows pour programmer des GPU AMD et exploiter leur parallélisme.
À la fin de cette formation, les participants seront capables de :
- Mettre en place un environnement de développement incluant la plate-forme ROCm, un GPU AMD et Visual Studio Code sous Windows.
- Créer un programme ROCm de base effectuant une addition de vecteurs sur le GPU et récupérant les résultats de la mémoire du GPU.
- Utiliser l'API ROCm pour interroger les informations du dispositif, allouer et libérer de la mémoire de dispositif, copier des données entre l'hôte et le dispositif, lancer des noyaux (kernels) et synchroniser les threads.
- Utiliser le langage HIP pour écrire des noyaux qui s'exécutent sur le GPU et manipulent les données.
- Utiliser les fonctions intégrées, les variables et les bibliothèques HIP pour effectuer des tâches et opérations courantes.
- Utiliser les espaces mémoire ROCm et HIP, tels que global, partagé, constant et local, pour optimiser les transferts de données et les accès mémoire.
- Utiliser les modèles d'exécution ROCm et HIP pour contrôler les threads, les blocs et les grilles qui définissent le parallélisme.
- Déboguer et tester les programmes ROCm et HIP à l'aide d'outils tels que ROCm Debugger et ROCm Profiler.
- Optimiser les programmes ROCm et HIP en utilisant des techniques telles que la concaténation (coalescing), la mise en cache, la prérecherche (prefetching) et le profilage.
Format de la formation
- Conférence interactive et discussions.
- Nombreux exercices et pratiques.
- Mise en œuvre pratique dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en convenir.
Plan du cours
Introduction
- Qu'est-ce que ROCm ?
- Qu'est-ce que HIP ?
- ROCm vs CUDA vs OpenCL
- Aperçu des fonctionnalités et de l'architecture de ROCm et HIP
- ROCm pour Windows vs ROCm pour Linux
Installation
- Installation de ROCm sur Windows
- Vérification de l'installation et contrôle de la compatibilité du dispositif
- Mise à jour ou désinstallation de ROCm sur Windows
- Résolution des problèmes d'installation courants
Premiers pas
- Création d'un nouveau projet ROCm à l'aide de Visual Studio Code sous Windows
- Exploration de la structure du projet et des fichiers
- Compilation et exécution du programme
- Affichage de la sortie en utilisant printf et fprintf
API ROCm
- Utilisation de l'API ROCm dans le programme hôte
- Interrogation des informations et des capacités du dispositif
- Allocation et libération de la mémoire du dispositif
- Copie des données entre l'hôte et le dispositif
- Lancement des noyaux et synchronisation des threads
- Gestion des erreurs et des exceptions
Langage HIP
- Utilisation du langage HIP dans le programme de dispositif
- Écriture de noyaux qui s'exécutent sur le GPU et manipulent les données
- Utilisation des types de données, des qualifiants, des opérateurs et des expressions
- Utilisation des fonctions intégrées, des variables et des bibliothèques
Modèle mémoire ROCm et HIP
- Utilisation de différents espaces mémoire, tels que global, partagé, constant et local
- Utilisation de différents objets mémoire, tels que pointeurs, tableaux, textures et surfaces
- Utilisation de différents modes d'accès mémoire, tels que en lecture seule, en écriture seule, en lecture-écriture, etc.
- Utilisation du modèle de cohérence mémoire et des mécanismes de synchronisation
Modèle d'exécution ROCm et HIP
- Utilisation de différents modèles d'exécution, tels que threads, blocs et grilles
- Utilisation de fonctions de thread, telles que hipThreadIdx_x, hipBlockIdx_x, hipBlockDim_x, etc.
- Utilisation de fonctions de bloc, telles que __syncthreads, __threadfence_block, etc.
- Utilisation de fonctions de grille, telles que hipGridDim_x, hipGridSync, groupes coopératifs, etc.
Débogage
- Débogage des programmes ROCm et HIP sous Windows
- Utilisation du débogueur Visual Studio Code pour inspecter les variables, les points d'arrêt, la pile d'appels, etc.
- Utilisation de ROCm Debugger pour déboguer les programmes ROCm et HIP sur les dispositifs AMD
- Utilisation de ROCm Profiler pour analyser les programmes ROCm et HIP sur les dispositifs AMD
Optimisation
- Optimisation des programmes ROCm et HIP sous Windows
- Utilisation de techniques de concaténation (coalescing) pour améliorer le débit mémoire
- Utilisation de techniques de mise en cache et de prérecherche (prefetching) pour réduire la latence mémoire
- Utilisation de la mémoire partagée et locale pour optimiser les accès mémoire et la bande passante
- Utilisation du profilage et des outils de profilage pour mesurer et améliorer le temps d'exécution et l'utilisation des ressources
Résumé et prochaines étapes
Pré requis
- Compréhension du langage C/C++ et des concepts de programmation parallèle.
- Connaissances de base en architecture informatique et hiérarchie mémoire.
- Expérience avec les outils en ligne de commande et les éditeurs de code.
- Maîtrise du système d'exploitation Windows et de PowerShell.
Audience
- Développeurs souhaitant apprendre à installer et à utiliser ROCm sur Windows pour programmer des GPU AMD et exploiter leur parallélisme.
- Développeurs souhaitant écrire du code haute performance et évolutif pouvant s'exécuter sur différents périphériques AMD.
- Programmateurs souhaitant explorer les aspects bas niveau de la programmation GPU et optimiser les performances de leur code.
Cours à partir de 4 + personnes. Pour un entraînement individuel ou en petit groupe, veuillez demander un devis.
Formation ROCm pour Windows - Réservation
Formation ROCm pour Windows - Demande de renseignements
ROCm pour Windows - Demande d'informations consulting
Cours à venir
Cours Similaires
Développement d'applications IA avec Huawei Ascend et CANN
21 HeuresHuawei Ascend est une famille de processeurs IA conçus pour l'inférence et l'entraînement haute performance.
Cette formation en présentiel ou à distance, animée par un formateur, s'adresse aux ingénieurs en IA et aux data scientists de niveau intermédiaire qui souhaitent développer et optimiser des modèles de réseaux neuronaux à l'aide de la plateforme Ascend de Huawei et de la boîte à outils CANN.
À l'issue de cette formation, les participants seront capables de :
- Installer et configurer l'environnement de développement CANN.
- Développer des applications IA à l'aide de MindSpore et des workflows CloudMatrix.
- Optimiser les performances sur les NPU Ascend à l'aide d'opérateurs personnalisés et du tuilage.
- Déployer des modèles dans des environnements edge ou cloud.
Format de la formation
- Cours interactif et discussions.
- Pratique avec la plateforme Huawei Ascend et la boîte à outils CANN dans des applications d'exemple.
- Exercices guidés axés sur la création, l'entraînement et le déploiement de modèles.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours en fonction de votre infrastructure ou de vos jeux de données, veuillez nous contacter pour en convenir.
Déploiement de modèles d'IA avec CANN et processeurs AI Ascend
14 HeuresCANN (Compute Architecture for Neural Networks) est la pile de calcul IA de Huawei, conçue pour déployer et optimiser des modèles d'IA sur les processeurs AI Ascend.
Cette formation en présentiel ou en ligne, animée par un formateur, s'adresse aux développeurs et ingénieurs en IA de niveau intermédiaire souhaitant déployer efficacement des modèles d'IA entraînés sur du matériel Huawei Ascend à l'aide de la boîte à outils CANN et d'outils tels que MindSpore, TensorFlow ou PyTorch.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'architecture de CANN et son rôle dans le pipeline de déploiement de l'IA.
- Convertir et adapter des modèles provenant de frameworks populaires vers des formats compatibles avec Ascend.
- Utiliser des outils tels que ATC, la conversion de modèles OM et MindSpore pour l'inférence en edge et dans le cloud.
- Diagnostiquer les problèmes de déploiement et optimiser les performances sur le matériel Ascend.
Format du cours
- Cours interactif et démonstrations.
- Travaux pratiques en laboratoire utilisant les outils CANN et des simulateurs ou appareils Ascend.
- Scénarios de déploiement concrets basés sur des modèles d'IA du monde réel.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Inférence et déploiement avec CloudMatrix
21 HeuresCloudMatrix est la plateforme unifiée de développement et de déploiement d'IA de Huawei, conçue pour soutenir des pipelines d'inférence évolutifs et de niveau production.
Cette formation en direct animée par un instructeur (en ligne ou sur site) s'adresse aux professionnels de l'IA de niveau débutant à intermédiaire qui souhaitent déployer et superviser des modèles d'IA à l'aide de la plateforme CloudMatrix, intégrée avec CANN et MindSpore.
À l'issue de cette formation, les participants seront capables de :
- Utiliser CloudMatrix pour l'emballage, le déploiement et la mise à disposition des modèles.
- Convertir et optimiser les modèles pour les chipsets Ascend.
- Mettre en place des pipelines pour les tâches d'inférence en temps réel et par lots.
- Superviser les déploiements et ajuster les performances dans des environnements de production.
Format du cours
- Cours interactif et discussions.
- Utilisation pratique de CloudMatrix avec des scénarios de déploiement réels.
- Exercices guidés axés sur la conversion, l'optimisation et la mise à l'échelle.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, basée sur votre infrastructure d'IA ou votre environnement cloud, veuillez nous contacter pour en convenir.
Programmation GPU sur les accélérateurs IA Biren
21 HeuresLes accélérateurs IA Biren sont des GPU haute performance conçus pour les charges de travail d'IA et de calcul haute performance (HPC), avec prise en charge de l'entraînement et de l'inférence à grande échelle.
Cette formation en direct animée par un instructeur (en ligne ou sur site) s'adresse aux développeurs de niveau intermédiaire à avancé souhaitant programmer et optimiser des applications à l'aide de la pile GPU propriétaire de Biren, avec des comparaisons pratiques par rapport aux environnements basés sur CUDA.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre l'architecture GPU Biren et sa hiérarchie mémoire.
- Configurer l'environnement de développement et utiliser le modèle de programmation de Biren.
- Traduire et optimiser du code de style CUDA pour les plateformes Biren.
- Appliquer des techniques de réglage des performances et de débogage.
Format de la formation
- Conférence interactive et discussions.
- Utilisation pratique du SDK Biren sur des charges de travail GPU d'exemple.
- Exercices guidés axés sur la migration et le réglage des performances.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, basée sur votre pile d'applications ou vos besoins d'intégration, veuillez nous contacter pour organiser cela.
Développement MLU Cambricon avec BANGPy et Neuware
21 HeuresLes MLU (Unités de calcul pour l'intelligence artificielle) de Cambricon sont des puces AI spécialisées, optimisées pour l'inférence et l'entraînement dans des environnements de pointe et de data centers.
Cette formation en direct, animée par un formateur (en ligne ou sur site), s'adresse aux développeurs de niveau intermédiaire souhaitant concevoir et déployer des modèles d'IA à l'aide du framework BANGPy et du SDK Neuware sur du matériel Cambricon MLU.
À l'issue de cette formation, les participants seront capables de :
- Configurer et mettre en place les environnements de développement BANGPy et Neuware.
- Développer et optimiser des modèles basés sur Python et C++ pour les MLU Cambricon.
- Déployer des modèles sur des appareils edge et des data centers exécutant le runtime Neuware.
- Intégrer des workflows ML avec les fonctionnalités d'accélération spécifiques aux MLU.
Format de la formation
- Cours interactifs et discussions.
- Mise en pratique de BANGPy et Neuware pour le développement et le déploiement.
- Exercices guidés axés sur l'optimisation, l'intégration et les tests.
Options de personnalisation de la formation
- Pour demander une formation personnalisée adaptée à votre modèle d'appareil Cambricon ou à votre cas d'utilisation, veuillez nous contacter afin d'en convenir.
Introduction au CANN pour les développeurs de frameworks d'IA
7 HeuresLe CANN (Compute Architecture for Neural Networks) est la boîte à outils de calcul IA de Huawei, utilisée pour compiler, optimiser et déployer des modèles IA sur des processeurs IA Ascend.
Cette formation animée par un instructeur (en ligne ou sur site) s'adresse aux développeurs IA débutants qui souhaitent comprendre comment le CANN s'intègre dans le cycle de vie du modèle, de l'entraînement au déploiement, et comment il fonctionne avec des frameworks tels que MindSpore, TensorFlow et PyTorch.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'objectif et l'architecture de la boîte à outils CANN.
- Configurer un environnement de développement avec CANN et MindSpore.
- Convertir et déployer un modèle IA simple sur du matériel Ascend.
- Acquérir des connaissances fondamentales pour de futurs projets d'optimisation ou d'intégration avec CANN.
Format du cours
- Cours interactif et débats.
- Travaux pratiques avec déploiement de modèles simples.
- Guide étape par étape de la chaîne d'outils CANN et des points d'intégration.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
CANN pour le déploiement de l'IA en périphérie
14 HeuresLa boîte à outils Ascend CANN de Huawei permet une inférence IA puissante sur des appareils en périphérie tels que l'Ascend 310. CANN fournit des outils essentiels pour compiler, optimiser et déployer des modèles dans des environnements à la puissance de calcul et à la mémoire limitées.
Cette formation en présentiel (en ligne ou sur site) est destinée aux développeurs et intégrateurs IA de niveau intermédiaire souhaitant déployer et optimiser des modèles sur des appareils en périphérie Ascend à l'aide de la chaîne d'outils CANN.
À l'issue de cette formation, les participants seront en mesure de :
- Préparer et convertir des modèles IA pour l'Ascend 310 en utilisant les outils CANN.
- Concevoir des pipelines d'inférence légers avec MindSpore Lite et AscendCL.
- Optimiser les performances des modèles pour des environnements à ressources limitées (calcul et mémoire).
- Déployer et surveiller des applications IA dans des cas d'utilisation réels en périphérie.
Format de la formation
- Cours interactif et démonstrations.
- Ateliers pratiques sur des modèles et scénarios spécifiques à la périphérie.
- Exemples de déploiement en direct sur du matériel virtuel ou physique en périphérie.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en discuter.
Comprendre la pile de calcul IA de Huawei : de CANN à MindSpore
14 HeuresLa pile IA de Huawei, allant du SDK CANN de bas niveau au framework MindSpore de haut niveau, offre un environnement de développement et de déploiement IA étroitement intégré, optimisé pour le matériel Ascend.
Cette formation en présentiel (en ligne ou sur site) est destinée à des professionnels techniques de niveau débutant à intermédiaire souhaitant comprendre comment les composants CANN et MindSpore fonctionnent ensemble pour soutenir la gestion du cycle de vie de l'IA et les décisions d'infrastructure.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre l'architecture en couches de la pile de calcul IA de Huawei.
- Identifier comment CANN soutient l'optimisation des modèles et le déploiement au niveau du matériel.
- Évaluer le framework MindSpore et sa chaîne d'outils par rapport aux alternatives de l'industrie.
- Positionner la pile IA de Huawei dans des environnements d'entreprise, qu'ils soient dans le cloud ou sur site (on-prem).
Format de la formation
- Conférence interactive et discussions.
- Démonstrations système en direct et ateliers basés sur des cas pratiques.
- Laboratoires guidés optionnels sur le flux de modèles, de MindSpore à CANN.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en discuter.
Optimisation des performances des réseaux de neurones avec le kit de développement CANN
14 HeuresLe kit de développement CANN (Compute Architecture for Neural Networks) est la base informatique d'intelligence artificielle de Huawei, permettant aux développeurs d'ajuster et d'optimiser les performances des réseaux de neurones déployés sur les processeurs IA Ascend.
Ce cours en présentiel (en ligne ou sur site) est destiné aux développeurs IA de niveau avancé et aux ingénieurs systèmes souhaitant optimiser les performances d'inférence à l'aide de la suite d'outils avancés de CANN, y compris le moteur de graphes (Graph Engine), TIK et le développement d'opérateurs personnalisés.
À l'issue de cette formation, les participants seront capables de :
- Comprendre l'architecture d'exécution et le cycle de vie des performances de CANN.
- Utiliser les outils de profilage et le moteur de graphes pour l'analyse et l'optimisation des performances.
- Créer et optimiser des opérateurs personnalisés à l'aide de TIK et de TVM.
- Résoudre les goulets d'étranglement mémoire et améliorer le débit des modèles.
Format du cours
- Cours interactif et discussions.
- Pratiques avec des profils en temps réel et réglage des opérateurs.
- Exercices d'optimisation à l'aide d'exemples de déploiement de cas limites.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
SDK CANN pour les pipelines de vision par ordinateur et de TAL
14 HeuresLe SDK CANN (Compute Architecture for Neural Networks) fournit des outils puissants de déploiement et d'optimisation pour les applications d'IA en temps réel dans les domaines de la vision par ordinateur et du TAL, en particulier sur le matériel Huawei Ascend.
Cette formation pratique dirigée par un instructeur (en ligne ou en présentiel) s'adresse aux praticiens de l'IA de niveau intermédiaire qui souhaitent construire, déployer et optimiser des modèles de vision et de langage en utilisant le SDK CANN pour des cas d'utilisation en production.
À l'issue de cette formation, les participants seront en mesure de :
- Déployer et optimiser des modèles de vision par ordinateur et de TAL à l'aide de CANN et d'AscendCL.
- Utiliser les outils CANN pour convertir des modèles et les intégrer dans des pipelines en temps réel.
- Optimiser les performances d'inférence pour des tâches telles que la détection, la classification et l'analyse des sentiments.
- Construire des pipelines de vision par ordinateur et de TAL en temps réel pour des scénarios de déploiement sur edge ou dans le cloud.
Format du cours
- Conférence interactive et démonstration.
- Atelier pratique avec déploiement de modèles et profilage des performances.
- Conception de pipelines en direct en utilisant des cas d'utilisation réels de vision par ordinateur et de TAL.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser.
Création d'opérateurs IA personnalisés avec CANN TIK et TVM
14 HeuresCANN TIK (Tensor Instruction Kernel) et Apache TVM permettent l'optimisation avancée et la personnalisation des opérateurs de modèles d'IA pour le matériel Huawei Ascend.
Cette formation en direct animée par un formateur (en ligne ou sur site) s'adresse aux développeurs système de niveau avancé souhaitant créer, déployer et affiner des opérateurs personnalisés pour des modèles d'IA en utilisant le modèle de programmation TIK de CANN et l'intégration du compilateur TVM.
À l'issue de cette formation, les participants seront capables de :
- Écrire et tester des opérateurs d'IA personnalisés à l'aide du DSL TIK pour les processeurs Ascend.
- Intégrer des ops personnalisés dans le runtime CANN et le graphe d'exécution.
- Utiliser TVM pour la planification des opérateurs, l'auto-tuning et le benchmarking.
- Déboguer et optimiser les performances au niveau des instructions pour des motifs de calcul personnalisés.
Format du cours
- Cours interactif et démonstrations.
- Codage pratique d'opérateurs utilisant les pipelines TIK et TVM.
- Tests et affinement sur du matériel Ascend ou des simulateurs.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.
Migration des applications CUDA vers des architectures GPU chinoises
21 HeuresLes architectures GPU chinoises, telles que Huawei Ascend, Biren et les MLU de Cambricon, offrent des alternatives à CUDA adaptées aux marchés locaux de l'IA et du calcul haute performance (HPC).
Cette formation en présentiel ou en ligne, animée par un expert, s'adresse aux programmeurs GPU avancés et aux spécialistes de l'infrastructure souhaitant migrer et optimiser leurs applications CUDA existantes afin de les déployer sur des plateformes matérielles chinoises.
À l'issue de cette formation, les participants seront capables de :
- Évaluer la compatibilité des charges de travail CUDA existantes avec les puces chinoises alternatives.
- Porter les bases de code CUDA vers les environnements Huawei CANN, Biren SDK et Cambricon BANGPy.
- Comparer les performances et identifier les points d'optimisation entre les différentes plateformes.
- Aborder les défis pratiques liés au support et au déploiement entre architectures.
Format du cours
- Conférence interactive et discussion.
- Pratiques guidées de traduction de code et de comparaison des performances.
- Exercices ciblés sur les stratégies d'adaptation multi-GPU.
Options de personnalisation du cours
- Pour demander une formation personnalisée basée sur votre plateforme ou votre projet CUDA, veuillez nous contacter pour convenir des modalités.
Optimisation des performances sur Ascend, Biren et Cambricon
21 HeuresAscend, Biren et Cambricon sont des plateformes matérielles d'IA de premier plan en Chine, offrant chacune des outils d'accélération et de profilage uniques pour des charges de travail d'IA à grande échelle en production.
Cette formation en présentiel ou à distance, animée par un instructeur, s'adresse aux ingénieurs avancés en infrastructure et performance d'IA souhaitant optimiser les flux de travail d'inférence et d'entraînement sur plusieurs plateformes de puces d'IA chinoises.
À l'issue de cette formation, les participants seront capables de :
- Réaliser des benchmarks de modèles sur les plateformes Ascend, Biren et Cambricon.
- Identifier les goulots d'étranglement système et les inefficacités mémoire/calcul.
- Appliquer des optimisations aux niveaux du graphique, des noyaux et des opérateurs.
- Ajuster les pipelines de déploiement pour améliorer le débit et la latence.
Format du cours
- Cours interactif et discussions.
- Prise en main des outils de profilage et d'optimisation sur chaque plateforme.
- Exercices guidés axés sur des scénarios pratiques de réglage.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, adaptée à votre environnement de performance ou à votre type de modèle, veuillez nous contacter afin d'organiser cela.
