Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Durée 14 heures
Plan du cours
Présentation des capacités d'optimisation de CANN
- Gestion des performances d'inférence dans CANN
- Objectifs d'optimisation pour les systèmes IA embarqués et périphériques (edge)
- Comprendre l'utilisation des noyaux IA (AI Cores) et l'allocation mémoire
Utilisation du Graph Engine pour l'analyse
- Introduction au moteur de graphes et au pipeline d'exécution
- Visualisation des graphes d'opérateurs et des métriques d'exécution
- Modification des graphes de calcul pour l'optimisation
Outils de profilage et métriques de performance
- Utilisation de l'outil de profilage CANN (profiler) pour l'analyse de la charge de travail
- Analyse du temps d'exécution des noyaux (kernels) et des goulets d'étranglement
- Profilage des accès mémoire et stratégies de tuilage (tiling)
Développement d'opérateurs personnalisés avec TIK
- Aperçu de TIK et du modèle de programmation des opérateurs
- Implémentation d'un opérateur personnalisé à l'aide du DSL TIK
- Test et banc d'essai (benchmarking) des performances de l'opérateur
Optimisation avancée des opérateurs avec TVM
- Introduction à l'intégration de TVM avec CANN
- Stratégies d'auto-ajustement (auto-tuning) pour les graphes de calcul
- Quand et comment basculer entre TVM et TIK
Techniques d'optimisation mémoire
- Gestion de la disposition mémoire et du placement des tampons (buffers)
- Techniques pour réduire la consommation de la mémoire sur puce (on-chip)
- Meilleures pratiques pour l'exécution asynchrone et la réutilisation
Déploiement dans le monde réel et études de cas
- Étude de cas : optimisation des performances pour le pipeline de caméras de villes intelligentes
- Étude de cas : optimisation de la pile d'inférence pour véhicules autonomes
- Lignes directrices pour le profilage itératif et l'amélioration continue
Résumé et prochaines étapes
Pré requis
- Compréhension solide des architectures de modèles d'apprentissage profond et des flux de travail d'entraînement.
- Expérience du déploiement de modèles à l'aide de CANN, TensorFlow ou PyTorch.
- Familiarité avec le CLI Linux, le scripting shell et la programmation Python.
Public cible
- Ingénieurs en performance IA.
- Spécialistes en optimisation de l'inférence.
- Développeurs travaillant sur l'IA embarquée (edge AI) ou les systèmes en temps réel.
