Plan du cours

Introduction à l'IA en périphérie et Nano Banana

  • Caractéristiques clés des charges de travail d'IA en périphérie
  • Architecture et capacités de Nano Banana
  • Comparaison des stratégies de déploiement en périphérie vs cloud

Préparation des modèles pour le déploiement en périphérie

  • Sélection et évaluation de base des modèles
  • Considérations sur les dépendances et la compatibilité
  • Exportation des modèles pour une optimisation ultérieure

Techniques de compression de modèles

  • Stratégies d'élagage et parcimonie structurelle
  • Partage des poids et réduction des paramètres
  • Évaluation de l'impact de la compression

Quantification pour les performances en périphérie

  • Méthodes de quantification post-formation
  • Workflows de formation avec prise en compte de la quantification
  • Approches INT8, FP16 et précision mixte

Accélération avec Nano Banana

  • Utilisation des accélérateurs de Nano Banana
  • Intégration d'ONNX et des backends matériels
  • Évaluation des performances d'inférence accélérée

Déploiement sur les périphériques en périphérie

  • Intégration des modèles dans des applications embarquées ou mobiles
  • Configuration et surveillance en temps de fonctionnement
  • Dépannage des problèmes de déploiement

Profilage des performances et analyse des compromis

  • Latence, débit et contraintes thermiques
  • Compromis entre précision et performance
  • Stratégies d'optimisation itérative

Bonnes pratiques pour maintenir des systèmes d'IA en périphérie

  • Versioning et mises à jour continues
  • Retour en arrière de modèle et gestion de la compatibilité
  • Considérations sur la sécurité et l'intégrité

Résumé et étapes suivantes

Pré requis

  • Une compréhension des flux de travail d'apprentissage automatique
  • Expérience dans le développement de modèles basés sur Python
  • Connaissance des architectures de réseaux neuronaux

Public cible

  • Ingénieurs en apprentissage automatique (ML)
  • Scientifiques des données
  • Praticiens MLOps
 14 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires