Prenez contact avec nous

Plan du cours

Introduction à l'IA en périphérie et à Nano Banana

  • Caractéristiques clés des charges de travail d'IA en périphérie
  • Architecture et capacités de Nano Banana
  • Comparaison des stratégies de déploiement en périphérie par rapport au cloud

Préparation des modèles pour le déploiement en périphérie

  • Sélection du modèle et évaluation de référence
  • Considérations relatives aux dépendances et à la compatibilité
  • Exportation des modèles pour une optimisation ultérieure

Techniques de compression des modèles

  • Stratégies d'élagueage et parcimonie structurelle
  • Partage des poids et réduction des paramètres
  • Évaluation des impacts de la compression

Quantification pour la performance en périphérie

  • Méthodes de quantification post-entraînement
  • Flux de travail de formation consciente de la quantification
  • Approches entières INT8, FP16 et précision mixte

Accélération avec Nano Banana

  • Utilisation des accélérateurs Nano Banana
  • Intégration des backends ONNX et matériel
  • Mise en œuvre de benchmarks pour l'inférence accélérée

Déploiement vers des appareils en périphérie

  • Intégration des modèles dans des applications embarquées ou mobiles
  • Configuration et surveillance du runtime
  • Dépannage des problèmes de déploiement

Profilage des performances et analyse des compromis

  • Contraintes liées à la latence, au débit et à la chaleur
  • Compromis entre précision et performance
  • Stratégies d'optimisation itérative

Meilleures pratiques pour la maintenance des systèmes d'IA en périphérie

  • Gestion des versions et mises à jour continues
  • Annulation des modèles et gestion de la compatibilité
  • Considérations relatives à la sécurité et à l'intégrité

Résumé et prochaines étapes

Pré requis

  • Une compréhension des flux de travail d'apprentissage automatique
  • De l'expérience dans le développement de modèles basés sur Python
  • Une connaissance des architectures de réseaux neuronaux

Audience visée

  • Ingénieurs en ML
  • Scientifiques des données
  • Professionnels de l'ingénierie MLOps
 14 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires