Prenez contact avec nous

Plan du cours

Fondements du déploiement d'IA hybride

  • Compréhension des modèles de déploiement hybride, cloud et périphérique (edge)
  • Caractéristiques des charges de travail d'IA et contraintes de l'infrastructure
  • Choix de la topologie de déploiement appropriée

Conteneurisation des charges de travail d'IA avec Docker

  • Création de conteneurs d'inférence pour GPU et CPU
  • Gestion sécurisée des images et des registres
  • Mise en place d'environnements reproductibles pour l'IA

Déploiement des services d'IA dans les environnements cloud

  • Exécution de l'inférence sur AWS, Azure et GCP via Docker
  • Provisionnement de ressources de calcul cloud pour le service de modèles
  • Sécurisation des points de terminaison d'IA dans le cloud

Techniques de déploiement edge et on-premise

  • Exécution de l'IA sur des appareils IoT, des passerelles (gateways) et des microservers
  • Runtimes légers pour les environnements périphériques
  • Gestion de la connectivité intermittente et de la persistance locale

Réseau hybride et connectivité sécurisée

  • Tunnels sécurisés entre l'edge et le cloud
  • Certificats, secrets et accès basé sur les jetons (tokens)
  • Optimisation des performances pour une inférence à faible latence

Orchestration des déploiements d'IA distribués

  • Utilisation de K3s, K8s ou d'orchestration légère pour les configurations hybrides
  • Découverte de services et ordonnancement des charges de travail
  • Automatisation des stratégies de déploiement multi-sites

Surveillance et observabilité à travers les environnements

  • Suivi des performances de l'inférence sur tous les sites
  • Centralisation des journaux pour les systèmes d'IA hybrides
  • Détection des pannes et récupération automatisée

Mise à l'échelle et optimisation des systèmes d'IA hybrides

  • Mise à l'échelle des clusters edge et des nœuds cloud
  • Optimisation de l'utilisation de la bande passante et de la mise en cache
  • Équilibrage de la charge de calcul entre le cloud et l'edge

Résumé et prochaines étapes

Pré requis

  • Compréhension des concepts de conteneurisation
  • Expérience avec les commandes du shell Linux
  • Connaissance des flux de travail de déploiement de modèles d'IA

Audience cible

  • Architectes infrastructure
  • Ingénieurs de fiabilité des sites (SRE)
  • Développeurs edge et IoT
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires