Plan du cours
Introduction à l'apprentissage en profondeur
- Qu'est-ce que l'apprentissage en profondeur et en quoi il diffère de l'apprentissage automatique traditionnel
- Applications réelles dans la vision par ordinateur, le TALN et au-delà
- Aperçu de l'écosystème de l'apprentissage en profondeur : TensorFlow 2.x, Keras, PyTorch
- Mise en place d'un environnement de développement accéléré par GPU
Les mécanismes de l'apprentissage en profondeur
- Neurones artificiels, fonctions d'activation et couches de réseau
- Propagation avant et calcul des prédictions
- Fonctions de perte pour les tâches de classification et de régression
- Optimisation par descente de gradient et rétropropagation
- Entraînement de votre premier réseau neuronal sur l'ensemble de données MNIST
Réseaux neuronaux convolutifs pour la vision par ordinateur
- Compréhension de la convolution, des filtres et des cartes de caractéristiques
- Couches de pooling et réduction de dimensionnalité
- Architectures CNN : concepts LeNet, VGG et ResNet
- Construction et entraînement d'un CNN pour la classification d'images
- Visualisation des caractéristiques apprises et des activations intermédiaires
Augmentation des données et amélioration de la précision du modèle
- Pourquoi l'augmentation des données combat le surajustement et améliore la généralisation
- Transformations d'images : rotation, retournement, zoom et recadrage
- Mise en œuvre de pipelines d'augmentation avec les couches de prétraitement de Keras
- Déconnexion aléatoire (dropout), normalisation par lots et autres techniques de régularisation
- Surveillance de l'entraînement avec des métriques de validation et un arrêt anticipé
Apprentissage par transfert avec des modèles pré-entraînés
- Compréhension de l'apprentissage par transfert et de son efficacité
- Chargement de modèles pré-entraînés depuis Keras Applications (ResNet, EfficientNet, MobileNet)
- Extraction de caractéristiques : figeage des couches de base et entraînement de nouveaux classifieurs
- Réglage fin : dégel sélectif des couches pour l'adaptation au domaine
- Obtention d'une grande précision avec peu de données d'entraînement
Réseaux récurrents et modélisation séquentielle
- Introduction aux données séquentielles et aux dépendances temporelles
- Réseaux neuronaux récurrents (RNN) et le problème du gradient qui disparaît
- Cellules LSTM et GRU pour les dépendances à longue portée
- Entraînement d'un modèle de génération de texte au niveau des caractères
- Intégrations de mots (word embeddings) et couche d'intégration dans Keras
Fondements du traitement automatique du langage naturel (TALN)
- Prétraitement du texte : tokenisation, mise en page et construction du vocabulaire
- Construction d'un classifieur de texte avec des RNN et des LSTM
- Modèles séquence-à-séquence pour les concepts de traduction automatique
- Mécanismes d'attention et leur rôle dans le TALN moderne
- TALN pratique avec les API de traitement de texte de TensorFlow 2.x
Projet final : Description d'images
- Combinaison de la vision par ordinateur et du TALN dans une architecture multimodale
- Extraction des caractéristiques d'image avec un encodeur CNN pré-entraîné
- Construction d'un décodeur basé sur LSTM pour la génération de descriptions
- Gestion de plusieurs couches d'entrée dans l'API fonctionnelle de Keras
- Entraînement et évaluation du pipeline complet de description d'images
Prochaines étapes et ressources
- Déploiement des modèles entraînés avec TensorFlow Serving
- Exploration des architectures de transformateurs et des grands modèles linguistiques
- Ateliers avancés NVIDIA DLI et parcours de certification
- Ressources communautaires, ensembles de données et idées de projets
Pré requis
- Compétences de base en programmation Python (fonctions, boucles, dictionnaires, tableaux)
- Connaissance des concepts de programmation tels que les variables, les conditions et les structures de données
- Aucune expérience préalable en apprentissage en profondeur ou en apprentissage automatique n'est requise
Audience cible
- Développeurs et ingénieurs logiciels qui se tournent vers l'IA et l'apprentissage automatique
- Analytes de données et scientifiques des données cherchant à acquérir des compétences en apprentissage en profondeur
- Professionnels techniques souhaitant comprendre et appliquer des modèles de réseaux neuronaux
- Étudiants et chercheurs débutant dans l'apprentissage en profondeur
Nos clients témoignent (2)
L'adaptation des exos à notre contexte et la prise en compte de notre demande
Amel Guetat - EURO-INFORMATION DEVELOPPEMENTS
Formation - Fraud Detection with Python and TensorFlow
La formation était bien organisée et planifiée, et j'en suis sorti(e) avec des connaissances systématisées et une bonne vue d'ensemble des sujets abordés.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Formation - Deep Learning with TensorFlow 2
Traduction automatique