Prenez contact avec nous

Plan du cours

Introduction à l'affinage en TALN

  • Qu'est-ce que l'affinage ?
  • Avantages de l'affinage des modèles linguistiques pré-entraînés
  • Aperçu des modèles pré-entraînés populaires (GPT, BERT, T5)

Compréhension des tâches de TALN

  • Analyse des sentiments
  • Résumation de textes
  • Traduction automatique
  • Reconnaissance d'entités nommées (NER)

Configuration de l'environnement

  • Installation et configuration de Python et des bibliothèques
  • Utilisation de Hugging Face Transformers pour les tâches de TALN
  • Chargement et exploration des modèles pré-entraînés

Techniques d'affinage

  • Préparation des jeux de données pour les tâches de TALN
  • Tokenisation et formatage des entrées
  • Affinage pour les tâches de classification, de génération et de traduction

Optimisation des performances du modèle

  • Compréhension des taux d'apprentissage et des tailles de lot
  • Utilisation des techniques de régularisation
  • Évaluation des performances du modèle avec des métriques

Travaux pratiques

  • Affinage de BERT pour l'analyse des sentiments
  • Affinage de T5 pour la résumation de textes
  • Affinage de GPT pour la traduction automatique

Déploiement des modèles affinés

  • Exportation et sauvegarde des modèles
  • Intégration des modèles dans les applications
  • Les bases du déploiement de modèles sur des plateformes cloud

Défis et meilleures pratiques

  • Éviter le surapprentissage lors de l'affinage
  • Gérer les jeux de données déséquilibrés
  • Assurer la reproductibilité des expériences

Tendances futures en affinage en TALN

  • Modèles pré-entraînés émergents
  • Avancées dans l'apprentissage par transfert pour le TALN
  • Exploration des applications de TALN multimodales

Resumé et prochaines étapes

Pré requis

  • Compréhension de base des concepts de TALN
  • Expérience en programmation Python
  • Familiarité avec les frameworks d'apprentissage profond tels que TensorFlow ou PyTorch

Audience

  • Scientifiques des données
  • Ingénieurs en TALN
 21 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires