Formation Grands modèles de langage avancés pour les tâches de TALN

Introduction aux LLM et à l'IA générative

• Exploration des techniques et des modèles
• Discussion sur les applications et les cas d'utilisation
• Identification des défis et des limites

Utilisation des LLM pour des tâches de CLN

• Analyse des sentiments
• Reconnaissance d'entités nommées
• Extraction de relations
• Interprétation sémantique

Utilisation des LLM pour des tâches d'ILN

• Détection d'entailment (implication logique)
• Détection de contradiction
• Détection de paraphrase

Utilisation des LLM pour les graphes de connaissances

• Extraction de faits et de relations à partir de texte
• Inférence de faits manquants ou nouveaux
• Utilisation des graphes de connaissances pour des tâches en aval

Utilisation des LLM pour le raisonnement du sens commun

• Génération d'explications, d'hypothèses et de scénarios plausibles
• Utilisation de bases de connaissances et d'ensembles de données sur le sens commun
• Évaluation du raisonnement du sens commun

Utilisation des LLM pour la génération de dialogues

• Génération de dialogues avec des agents conversationnels, des chatbots et des assistants virtuels
• Gestion des dialogues
• Utilisation d'ensembles de données et de métriques de dialogue

Utilisation des LLM pour la génération multimodale

• Génération d'images à partir de texte
• Génération de texte à partir d'images
• Génération de vidéos à partir de texte ou d'images
• Génération d'audio à partir de texte
• Génération de texte à partir d'audio
• Génération de modèles 3D à partir de texte ou d'images

Utilisation des LLM pour l'apprentissage métabole

• Adaptation des LLM à de nouveaux domaines, tâches ou langues
• Apprentissage à partir d'exemples avec peu d'exemples ou sans exemples (few-shot/zero-shot)
• Utilisation d'ensembles de données et de frameworks d'apprentissage métabole et d'apprentissage par transfert

Utilisation des LLM pour l'apprentissage adversarial

• Défense des LLM contre les attaques malveillantes
• Détection et atténuation des biais et des erreurs dans les LLM
• Utilisation d'ensembles de données et de méthodes d'apprentissage adversarial et de robustesse

Évaluation des LLM et de l'IA générative

• Évaluation de la qualité et de la diversité du contenu
• Utilisation de métriques telles que l'inception score, la distance d'inception Fréchet et le score BLEU
• Méthodes d'évaluation humaine telles que le crowdsourcing et les enquêtes
• Méthodes d'évaluation adversarialles telles que les tests de Turing et les discriminateurs

Application des principes éthiques pour les LLM et l'IA générative

• Garantir l'équité et la responsabilisation
• Éviter les mauvais usages et les abus
• Respecter les droits et la vie privée des créateurs et des consommateurs de contenu
• Favoriser la créativité et la collaboration entre l'humain et l'IA

Résumé et prochaines étapes