Formation Ollama : Modèles de langage à grande échelle en auto-hébergement pour remplacer les API OpenAI et Claude
Ollama est un outil open-source permettant d’exécuter des modèles de langage à grande échelle (LLM) localement sur du matériel grand public ou professionnel. Il simplifie la quantification des modèles, l’allocation des GPU et le déploiement des API en une seule interface en ligne de commande, offrant aux organisations la possibilité d’héberger elles-mêmes des LLM tels que Llama, Mistral et Qwen, sans envoyer leurs requêtes ni leurs données à OpenAI, Anthropic ou Google.
Ce cours dirigé par un formateur expert (en ligne ou en présentiel) s’adresse aux ingénieurs IA de niveau intermédiaire et aux opérateurs de plateforme souhaitant utiliser Ollama pour remplacer les API LLM cloud par une inférence basée sur des modèles linguistiques auto-hébergés et souverains.
À l’issue de cette formation, les participants seront en mesure de :
- Installer Ollama sous Linux, macOS et Windows avec prise en charge du GPU.
- Télécharger, quantifier et déployer des modèles depuis le registre d’Ollama et HuggingFace.
- Créer des Modelfiles personnalisés incluant des invites système et l’ajustement des paramètres.
- Intégrer des LLM locaux aux applications via une API compatible avec celle d’OpenAI.
- Optimiser les performances d’inférence pour des configurations uniquement sur CPU et pour des environnements multi-GPU.
Format du cours
- Cours interactif incluant des échanges et discussions.
- Nombreux exercices et mises en pratique.
- Mise en œuvre en environnement de laboratoire en direct.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d’organiser cela.
Plan du cours
Souveraineté IA et déploiement local des LLM
- Les risques liés aux LLM cloud : rétention des données, entraînement sur les entrées, juridiction étrangère.
- Architecture d’Ollama : serveur de modèles, registre et API compatible avec celle d’OpenAI.
- Comparaison avec vLLM, llama.cpp et Text Generation Inference.
- Licences des modèles : conditions relatives à Llama, Mistral, Qwen et Gemma.
Installation et configuration matérielle
- Installation d’Ollama sous Linux avec prise en charge de CUDA et ROCm.
- Configuration uniquement sur CPU et optimisation AVX/AVX2.
- Déploiement via Docker et mappage des volumes persistants.
- Configuration multi-GPU et stratégies d’allocation de la VRAM.
Gestion des modèles
- Téléchargement des modèles depuis le registre Ollama : ollama pull llama3.
- Importation de modèles GGUF depuis HuggingFace et TheBloke.
- Niveaux de quantification : compromis entre Q4_K_M, Q5_K_M et Q8_0.
- Changement de modèle et limites de chargement simultané.
Modelfiles personnalisés
- Rédaction de la syntaxe des Modelfile : FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajustement du temperature, top_p et repeat_penalty.
- Ingénierie des invites système pour des comportements spécifiques par rôle.
- Création et publication de modèles personnalisés sur le registre local.
Intégration aux API
- Point de terminaison /v1/chat/completions compatible avec l’API d’OpenAI.
- Réponses en streaming et mode JSON.
- Intégration avec LangChain, LlamaIndex et des applications personnalisées.
- Authentification et limitation du débit via un proxy inverse.
Optimisation des performances
- Définir la taille de la fenêtre contextuelle et gérer le cache KV.
- Inférence par lots et traitement des requêtes parallèles.
- Affectation des threads CPU et prise en charge de la topologie NUMA.
- Surveillance de l’utilisation du GPU et de la pression mémoire.
Sécurité et conformité
- Isolation réseau pour les points de terminaison de service des modèles.
- Pipelines de filtrage des entrées et de modération des sorties.
- Journalisation d’audit des requêtes et des complétions.
- Vérification de l’origine du modèle et validation par hachage.
Pré requis
- Administration intermédiaire sous Linux et des conteneurs.
- Bonne compréhension globale du machine learning et des modèles de type transformer.
- Familiarité avec les API REST et le format JSON.
Audience cible
- Ingénieurs IA et développeurs souhaitant remplacer les API LLM cloud.
- Organisations confrontées à des contraintes de sensibilité des données limitant l’usage des modèles cloud.
- Équipes gouvernementales et de défense nécessitant des modèles linguaires en environnement air-gapped (non connecté).
Cours à partir de 4 + personnes. Pour un entraînement individuel ou en petit groupe, veuillez demander un devis.
Formation Ollama : Modèles de langage à grande échelle en auto-hébergement pour remplacer les API OpenAI et Claude - Réservation
Formation Ollama : Modèles de langage à grande échelle en auto-hébergement pour remplacer les API OpenAI et Claude - Demande de renseignements
Ollama : Modèles de langage à grande échelle en auto-hébergement pour remplacer les API OpenAI et Claude - Demande d'informations consulting
Cours à venir
Cours Similaires
Débogage et évaluation avancés des modèles Ollama
35 HeuresL'atelier « Débogage et évaluation avancés des modèles Ollama » est un cours approfondi axé sur le diagnostic, les tests et la mesure du comportement des modèles lors de déploiements locaux ou privés d'Ollama.
Ce cours en présentiel (en ligne ou sur site) est destiné aux ingénieurs en IA avancés, aux professionnels de l'exploitation ML (ML Ops) et aux praticiens des tests QA qui souhaitent garantir la fiabilité, la fidélité et la préparation opérationnelle des modèles basés sur Ollama en environnement de production.
À la fin de cette formation, les participants seront capables de :
- Effectuer un débogage systématique des modèles hébergés par Ollama et reproduire de manière fiable les modes de défaillance.
- Concevoir et exécuter des pipelines d'évaluation robustes avec des indicateurs quantitatifs et qualitatifs.
- Mettre en œuvre des capacités d'observabilité (journaux, traces, métriques) pour surveiller la santé des modèles et la dérive.
- Automatiser les tests, la validation et les vérifications de régression intégrés dans les pipelines CI/CD.
Format du cours
- Cours interactif et discussions.
- Travaux pratiques et exercices de débogage utilisant des déploiements Ollama.
- Études de cas, sessions de dépannage en groupe et ateliers d'automatisation.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de convenir des détails.
Création de flux de travail d'IA privée avec Ollama
14 HeuresCette formation en présentiel à <lieu> (en ligne ou sur site) est destinée à des professionnels avancés souhaitant mettre en œuvre des flux de travail alimentés par l'IA, sécurisés et efficaces grâce à Ollama.
À l'issue de cette formation, les participants seront capables de :
- Déployer et configurer Ollama pour le traitement de l'IA privée.
- Intégrer des modèles d'IA dans des flux de travail d'entreprise sécurisés.
- Optimiser les performances de l'IA tout en préservant la confidentialité des données.
- Automatiser les processus métier avec des capacités d'IA sur site.
- Assurer la conformité aux politiques de sécurité et de gouvernance de l'entreprise.
Déploiement et optimisation des LLM avec Ollama
14 HeuresCette formation en direct animée par un instructeur à Canada (en ligne ou sur site) s'adresse aux professionnels de niveau intermédiaire qui souhaitent déployer, optimiser et intégrer des LLM à l'aide d'Ollama.
À l'issue de cette formation, les participants seront en mesure de :
- Configurer et déployer des LLM à l'aide d'Ollama.
- Optimiser les modèles d'IA pour des performances et une efficacité accrues.
- Exploiter l'accélération GPU pour améliorer les vitesses d'inférence.
- Intégrer Ollama dans les flux de travail et les applications.
- Surveiller et maintenir les performances des modèles d'IA au fil du temps.
EXO : Déploiement local d'un cluster d'IA de bout en bout
21 HeuresCette formation live animée par un instructeur à Canada (en ligne ou sur site) s'adresse aux administrateurs système et aux ingénieurs DevOps souhaitant déployer, configurer et gérer des clusters EXO pour l'inférence de modèles de langage larges (LLM) privés entre plusieurs nœuds Apple Silicon ou Linux.
EXO pour DevOps : construire une infrastructure d'IA privée
21 HeuresCette formation en présentiel dispensée par un instructeur dans Canada (en ligne ou sur site) est destinée aux ingénieurs DevOps et aux architectes d'infrastructure qui souhaitent automatiser le provisionnement, la surveillance et la gestion du cycle de vie des clusters d'IA privés basés sur EXO.
Sécurité et gouvernance d'EXO : Gestion des modèles hors ligne
14 HeuresCette formation en direct avec formateur à Canada (en ligne ou sur site) s'adresse aux ingénieurs en sécurité et aux responsables de la conformité qui souhaitent renforcer les déploiements EXO, contrôler l'accès aux modèles et gérer les charges de travail d'IA fonctionnant entièrement en local.
Ajustement fin et personnalisation des modèles d'IA sur Ollama
14 HeuresCette formation en direct encadrée par un instructeur à Canada (en ligne ou en présentiel) s'adresse aux professionnels de niveau avancé qui souhaitent ajuster finement et personnaliser des modèles d'IA sur Ollama pour améliorer les performances et les applications spécifiques au domaine.
À la fin de cette formation, les participants seront en mesure de :
- Configurer un environnement efficace pour l'ajustement fin de modèles d'IA sur Ollama.
- Préparer des ensembles de données pour l'ajustement fin supervisé et l'apprentissage par renforcement.
- Optimiser les modèles d'IA en matière de performance, de précision et d'efficacité.
- Déployer des modèles personnalisés dans des environnements de production.
- Évaluer les améliorations des modèles et assurer leur robustesse.
IA agentique locale sécurisée : Développement Ollama en environnement interne pour les industries réglementées
21 HeuresCette formation animée par un instructeur, disponible en Canada (en ligne ou en présentiel), s'adresse aux développeurs et aux équipes techniques souhaitant utiliser Ollama et les modèles ouverts pour concevoir et exécuter des solutions d'IA agentique privée sur une infrastructure interne.
À l'issue de cette formation, les participants seront capables d'installer et configurer Ollama, d'évaluer et d'exécuter des modèles en local, de créer des workflows agentiques et basés sur la récupération (retrieval) simples, et d'appliquer des contrôles de sécurité et de gouvernance pour les environnements réglementés.
Applications multimodales avec Ollama
21 HeuresOllama est une plateforme permettant d'exécuter et d'affiner des grands modèles de langage et multimodaux en local.
Ce cours en présentiel animé par un formateur (en ligne ou sur site) s'adresse aux ingénieurs ML avancés, aux chercheurs en IA et aux développeurs de produits souhaitant concevoir et déployer des applications multimodales avec Ollama.
À l'issue de cette formation, les participants seront capables de :
- Installer et exécuter des modèles multimodaux avec Ollama.
- Intégrer des entrées textuelles, visuelles et audio pour des applications concrètes.
- Construire des systèmes de compréhension de documents et de réponse aux questions visuelles (VQA).
- Développer des agents multimodaux capables de raisonner à travers les différentes modalités.
Format du cours
- Conférences interactives et discussions.
- Pratique sur des ensembles de données multimodaux réels.
- Mise en œuvre en laboratoire des pipelines multimodaux utilisant Ollama.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
Pour bien débuter avec Ollama : exécuter des modèles d'IA locaux
7 HeuresCette formation en présentiel ou en ligne, dirigée par un formateur, à Canada s'adresse aux professionnels de niveau débutant souhaitant installer, configurer et utiliser Ollama pour faire fonctionner des modèles d'IA sur leurs ordinateurs locaux.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les principes fondamentaux d'Ollama et ses capacités.
- Configurer Ollama pour l'exécution de modèles d'IA locaux.
- Déployer et interagir avec des LLM via Ollama.
- Optimiser les performances et l'utilisation des ressources pour les charges de travail liées à l'IA.
- Explorer des cas d'usage du déploiement d'IA locale dans divers secteurs d'activité.
Ollama et confidentialité des données : Schémas de déploiement sécurisés
14 HeuresOllama est une plateforme qui permet d'exécuter des modèles de langage larges (LLM) et multimodaux en local, tout en soutenant des stratégies de déploiement sécurisées.
Cette formation animée par un instructeur (en ligne ou sur site) s'adresse aux professionnels de niveau intermédiaire souhaitant déployer Ollama avec des mesures robustes de confidentialité des données et de conformité réglementaire.
À l'issue de cette formation, les participants seront capables de :
- Déployer Ollama de manière sécurisée dans des environnements conteneurisés et sur site (on-premise).
- Appliquer des techniques de confidentialité différentielle pour protéger les données sensibles.
- Mettre en œuvre des pratiques sécurisées de journalisation, de surveillance et d'audit.
- Renforcer le contrôle d'accès aux données conformément aux exigences de conformité.
Format du cours
- Cours interactif et discussions.
- Pratique sur des cas concrets incluant des schémas de déploiement sécurisés.
- Études de cas et exercices pratiques axés sur la conformité.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de prendre les arrangements nécessaires.
Applications d'Ollama dans le secteur financier
14 HeuresOllama est une plateforme légère permettant d'exécuter des grands modèles de langage (LLM) en local.
Cette formation en présentiel ou en ligne, animée par un instructeur, s'adresse aux professionnels de la finance et aux personnes du secteur informatique de niveau intermédiaire qui souhaitent mettre en œuvre, personnaliser et déployer des solutions basées sur Ollama dans des environnements financiers.
À l'issue de cette formation, les participants seront en mesure de :
- Déployer et configurer Ollama pour une utilisation sécurisée dans les opérations financières.
- Intégrer des LLM locaux dans les processus d'analyse et de génération de rapports.
- Adapter les modèles au vocabulaire et aux tâches spécifiques au secteur financier.
- Appliquer les pratiques exemplaires en matière de sécurité, de confidentialité et de conformité.
Format du cours
- Cours interactif et discussions.
- Exercices pratiques sur des données financières.
- Implémentation en direct de scénarios axés sur la finance.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
Applications d'Ollama dans le secteur de la santé
14 HeuresOllama est une plateforme légère permettant d'exécuter des modèles de langage à grande échelle (LLM) localement.
Cette formation dirigée par un instructeur (en ligne ou sur site) s'adresse aux professionnels de la santé de niveau intermédiaire et aux équipes informatiques souhaitant déployer, personnaliser et opérationnaliser des solutions d'IA basées sur Ollama au sein des environnements cliniques et administratifs.
À l'issue de cette formation, les participants seront capables de :
- Installer et configurer Ollama pour une utilisation sécurisée dans les établissements de santé.
- Intégrer des LLM locaux dans les flux de travail cliniques et les processus administratifs.
- Personnaliser les modèles pour le vocabulaire et les tâches spécifiques au secteur de la santé.
- Appliquer les meilleures pratiques en matière de confidentialité, de sécurité et de conformité réglementaire.
Format du cours
- Cours interactif et discussions.
- Démonstrations pratiques et exercices guidés.
- Mise en œuvre concrète dans un environnement de simulation de santé isolé (sandbox).
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
Ollama pour une IA responsable et une gouvernance efficace
14 HeuresOllama est une plateforme permettant d'exécuter localement des modèles linguistiques de grande taille (LLM) et multimodaux, tout en soutenant les pratiques de gouvernance et d'IA responsable.
Ce cours en direct, dispensé par un formateur (en ligne ou sur site), s'adresse aux professionnels de niveau intermédiaire à avancé souhaitant mettre en œuvre l'équité, la transparence et la responsabilité dans leurs applications basées sur Ollama.
À l'issue de cette formation, les participants seront en mesure de :
- Appliquer les principes de l'IA responsable lors du déploiement d'Ollama.
- Mettre en œuvre des stratégies de filtrage du contenu et d'atténuation des biais.
- Concevoir des workflows de gouvernance pour assurer l'alignement et l'auditabilité des IA.
- Établir des cadres de surveillance et de reporting conformes aux réglementations.
Format du cours
- Cours interactif et séances de discussion.
- Ateliers pratiques sur la conception de workflows de gouvernance.
- Études de cas et exercices axés sur la conformité.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en discuter.
L'IA souveraine pour les organisations réglementées : Maîtriser les données, les modèles et les environnements d'inférence
7 HeuresCette formation en présentiel ou en ligne, animée par un formateur, en Canada s'adresse aux dirigeants informatiques intermédiaires, aux professionnels de la conformité, aux équipes de sécurité et aux architectes d'entreprise qui souhaitent appliquer les principes de l'IA souveraine et les pratiques de gouvernance pour concevoir des environnements d'IA protégeant les données sensibles, respectant les exigences de localisation et réduisant le risque de dépendance à l'égard des fournisseurs.
À l'issue de cette formation, les participants seront en mesure d'expliquer les concepts de l'IA souveraine, d'évaluer les options d'hébergement et de gouvernance, de définir des contrôles pour les invite et les journaux, et d'élaborer une feuille de route pratique d'adoption.
