Prenez contact avec nous

Plan du cours

Fondements de l'IA locale sécurisée

  • Ce que signifient l'IA locale et l'IA en environnement interne dans des contextes réglementés
  • IA dans le cloud versus déploiement interne pour les charges de travail sensibles
  • Cas d'utilisation enterprise courants pour les assistants privés et le soutien aux workflows
  • Composantes clés d'une architecture d'IA locale sécurisée

Fondamentaux d'Ollama et des modèles ouverts

  • Comment Ollama s'intègre dans une pile de développement locale
  • Téléchargement (pulling), exécution et gestion des modèles en local
  • Choix des modèles en fonction de la taille, de la qualité, du matériel et des licences
  • Mise en correspondance des options de modèles avec des tâches commerciales pratiques

Préparation de l'environnement interne

  • Préparation de l'hôte, de la station de travail et du serveur
  • Installation et configuration d'Ollama pour l'inférence locale
  • Utilisation de conteneurs et d'outils de développement internes
  • Vérification de l'accès API et de la disponibilité opérationnelle de base

Utilisation efficace des modèles locaux

  • Exécution des invites (prompts) et structuration des sorties à l'aide d'instructions système
  • Réutilisation de modèles pour des tâches enterprise cohérentes
  • Gestion des versions de modèles et des artefacts internes
  • Optimisation des performances de base pour les déploiements CPU et GPU

Construction de workflows agentiques pratiques

  • Ce qui rend un workflow "agentique" dans un contexte contrôlé
  • Schémas simples pour la planification, l'utilisation d'outils et les boucles de réponse
  • Conception d'assistants axés sur des tâches pour les opérations internes
  • Ajout de révision humaine, de logique de repli et de gestion des erreurs

Workflows de récupération privée

  • Fondamentaux de la génération augmentée par la récupération (RAG) pour l'accès aux connaissances internes
  • Préparation des documents pour le fractionnement (chunking), l'indexation et la recherche
  • Connexion d'un magasin vectoriel local à une application basée sur Ollama
  • Amélioration de la pertinence et de la qualité des réponses grâce à de meilleurs schémas de récupération

Pratiques de sécurité, gouvernance et conformité

  • Limites de traitement des données et considérations en matière de confidentialité
  • Contrôle d'accès, journalisation et soutien aux audits
  • Sécurité des invites, contrôles des sorties et garde-fous
  • Points de contrôle de gouvernance pour le déploiement et l'exploitation réglementés

Schémas d'intégration enterprise

  • Exposition des capacités d'IA locale via des APIs internes
  • Intégration des assistants avec des applications et services internes
  • Support des cas d'utilisation des assistants, du traitement par lots et de l'automatisation des workflows
  • Maintien des solutions à l'intérieur des limites réseau contrôlées

Évaluation des solutions d'IA locale

  • Évaluation de la qualité, de la fiabilité et de la cohérence
  • Tests conformes aux exigences commerciales, politiques et de sécurité
  • Comparaison des options de modèles pour des tâches enterprise spécifiques
  • Mise en place d'un cycle d'amélioration pratique pour les équipes internes

Laboratoire d'implémentation pratique

  • Construction d'un assistant privé avec Ollama et un modèle ouvert
  • Ajout de la récupération sur des documents internes approuvés
  • Introduction d'actions agentiques simples et de contrôles de sécurité
  • Revue des points de contrôle de déploiement, d'exploitation et de gouvernance

Plan d'adoption et prochaines étapes

  • Revue des décisions clés de conception et de déploiement
  • Identification des pièges courants dans les projets d'IA réglementés
  • Planification des cas d'utilisation pilotes et alignement des parties prenantes
  • Définition d'une feuille de route pour l'adoption d'une IA locale sécurisée

Pré requis

  • Compréhension de base des concepts d'IA et du développement logiciel
  • Familiarité avec les outils en ligne de commande, les conteneurs ou les environnements de développement locaux
  • Expérience de base en script ou en programmation

Audience cible

  • Développeurs et équipes techniques concevant des solutions IA privées sur une infrastructure interne
  • Professionnels de la sécurité, de la conformité et des plateformes soutenant l'IA dans des environnements réglementés
  • Dirigeants techniques des secteurs de la finance, de la santé, du gouvernement et de la défense évaluant l'adoption d'une IA en environnement interne
 21 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires