Prenez contact avec nous

Plan du cours

Fondements de l'IA locale sécurisée

  • Ce que signifient l'IA locale et sur site dans les environnements réglementés
  • IA cloud versus déploiement interne pour les charges de travail sensibles
  • Cas d'utilisation enterprise courants pour les assistants privés et le support de flux de travail
  • Composants de base d'une architecture d'IA locale sécurisée

Bases d'Ollama et des modèles ouverts

  • Comment Ollama s'intègre dans une pile de développement local
  • Télécharger, exécuter et gérer des modèles localement
  • Choisir des modèles en fonction de la taille, de la qualité, du matériel et de la licence
  • Associer les options de modèles aux tâches commerciales pratiques

Préparation de l'environnement sur site

  • Préparation de l'hôte, de la station de travail et du serveur
  • Installation et configuration d'Ollama pour l'inférence locale
  • Utilisation de conteneurs et d'outils de développement internes
  • Vérification de l'accès API et de la préparation opérationnelle de base

Utilisation efficace des modèles locaux

  • Exécution de prompts et façonnement des sorties avec des instructions système
  • Réutilisation de modèles pour des tâches enterprise cohérentes
  • Gestion des versions de modèles et des artefacts internes
  • Optimisation de base des performances pour les déploiements CPU et GPU

Construction de flux de travail agentiques pratiques

  • Ce qui rend un flux de travail agentique dans un environnement contrôlé
  • Modèles simples pour la planification, l'utilisation d'outils et les boucles de réponse
  • Conception d'assistants axés sur les tâches pour les opérations internes
  • Ajout de revue humaine, de logique de repli et de gestion des erreurs

Flux de travail de récupération privée

  • Bases de la génération augmentée de récupération pour l'accès aux connaissances internes
  • Préparation des documents pour le fractionnement, l'indexation et la recherche
  • Connexion d'un magasin de vecteurs local à une application basée sur Ollama
  • Amélioration de la pertinence et de la qualité des réponses avec de meilleurs motifs de récupération

Pratiques de sécurité, de gouvernance et de conformité

  • Limites de gestion des données et considérations de confidentialité
  • Contrôle d'accès, journalisation et support d'audit
  • Sécurité des prompts, contrôles de sortie et garde-fous
  • Jalon de gouvernance pour le déploiement et l'exploitation réglementés

Schémas d'intégration enterprise

  • Exposition des capacités d'IA locale via des APIs internes
  • Intégration des assistants avec des applications et des services internes
  • Support des cas d'utilisation d'assistance, par lots et d'automatisation de flux de travail
  • Maintien des solutions à l'intérieur des limites réseau contrôlées

Évaluation des solutions d'IA locales

  • Évaluation de la qualité, de la fiabilité et de la cohérence
  • Tests par rapport aux exigences commerciales, politiques et de sécurité
  • Comparaison des options de modèles pour des tâches enterprise spécifiques
  • Établissement d'un cycle d'amélioration pratique pour les équipes internes

Laboratoire de mise en œuvre pratique

  • Construction d'un assistant privé avec Ollama et un modèle ouvert
  • Ajout de la récupération sur des documents internes approuvés
  • Introduction d'actions agentiques simples et de contrôles de sécurité
  • Revue des jalons de déploiement, d'exploitation et de gouvernance

Planification de l'adoption et prochaines étapes

  • Revue des décisions clés de conception et de déploiement
  • Identification des écueils courants dans les projets d'IA réglementés
  • Planification des cas d'utilisation pilotes et alignement des parties prenantes
  • Définition d'une feuille de route pour l'adoption de l'IA locale sécurisée

Pré requis

  • Compréhension de base des concepts de l'IA et du développement logiciel
  • Familiarité avec les outils de ligne de commande, les conteneurs ou les environnements de développement locaux
  • Expérience de base en scriptage ou en programmation

Audience cible

  • Développeurs et équipes techniques concevant des solutions IA privées sur une infrastructure interne
  • Professionnels de la sécurité, de la conformité et de la plateforme soutenant l'IA dans des environnements réglementés
  • Leaders techniques dans les secteurs de la finance, de la santé, du gouvernement et de la défense évaluent l'adoption de l'IA sur site
 21 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires