Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Fondements de l'IA locale sécurisée
- Ce que signifient l'IA locale et l'IA en environnement interne dans des contextes réglementés
- IA dans le cloud versus déploiement interne pour les charges de travail sensibles
- Cas d'utilisation enterprise courants pour les assistants privés et le soutien aux workflows
- Composantes clés d'une architecture d'IA locale sécurisée
Fondamentaux d'Ollama et des modèles ouverts
- Comment Ollama s'intègre dans une pile de développement locale
- Téléchargement (pulling), exécution et gestion des modèles en local
- Choix des modèles en fonction de la taille, de la qualité, du matériel et des licences
- Mise en correspondance des options de modèles avec des tâches commerciales pratiques
Préparation de l'environnement interne
- Préparation de l'hôte, de la station de travail et du serveur
- Installation et configuration d'Ollama pour l'inférence locale
- Utilisation de conteneurs et d'outils de développement internes
- Vérification de l'accès API et de la disponibilité opérationnelle de base
Utilisation efficace des modèles locaux
- Exécution des invites (prompts) et structuration des sorties à l'aide d'instructions système
- Réutilisation de modèles pour des tâches enterprise cohérentes
- Gestion des versions de modèles et des artefacts internes
- Optimisation des performances de base pour les déploiements CPU et GPU
Construction de workflows agentiques pratiques
- Ce qui rend un workflow "agentique" dans un contexte contrôlé
- Schémas simples pour la planification, l'utilisation d'outils et les boucles de réponse
- Conception d'assistants axés sur des tâches pour les opérations internes
- Ajout de révision humaine, de logique de repli et de gestion des erreurs
Workflows de récupération privée
- Fondamentaux de la génération augmentée par la récupération (RAG) pour l'accès aux connaissances internes
- Préparation des documents pour le fractionnement (chunking), l'indexation et la recherche
- Connexion d'un magasin vectoriel local à une application basée sur Ollama
- Amélioration de la pertinence et de la qualité des réponses grâce à de meilleurs schémas de récupération
Pratiques de sécurité, gouvernance et conformité
- Limites de traitement des données et considérations en matière de confidentialité
- Contrôle d'accès, journalisation et soutien aux audits
- Sécurité des invites, contrôles des sorties et garde-fous
- Points de contrôle de gouvernance pour le déploiement et l'exploitation réglementés
Schémas d'intégration enterprise
- Exposition des capacités d'IA locale via des APIs internes
- Intégration des assistants avec des applications et services internes
- Support des cas d'utilisation des assistants, du traitement par lots et de l'automatisation des workflows
- Maintien des solutions à l'intérieur des limites réseau contrôlées
Évaluation des solutions d'IA locale
- Évaluation de la qualité, de la fiabilité et de la cohérence
- Tests conformes aux exigences commerciales, politiques et de sécurité
- Comparaison des options de modèles pour des tâches enterprise spécifiques
- Mise en place d'un cycle d'amélioration pratique pour les équipes internes
Laboratoire d'implémentation pratique
- Construction d'un assistant privé avec Ollama et un modèle ouvert
- Ajout de la récupération sur des documents internes approuvés
- Introduction d'actions agentiques simples et de contrôles de sécurité
- Revue des points de contrôle de déploiement, d'exploitation et de gouvernance
Plan d'adoption et prochaines étapes
- Revue des décisions clés de conception et de déploiement
- Identification des pièges courants dans les projets d'IA réglementés
- Planification des cas d'utilisation pilotes et alignement des parties prenantes
- Définition d'une feuille de route pour l'adoption d'une IA locale sécurisée
Pré requis
- Compréhension de base des concepts d'IA et du développement logiciel
- Familiarité avec les outils en ligne de commande, les conteneurs ou les environnements de développement locaux
- Expérience de base en script ou en programmation
Audience cible
- Développeurs et équipes techniques concevant des solutions IA privées sur une infrastructure interne
- Professionnels de la sécurité, de la conformité et des plateformes soutenant l'IA dans des environnements réglementés
- Dirigeants techniques des secteurs de la finance, de la santé, du gouvernement et de la défense évaluant l'adoption d'une IA en environnement interne
21 Heures