Prenez contact avec nous

Plan du cours

Aperçu de l'architecture des LLM et de la surface d'attaque

  • Comment les LLM sont construits, déployés et accessibles via des API
  • Composants clés des piles d'applications LLM (par ex., prompts, agents, mémoire, API)
  • Où et comment les problèmes de sécurité surviennent dans l'utilisation réelle

Injections de prompts et attaques de contournement (jailbreak)

  • Qu'est-ce qu'une injection de prompt et pourquoi elle est dangereuse
  • Scénarios d'injection de prompt directe et indirecte
  • Techniques de contournement pour échapper aux filtres de sécurité
  • Stratégies de détection et d'atténuation

Fuites de données et risques liés à la vie privée

  • Exposition accidentelle de données via les réponses
  • Fuites de données personnelles (PII) et abus de la mémoire du modèle
  • Conception de prompts respectueux de la vie privée et de génération augmentée par récupération (RAG)

Filtrage et protection des sorties des LLM

  • Utilisation de Guardrails AI pour le filtrage et la validation du contenu
  • Définition des schémas et contraintes de sortie
  • Surveillance et journalisation des sorties non sécurisées

Approches humaines dans la boucle et workflows

  • Où et quand introduire une supervision humaine
  • Files d'attente d'approbation, seuils de score, gestion des replis
  • Calibration de la confiance et rôle de l'explicabilité

Modèles de conception sécurisée des applications LLM

  • Privilège minimum et sand-boxing pour les appels d'API et les agents
  • Limitation du débit, régulation et détection des abus
  • Chaînage robuste avec LangChain et isolement des prompts

Conformité, journalisation et gouvernance

  • Assurer l'auditabilité des sorties des LLM
  • Maintenir la traçabilité et le contrôle des versions des prompts
  • Se conformer aux politiques de sécurité internes et aux exigences réglementaires

Synthèse et prochaines étapes

Pré requis

  • Compréhension des modèles de langage de grande taille (LLM) et des interfaces basées sur les prompts
  • Expérience dans le développement d'applications LLM avec Python
  • Connaissance des intégrations d'API et des déploiements dans le cloud

Public cible

  • Développeurs IA
  • Architectes d'applications et de solutions
  • Chefs de produit techniques travaillant avec des outils LLM
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires