Formation Développement d'applications LLM sécurisées et responsables

Aperçu de l'architecture des LLM et de la surface d'attaque

• Comment les LLM sont construits, déployés et accessibles via des API
• Composants clés des piles d'applications LLM (par ex., prompts, agents, mémoire, API)
• Où et comment les problèmes de sécurité surviennent dans l'utilisation réelle

Injections de prompts et attaques de contournement (jailbreak)

• Qu'est-ce qu'une injection de prompt et pourquoi elle est dangereuse
• Scénarios d'injection de prompt directe et indirecte
• Techniques de contournement pour échapper aux filtres de sécurité
• Stratégies de détection et d'atténuation

Fuites de données et risques liés à la vie privée

• Exposition accidentelle de données via les réponses
• Fuites de données personnelles (PII) et abus de la mémoire du modèle
• Conception de prompts respectueux de la vie privée et de génération augmentée par récupération (RAG)

Filtrage et protection des sorties des LLM

• Utilisation de Guardrails AI pour le filtrage et la validation du contenu
• Définition des schémas et contraintes de sortie
• Surveillance et journalisation des sorties non sécurisées

Approches humaines dans la boucle et workflows

• Où et quand introduire une supervision humaine
• Files d'attente d'approbation, seuils de score, gestion des replis
• Calibration de la confiance et rôle de l'explicabilité

Modèles de conception sécurisée des applications LLM

• Privilège minimum et sand-boxing pour les appels d'API et les agents
• Limitation du débit, régulation et détection des abus
• Chaînage robuste avec LangChain et isolement des prompts

Conformité, journalisation et gouvernance

• Assurer l'auditabilité des sorties des LLM
• Maintenir la traçabilité et le contrôle des versions des prompts
• Se conformer aux politiques de sécurité internes et aux exigences réglementaires

Synthèse et prochaines étapes