Gouvernance et sécurité

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie d'un LLM : gouvernance et sécurité

Aperçu des phases du cycle de vie d'une application LLM

Gouvernance et sécurité

La gouvernance regroupe politiques, lignes directrices et cadres
La sécurité met en place des mesures pour prévenir :
- L'accès non autorisé
- Les fuites de données
- Les attaques adversariales
- Les abus ou la manipulation des résultats ou capacités des modèles

Contrôle d'accès

Utilisez le contrôle d'accès basé sur les rôles (RBAC)
Toutes les API doivent respecter les normes de sécurité
Adoptez un modèle de sécurité zéro confiance
Assurez-vous que l'application adopte le bon rôle pour accéder à l'information externe

Flux d'API où l'application LLM adopte le rôle de l'utilisateur

Menace : injection de consignes

Injection de consignes : des attaquants manipulent des champs d'entrée ou des invites pour exécuter des actions non autorisées.
Atténuations :
- Supposer que les consignes peuvent être outrepassées et le contenu révélé
- Considérer le LLM comme un utilisateur non fiable
- Repérer (et bloquer) les invites adversariales connues

Démonstration d'une injection de consignes

Menace : manipulation de la sortie

La sortie d'un LLM peut servir à des attaques en aval.
Exécuter des actions malveillantes au nom de l'utilisateur
Atténuations :
- Ne pas donner à l'application des autorisations inutiles
- Censurer et bloquer certains résultats indésirables

Démonstration de manipulation de la sortie

Menace : déni de service

Des utilisateurs inondent l'application LLM de requêtes, causant des coûts élevés et des problèmes de disponibilité et de performance
Atténuations :
- Limiter le débit de requêtes
- Plafonner les ressources par requête

Image illustrant une attaque par déni de service

Menace : intégrité des données et empoisonnement

L'empoisonnement des données insère des données fausses, trompeuses ou malveillantes dans l'ensemble d'entraînement
- Les données peuvent contenir des informations protégées par droit d'auteur et/ou des renseignements personnels
- Le contenu peut être nuisible
Atténuations :
- Utiliser des sources fiables et vérifier leur légitimité
- Utiliser des filtres
- Censurer certaines sorties

Image de documents texte, dont un document empoisonné

Se protéger

Appliquez les dernières normes de sécurité et des stratégies d'atténuation
Adoptez toujours le point de vue d'un utilisateur malveillant visant notre système
Restez à jour : voir Open Web Application Security Project (OWASP)

¹ OWASP for LLMs: https://llmtop10.com/

Passons à la pratique !

Concepts de LLMOps

Preparing Video For Download...