RAG ou réglage fin

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie des LLM : RAG ou réglage fin

Aperçu des phases du cycle de vie d'une application LLM

Dessin ludique d'une tablette alimentée par une banane

Allier le raisonnement des LLM à des connaissances externes.
Trois étapes en chaîne :
1. Retrieve des documents pertinents
2. Augment l'invite avec des exemples
3. Generate la sortie
Souvent mis en œuvre avec des bases de données vectorielles.

Retrieve :
- Convertir l'entrée en embedding
- Chercher dans la base vectorielle
- Récupérer les documents les plus similaires

Chaîne Retrieve

Retrieve :
- Générer un embedding à partir de l'entrée
- Chercher dans la base vectorielle
- Récupérer les documents les plus similaires
Augment :
- Combine l'entrée et les documents pour créer l'invite finale

Chaîne Augment

Retrieve :
- Générer un embedding à partir de l'entrée
- Chercher dans la base vectorielle
- Récupérer les documents les plus similaires
Augment :
- Combiner l'entrée avec les k meilleurs documents et créer une invite augmentée
Generate :
- Utilise l'invite pour produire une sortie

Beaucoup de choix d'implémentation et de modèles d'embedding. Expérimentez et testez !

Chaîne Generate

Ajuste les poids du LLM
Étendre à des tâches et domaines précis :
- Langues différentes
- Domaines spécialisés

Réglage fin supervisé (apprentissage par transfert)

Type de données requis 📂 :

Reinforcement Learning from Human Feedback (RLHF)

Type de données requis 📂 :

Classements ou scores de qualité (obtenus à partir d'appréciations positives/négatives)

Approche 🔍 :

Approche 🔍 :

Dessin ludique d'une tablette alimentée par une banane

À utiliser pour se spécialiser dans un nouveau domaine
✅ Contrôle complet et aucun composant additionnel
❌ Nécessite des données annotées et une expertise, amplification des biais, oubli catastrophique

Cycle de développement où l'activité de création de chaînes et d'agents a été ajoutée

Cycle de développement où l'activité de RAG a été ajoutée

Cycle de développement où l'activité de réglage fin a été ajoutée

Concepts de LLMOps