RAG vs réglage fin

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie LLM : RAG vs réglage fin

Aperçu des phases du cycle de vie d’une application LLM

Génération à enrichissement contextuel (RAG)

Dessin humoristique montrant une tablette alimentée par une banane

Combiner les capacités de raisonnement des LLM avec des connaissances externes.
Trois étapes dans une chaîne :
1. Récupérer des documents associés
2. Augmenter le prompt avec des exemples
3. Générer la sortie
Souvent mis en œuvre à l’aide de bases de données vectorielles.

Chaîne RAG avec base de données vectorielle

Récupérer :
- Convertir l'entrée en embedding
- Rechercher dans la base de données vectorielle
- Récupérer les documents les plus similaires

Retrieve chain

Chaîne RAG avec base de données vectorielle

Récupérer :
- Représentation vectorielle avec entrée
- Recherche base vectorielle
- Récupérer documents similaires
Augmenter :
- Combine l’entrée avec les documents pour créer le prompt final

Chaîne d’augmentation

Chaîne RAG avec base de données vectorielle

Récupérer :
- Représentation vectorielle avec entrée
- Recherche base vectorielle
- Récupérer documents similaires
Augmenter :
- Combiner entrée avec k meilleurs docs, créer prompt augmenté
Générer :
- Prompt pour générer résultat

Nombreux choix implémentation et modèles embedding. Place aux tests !

Générer une chaîne

Réglage fin

Ajuste les poids du LLM
Développer pour des tâches et domaines spécifiques :
- Différentes langues
- Domaines spécialisés

Réglage fin

Réglage fin supervisé (apprentissage par transfert)

Type de données requises 📂 :

Données de démonstration (entrées avec sorties attendues)

Apprentissage par renforcement à partir du retour humain (RLHF)

Type de données requises 📂 :

Classements/scores qualité (mentions J’aime/Je n’aime pas)

Approche 🔍 :

Réentraîner le modèle (certaines parties)

Approche 🔍 :

Entraîner un modèle de récompense supplémentaire
Optimiser le LLM d’origine pour le maximiser

RAG ou réglage fin

RAG

À utiliser lors de l’inclusion de connaissances factuelles
✅ Conserve les capacités du LLM, facile à mettre en œuvre, toujours à jour
❌ Ajoute des composants supplémentaires, nécessite une ingénierie minutieuse

Dessin humoristique montrant une banane utilisée pour alimenter une tablette

Réglage fin

Spécialisation dans un nouveau domaine
✅ Contrôle total, aucun composant supplémentaire
❌ Données étiquetées et connaissances spécialisées, amplification biais, oubli catastrophique

Le cycle de développement

Cycle de développement incluant l’activité de développement de chaînes et d’agents

Le cycle de développement

Cycle de développement avec ajout de l’activité RAG

Le cycle de développement

Cycle de développement incluant l’activité de réglage fin

Passons à la pratique !

Concepts de LLMOps

RAG vs réglage fin

Cycle de vie LLM : RAG vs réglage fin

Génération à enrichissement contextuel (RAG)

Chaîne RAG avec base de données vectorielle

Chaîne RAG avec base de données vectorielle

Chaîne RAG avec base de données vectorielle

Réglage fin

Réglage fin

RAG ou réglage fin

RAG

Réglage fin

Le cycle de développement

Le cycle de développement

Le cycle de développement

Passons à la pratique !

Cycle de vie LLM : RAG vs réglage fin