Phase d'idéation

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie des LLM : phase d'idéation

Aperçu des phases du cycle de vie d'une application LLM

Approvisionnement en données

Cerner les besoins

Repérer les sources

Assurer l'accessibilité

Approvisionnement en données

Les données sont-elles pertinentes ?
Les données sont-elles disponibles ?
- Transformer les données
- Mettre en place des bases additionnelles
- Évaluer les coûts
- Considérer d'autres limites d'accès
Les données respectent-elles les normes ?
- Qualité et gouvernance

Choisir le modèle de base

Modèles préentraînés :

Image d'un modèle préentraîné

Propriétaires ou ouverts ?

Modèles propriétaires (privés)

Avantages :

Mise en place et usage faciles
Assurance qualité
Fiabilité, rapidité et disponibilité

Limites :

Exposition des données requise
Personnalisation

Exemples :

Logos de modèles LLM propriétaires

Source ouverte (accessible au public)

Avantages :

Hébergement interne
Transparence
Personnalisable de bout en bout

Limites :

Soutien
Usage commercial

Exemple : Logo de Meta Llama 3

Téléchargeable depuis :

Facteurs de sélection du modèle

1. Performance ⭐

Qualité des réponses
Vitesse

Icônes liées à la performance

2. Caractéristiques du modèle ⭐

Données d'entraînement utilisées
Taille de la fenêtre de contexte
Possibilité d'affinage

Icônes liées aux caractéristiques du modèle

Facteurs de sélection du modèle

3. Considérations pratiques ⭐

Licence
Coût
Impact environnemental

Icônes liées aux considérations pratiques

4. Facteurs secondaires

Nombre de paramètres
Popularité

Icônes liées aux facteurs secondaires

Passons à la pratique !

Concepts de LLMOps

Preparing Video For Download...