Phase d’idéation

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie LLM : Phase d’idéation

Aperçu des phases du cycle de vie d'une application LLM

Collecte de données

Identification des besoins

Recherche de sources

Garantie d’accessibilité

Collecte de données

Les données sont-elles pertinentes ?
Les données sont-elles disponibles ?
- Transformer les données
- Configurer des bases de données supplémentaires
- Évaluer les coûts
- Considérer d'autres limitations d'accès
Les données respectent-elles les normes ?
- Concerne la qualité et la gouvernance

Sélection du modèle de base

Modèles pré-entraînés :

Image d’un modèle pré-entraîné

Propriétaire ou source ouverte ?

Modèles propriétaires (détenus en privé)

Avantages :

Facilité d'installation et d'utilisation
Assurance qualité
Fiabilité, rapidité et disponibilité

Limites :

Nécessite l’exposition des données
Personnalisation

Exemples :

Logo des modèles LLM propriétaires

Source ouverte (accessible au public)

Avantages :

Hébergement interne
Transparence
Personnalisation totale

Limites :

Support
Usage commercial

Exemple : Logo de Meta Llama 3

Téléchargeable depuis :

Facteurs de sélection du modèle

1. Performance ⭐

Qualité de la réponse
Vitesse

Icônes liées aux performances

2. Caractéristiques du modèle ⭐

Données utilisées pour entraîner le modèle
Taille de la fenêtre de contexte
Capacité d’affinage

Icônes liées aux caractéristiques du modèle

Facteurs de sélection du modèle

3. Considérations pratiques ⭐

Licence
Coût
Impact environnemental

Icônes liées aux considérations pratiques

4. Facteurs secondaires

Nombre de paramètres
Popularité

Icônes liées aux facteurs secondaires

Passons à la pratique !

Concepts de LLMOps

Preparing Video For Download...