Entraînement de modèles

Concepts d'IA générative

Daniel Tedesco

Data Lead, Google

Choisissez votre mode de transport en train

Image d'un avion et d'une voiture

Matériel
Heure
- Taille de l'ensemble de données
- Complexité du modèle
- Rondes d’entraînement
Coût

Passer à des techniques avancées

Le modèle d'IA générative de la Fondation est une première étape
Des techniques avancées les spécialisent pour des contextes spécifiques

Techniques avancées clés :

Entraînement par transfert et affinement
RLHF
Embeddings personnalisés

Une photo des étudiants lors de la remise des diplômes

Des chats aux lions

L’entraînement par transfert transfère les connaissances d'une tâche à une autre
L’affinement est un type d'entraînement par transfert pour un petit ensemble de données

Un modèle s’entraînant à partir d'images de lions, disant « Toujours à poils, quatre pattes... J’ai compris ! », puis produisant une image de lion

¹ Creative Commons Attribution-Share Alike 4.0, générateur d'images Bing

Où va votre retour d'information ?

Image de l'interface de chat de Google Bard avec des options de rétroaction « pouce levé » et « pouce baissé » en surbrillance

¹ Google Bard, 2023

Un pouce en l'air pour de meilleures réponses

Plusieurs réponses textuelles notées « pouce en l'air » ou « pouce en bas » sont transmises à un robot qui dit : « Bon, maintenant je sais quel genre de réponses les humains aiment »

¹ Google Bard, 2023

Les embeddings comme empreintes digitales

Similaire à la reconnaissance d'une empreinte digitale
Représentations uniques des entités de données
Saisir le sens, le contexte et les relations sous une forme compacte

Une série d'empreintes digitales

¹ Wikimedia commons

Intégrer Dan

Diverses photos de Daniel Tedesco en train d'être confiées à une IA générative

¹ Daniel Tedesco, 2023

Dan intégré

Un modèle produisant une variété de clichés stylisés de Daniel Tedesco

¹ Portraits de Daniel Tedesco from vana.com

Passons à la pratique !

Concepts d'IA générative