Félicitations!

Travailler avec Llama 3

Imtihan Ahmed

Machine Learning Engineer

Récapitulons

Étape 1 - exécuter Llama localement

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
Travailler avec Llama 3

Récapitulons

Étape 2 - ajuster les paramètres

$$

  • paramètres temperature, top_k, top_p
Travailler avec Llama 3

Récapitulons

Étape 3 - attribuer des rôles

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]
Travailler avec Llama 3

Récapitulons

Étape 4 - guider les résultats

  • Invites précises
  • mots de stop
  • Zero-shot/Few-shot prompting
Travailler avec Llama 3

Récapitulons

Étape 5 - explorer les réponses JSON $$

response_format = {"type": "json_object"}
Travailler avec Llama 3

Récapitulons

Étape 6 - créer des conversations à tours multiples

  • classe Conversation
  • méthode .create_completion()
Travailler avec Llama 3

Et ensuite?

Parcours de compétences Llama Fundamentals

Llama Fundamentals

Projet Classifying Emails using Llama

Classifying Emails using Llama

Travailler avec Llama 3

Merci!

Travailler avec Llama 3

Preparing Video For Download...