Felicitări!

Lucrul cu Llama 3

Imtihan Ahmed

Machine Learning Engineer

Recapitulare

Pasul 1 - rularea Llama local

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
Lucrul cu Llama 3

Recapitulare

Pasul 2 - ajustarea parametrilor

$$

  • Parametrii temperature, top_k, top_p
Lucrul cu Llama 3

Recapitulare

Pasul 3 - atribuirea rolurilor

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]
Lucrul cu Llama 3

Recapitulare

Pasul 4 - ghidarea rezultatelor

  • Prompturi precise
  • Cuvinte stop
  • Prompting zero-shot/few-shot
Lucrul cu Llama 3

Recapitulare

Pasul 5 - explorarea răspunsurilor JSON $$

response_format = {"type": "json_object"}
Lucrul cu Llama 3

Recapitulare

Pasul 6 - construirea conversațiilor multi-turn

  • Clasa Conversation
  • Metoda .create_completion()
Lucrul cu Llama 3

Ce urmează?

Traseul de competențe Llama Fundamentals

Llama Fundamentals

Proiectul Clasificarea e-mailurilor cu Llama

Classifying Emails using Llama

Lucrul cu Llama 3

Mulțumesc!

Lucrul cu Llama 3

Preparing Video For Download...