Gratulacje!

Praca z Llama 3

Imtihan Ahmed

Machine Learning Engineer

Przypomnijmy

Krok 1 – uruchamianie Llama lokalnie

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
Praca z Llama 3

Przypomnijmy

Krok 2 – dostosowanie parametrów

$$

  • Parametry temperature, top_k, top_p
Praca z Llama 3

Przypomnijmy

Krok 3 – przypisywanie ról

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]
Praca z Llama 3

Przypomnijmy

Krok 4 – sterowanie wynikami

  • Precyzyjne prompty
  • Słowa stop
  • Prompting zero-shot/few-shot
Praca z Llama 3

Przypomnijmy

Krok 5 – analiza odpowiedzi JSON $$

response_format = {"type": "json_object"}
Praca z Llama 3

Przypomnijmy

Krok 6 – budowanie konwersacji wieloturowych

  • Klasa Conversation
  • Metoda .create_completion()
Praca z Llama 3

Co dalej?

Ścieżka umiejętności Llama Fundamentals

Llama Fundamentals

Projekt: Classifying Emails using Llama

Classifying Emails using Llama

Praca z Llama 3

Dziękujemy!

Praca z Llama 3

Preparing Video For Download...