Selamat!

Bekerja dengan Llama 3

Imtihan Ahmed

Machine Learning Engineer

Mari mengingat kembali

Langkah 1 - menjalankan Llama secara lokal

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
Bekerja dengan Llama 3

Mari mengingat kembali

Langkah 2 - sesuaikan parameter

$$

  • Parameter temperature, top_k, top_p
Bekerja dengan Llama 3

Mari mengingat kembali

Langkah 3 - tetapkan peran

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]
Bekerja dengan Llama 3

Mari mengingat kembali

Langkah 4 - arahkan keluaran

  • Prompt yang presisi
  • Kata stop
  • Zero-shot/Few-shot prompting
Bekerja dengan Llama 3

Mari mengingat kembali

Langkah 5 - jelajahi respons JSON $$

response_format = {"type": "json_object"}
Bekerja dengan Llama 3

Mari mengingat kembali

Langkah 6 - bangun percakapan multi-giliran

  • Kelas Conversation
  • Metode .create_completion()
Bekerja dengan Llama 3

Selanjutnya apa?

Skill track Llama Fundamentals

Llama Fundamentals

Proyek Mengklasifikasi Email dengan Llama

Classifying Emails using Llama

Bekerja dengan Llama 3

Terima kasih!

Bekerja dengan Llama 3

Preparing Video For Download...