Apa itu Llama?

Bekerja dengan Llama 3

Imtihan Ahmed

Machine Learning Engineer

Kenalan dengan instruktur

 

  • Imtihan Ahmed
  • Machine Learning Engineer
  • Enam tahun pengalaman
  • AI skala besar

  Foto profil instruktur

Bekerja dengan Llama 3

Apa itu Llama 3?

 

  • Ringkasan teks

Tangkapan layar 2025-02-19 pukul 11.01.25.png

Bekerja dengan Llama 3

Apa itu Llama 3?

 

  • Ringkasan teks

 

  • Analisis data

Tangkapan layar 2025-02-19 pukul 11.01.16.png

Bekerja dengan Llama 3

Apa itu Llama 3?

 

  • Ringkasan teks

 

  • Analisis data

 

  • Asisten coding

Tangkapan layar 2025-02-19 pukul 11.01.07.png

Bekerja dengan Llama 3

Apa itu Llama 3?

Tangkapan layar 2025-02-19 pukul 11.32.24.png

Llama 3:

  • Dikembangkan oleh Meta
Bekerja dengan Llama 3

Apa itu Llama 3?

Tangkapan layar 2025-02-19 pukul 11.32.18.png

Llama 3:

  • Dikembangkan oleh Meta
  • Generasi teks
Bekerja dengan Llama 3

Apa itu Llama 3?

Tangkapan layar 2025-02-19 pukul 11.32.12.png

  • Dikembangkan oleh Meta
  • Generasi teks
  • Dilatih pada dataset masif
    • Setara 2000 Wikipedia
  • Sumber terbuka
Bekerja dengan Llama 3

Mengapa menjalankan Llama 3 secara lokal

  • Contoh: otomatisasi industri
    • Llama memprediksi kebutuhan pemeliharaan

3.jpg

1 https://ai.meta.com/blog/aitomatic-built-with-llama/
Bekerja dengan Llama 3

Mengapa menjalankan Llama 3 secara lokal

 

  • Privasi dan keamanan

Tangkapan layar 2025-02-19 pukul 11.48.10.png

Bekerja dengan Llama 3

Mengapa menjalankan Llama 3 secara lokal

 

  • Privasi dan keamanan

 

  • Hemat biaya

Tangkapan layar 2025-02-19 pukul 11.48.03.png

Bekerja dengan Llama 3

Mengapa menjalankan Llama 3 secara lokal

 

  • Privasi dan keamanan

 

  • Hemat biaya

 

  • Kustomisasi

Tangkapan layar 2025-02-19 pukul 11.47.54.png

Bekerja dengan Llama 3

Menggunakan Llama secara lokal

  • Tersedia lokal jika Python terpasang

Tangkapan layar 2025-02-19 pukul 11.54.07.png

  • Dapat digunakan lewat pustaka llama-cpp-python
  • Jalankan pip install
pip install llama-cpp-python
Bekerja dengan Llama 3

Mengajukan pertanyaan ke Llama

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")

output = llm("What are some ways to improve customer retention?")
  • Impor kelas Llama
  • Inisialisasi LLM
    • Dapat mengirim prompt dan menerima respons
    • Model dalam format GGUF
  • Kirim pertanyaan ke LLM
Bekerja dengan Llama 3

Mengajukan pertanyaan ke Llama

 

  • Model menerima prompt
  • Memproses prompt
  • Mengembalikan respons

prompting.jpg

Bekerja dengan Llama 3

Membaca output

  • Respons berupa dictionary
output

{'id': 'cmpl-af88304f-97b0-49f5-ba20-db87f86c4068',
 'object': 'text_completion',
 'created': 1715222298,
 'model': './Llama3-gguf-unsloth.Q4_K_M.gguf',
 'choices': [{'text': 'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings...'},
 ...]
}
Bekerja dengan Llama 3

Membaca output

  • Akses "text" dari elemen 0 pada "choices"
output["choices"][0]["text"]

'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings. 
 Here are some effective ways to boost customer retention:
 1. Personalize the Customer Experience
 Tailor your interactions with customers based on their preferences, behaviors, and 
 purchase history. Use data and analytics to create personalized offers, 
 recommendations, and communications.
 2. Foster Strong Relationships
 Build strong, human connections with your customers. Train your...'
Bekerja dengan Llama 3

Ayo berlatih!

Bekerja dengan Llama 3

Preparing Video For Download...