Llama nedir?

Llama 3 ile Çalışmak

Imtihan Ahmed

Machine Learning Engineer

Eğitmenle tanışın

 

  • Imtihan Ahmed
  • Makine Öğrenimi Mühendisi
  • Altı yıl deneyim
  • Ölçekli Yapay Zekâ

  Eğitmen profil fotoğrafı

Llama 3 ile Çalışmak

Llama 3 nedir?

 

  • Özetleme

Ekran görüntüsü 19.02.2025 11.01.25.png

Llama 3 ile Çalışmak

Llama 3 nedir?

 

  • Özetleme

 

  • Veri analizi

Ekran görüntüsü 19.02.2025 11.01.16.png

Llama 3 ile Çalışmak

Llama 3 nedir?

 

  • Özetleme

 

  • Veri analizi

 

  • Kodlama asistanı

Ekran görüntüsü 19.02.2025 11.01.07.png

Llama 3 ile Çalışmak

Llama 3 nedir?

Ekran görüntüsü 19.02.2025 11.32.24.png

Llama 3:

  • Meta tarafından geliştirildi
Llama 3 ile Çalışmak

Llama 3 nedir?

Ekran görüntüsü 19.02.2025 11.32.18.png

Llama 3:

  • Meta tarafından geliştirildi
  • Metin üretimi
Llama 3 ile Çalışmak

Llama 3 nedir?

Ekran görüntüsü 19.02.2025 11.32.12.png

  • Meta tarafından geliştirildi
  • Metin üretimi
  • Çok büyük veriyle eğitildi
    • 2000 Wikipedia’ya eşdeğer
  • Açık kaynak
Llama 3 ile Çalışmak

Llama 3’ü yerelde neden çalıştırmalı?

  • Örnek: endüstriyel otomasyon
    • Llama bakım ihtiyaçlarını tahmin ediyor

3.jpg

1 https://ai.meta.com/blog/aitomatic-built-with-llama/
Llama 3 ile Çalışmak

Llama 3’ü yerelde neden çalıştırmalı?

 

  • Gizlilik ve güvenlik

Ekran görüntüsü 19.02.2025 11.48.10.png

Llama 3 ile Çalışmak

Llama 3’ü yerelde neden çalıştırmalı?

 

  • Gizlilik ve güvenlik

 

  • Maliyet verimliliği

Ekran görüntüsü 19.02.2025 11.48.03.png

Llama 3 ile Çalışmak

Llama 3’ü yerelde neden çalıştırmalı?

 

  • Gizlilik ve güvenlik

 

  • Maliyet verimliliği

 

  • Özelleştirme

Ekran görüntüsü 19.02.2025 11.47.54.png

Llama 3 ile Çalışmak

Llama’yı yerelde kullanma

  • Python kuruluysa yerelde kullanılabilir

Ekran görüntüsü 19.02.2025 11.54.07.png

  • llama-cpp-python kütüphanesiyle kullanılabilir
  • pip ile kurun
pip install llama-cpp-python
Llama 3 ile Çalışmak

Llama’ya soru sorma

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
output = llm("What are some ways to improve customer retention?")
  • Llama sınıfını içe aktarın
  • LLM’i başlatın
    • İstem gönderip yanıt alabilirsiniz
    • Model GGUF formatında
  • LLM’e bir soru verin
Llama 3 ile Çalışmak

Llama’ya soru sorma

 

  • Model istemi alır
  • İstemi işler
  • Bir yanıt döndürür

yönlendirme.jpg

Llama 3 ile Çalışmak

Çıktıyı inceleme

  • Yanıt sözlük (dictionary) biçimindedir
output
{'id': 'cmpl-af88304f-97b0-49f5-ba20-db87f86c4068',
 'object': 'text_completion',
 'created': 1715222298,
 'model': './Llama3-gguf-unsloth.Q4_K_M.gguf',
 'choices': [{'text': 'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings...'},
 ...]
}
Llama 3 ile Çalışmak

Çıktıyı inceleme

  • "choices" listesinin 0 öğesindeki "text" alanına erişin
output["choices"][0]["text"]
'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings. 
 Here are some effective ways to boost customer retention:
 1. Personalize the Customer Experience
 Tailor your interactions with customers based on their preferences, behaviors, and 
 purchase history. Use data and analytics to create personalized offers, 
 recommendations, and communications.
 2. Foster Strong Relationships
 Build strong, human connections with your customers. Train your...'
Llama 3 ile Çalışmak

Hadi pratik yapalım!

Llama 3 ile Çalışmak

Preparing Video For Download...