Fikir aşaması

LLMOps Kavramları

Max Knobbout, PhD

Applied Scientist, Uber

LLM yaşam döngüsü: Fikir aşaması

LLM uygulama yaşam döngüsü aşamalarının genel görünümü

LLMOps Kavramları

Veri tedariki

 

Farklı veri kaynaklarını tutan bir çizgi karakterin eğlenceli resmi

 

  • İhtiyaçların belirlenmesi

 

  • Kaynakların bulunması

 

  • Erişilebilirliğin sağlanması
LLMOps Kavramları

Veri tedariki

 

Farklı veri kaynaklarını tutan bir çizgi karakterin eğlenceli resmi

  1. Veri ilgili mi?
  2. Veri mevcut mu?
    • Veriyi dönüştürün
    • Ek veritabanları kurun
    • Maliyetleri değerlendirin
    • Diğer erişim sınırlamalarını düşünün
  3. Veri standartları karşılıyor mu?
    • Kalite ve yönetişimle ilgilidir
LLMOps Kavramları

Temel model seçimi

  • Önceden eğitilmiş modeller:

Önceden eğitilmiş bir model resmi

  • Tescilli mi açık kaynak mı?
LLMOps Kavramları

Tescilli modeller (özel mülkiyet)

Avantajlar:

  • Kurulum ve kullanım kolaylığı
  • Kalite güvencesi
  • Güvenilirlik, hız ve erişilebilirlik

 

Sınırlamalar:

  • Verilerin açığa çıkmasını gerektirir
  • Özelleştirme

Örnekler:

Tescilli LLM modellerinin logoları

LLMOps Kavramları

Açık kaynak (herkese açık)

Avantajlar:

  • Kurum içi barındırma
  • Şeffaflık
  • Tam özelleştirilebilirlik

 

Sınırlamalar:

  • Destek
  • Ticari kullanım

 

Örnek: Meta Llama 3 logosu

 

Şuradan indirilebilir: Hugging Face logosu

LLMOps Kavramları

Model seçimi faktörleri

1. Performans ⭐

  • Yanıt kalitesi
  • Hız

Performansla ilgili simgeler

2. Model özellikleri ⭐

  • Eğitilen veriler
  • Bağlam penceresi boyutu
  • İnce ayar yapılabilirlik

Model özellikleriyle ilgili simgeler

LLMOps Kavramları

Model seçimi faktörleri

3. Pratik hususlar ⭐

  • Lisans
  • Maliyet
  • Çevresel etki

Pratik hususlarla ilgili simgeler

4. İkincil faktörler

  • Parametre sayısı
  • Popülerlik

İkincil faktörlerle ilgili simgeler

LLMOps Kavramları

Haydi pratik yapalım!

LLMOps Kavramları

Preparing Video For Download...