RAG ve ince ayar (fine-tuning)

LLMOps Kavramları

Max Knobbout, PhD

Applied Scientist, Uber

LLM yaşam döngüsü: RAG ve ince ayar

LLM uygulama yaşam döngüsü aşamalarının genel görünümü

LLMOps Kavramları

Geri Getirme Destekli Üretim (RAG)

Tableti muzla çalıştıran çizgi karakterin eğlenceli görseli

 

  • LLM'lerin akıl yürütmesini harici bilgiyle birleştirir.

  • Zincirde üç adım:

    1. İlgili belgeleri getir
    2. İstemi örneklerle zenginleştir
    3. Çıktı üret

  • Çoğunlukla vektör veritabanlarıyla uygulanır.

LLMOps Kavramları

Vektör veritabanı ile RAG zinciri

  1. Getir:
    • Girdiyi gömlemeye dönüştür
    • Vektör veritabanında ara
    • En benzer belgeleri getir

Getirme zinciri

LLMOps Kavramları

Vektör veritabanı ile RAG zinciri

  1. Getir:
    • Girdiden gömleme üret
    • Vektör veritabanında ara
    • En benzer belgeleri getir
  2. Zenginleştir:
    • Girdiyle belgeleri birleştirip nihai istemi oluşturur

Zenginleştirme zinciri

LLMOps Kavramları

Vektör veritabanı ile RAG zinciri

  1. Getir:
    • Girdiden gömleme üret
    • Vektör veritabanında ara
    • En benzer belgeleri getir
  2. Zenginleştir:
    • Girdiyi en iyi k belgelerle birleştirip artırılmış istem oluştur
  3. Üret:
    • İstemi kullanarak çıktı üretir

Pek çok uygulama seçeneği ve gömleme modeli vardır. Deneyin ve test edin!

Zincir üret

LLMOps Kavramları

İnce ayar (fine-tuning)

 

İnce ayarlı bir takım elbise giyen çizgi film karakterinin eğlenceli görseli

 

 

  • LLM'nin ağırlıklarını ayarlar
  • Belirli görev ve alanlara uyum sağlar:
    • Farklı diller
    • Uzmanlık alanları
LLMOps Kavramları

İnce ayar (fine-tuning)

Denetimli ince ayar (transfer öğrenimi)

Gerekli veri türü 📂:

  • Gösterim verisi (istenen çıktılarıyla birlikte girdiler)

İnsan Geri Bildiriminden Pekiştirmeli Öğrenme (RLHF)

Gerekli veri türü 📂:

  • Sıralamalar veya kalite puanları (beğeni/beğenmeme ile elde edilir)

Yaklaşım 🔍:

  • Modeli (bölümlerini) yeniden eğitmek

Yaklaşım 🔍:

  • Ek bir ödül modeli eğitmek
  • Bunu ençoklayacak şekilde özgün LLM'yi optimize etmek
LLMOps Kavramları

RAG mi, ince ayar mı

RAG
  • Olgusal bilgiyi eklemek istediğinizde kullanın
  • ✅ LLM yeteneklerini korur, uygulaması kolay, hep güncel
  • ❌ Ek bileşenler ekler, dikkatli mühendislik ister

Tableti muzla çalıştıran çizgi karakterin eğlenceli görseli

İnce ayarlı bir takım elbise giyen çizgi film karakterinin eğlenceli görseli

İnce ayar
  • Yeni bir alanda uzmanlaşırken kullanın
  • ✅ Tam kontrol, ek bileşen yok
  • ❌ Etiketli veri ve uzmanlık ister; önyargı artışı, felaket unutma riski
LLMOps Kavramları

Geliştirme döngüsü

Zincir ve ajan geliştirme etkinliği eklenmiş geliştirme döngüsü

LLMOps Kavramları

Geliştirme döngüsü

RAG etkinliği eklenmiş geliştirme döngüsü

LLMOps Kavramları

Geliştirme döngüsü

İnce ayar etkinliği eklenmiş geliştirme döngüsü

LLMOps Kavramları

Hadi pratik yapalım!

LLMOps Kavramları

Preparing Video For Download...