İstem tasarımı

LLMOps Kavramları

Max Knobbout, PhD

Applied Scientist, Uber

LLM yaşam döngüsü: İstem tasarımı

LLM uygulama yaşam döngüsü aşamalarının genel görünümü

LLMOps Kavramları

Geliştirme döngüsü

Bu bölümde ayrıntılandırılacak geliştirme döngüsüne ilk bakış

LLMOps Kavramları

İstem tasarımı neden önemlidir?

 

İstemleri öğreten neşeli bir çizgi karakter

 

 

  • Performansı artırır
  • Çıktıyı kontrol eder
  • Önyargı ve sanrıları azaltır
LLMOps Kavramları

Bir istemin öğeleri

 

 

  1. Talimat
  2. Örnekler / Bağlam
  3. Girdi verisi
  4. Çıktı göstergesi

Talimat, örnekler, girdi ve çıktı içeren bir istem örneği

LLMOps Kavramları

Mükemmel istemi bulma

 

 

Oyun alanında oynayan iki çizgi film karakteri resmi

 

Şunlarla deney yapın:

  • Sıcaklık, azami token gibi LLM ayarları
  • Bağlam içi öğrenme ve diğer istem tasarım kalıpları

 

Deney için bir playground kullanın!

LLMOps Kavramları

İstem yönetimi

 

 

Arşiv kutusuna istemleri dosyalayan neşeli bir çizgi karakter

  • Verimlilik, tekrarlanabilirlik ve işbirliği için kritik
  • Takip edilmesi gerekenler:
    • İstem
    • Çıktı
    • Model ve ayarlar
  • İstem yöneticisi veya sürüm kontrolü kullanın
  • Değerlendirme için iyi giriş-çıkış çiftleri toplamaya başlayın
LLMOps Kavramları

Yeniden kullanım için istem şablonları

Solda bir istem, sağda bir istem şablonu; ikisi arasındaki fark vurgulanıyor

LLMOps Kavramları

Geliştirme döngüsü

Bu bölümde ayrıntılandırılacak geliştirme döngüsüne ilk bakış

LLMOps Kavramları

Geliştirme döngüsü

İstem tasarımı etkinliği eklenmiş geliştirme döngüsü

LLMOps Kavramları

Haydi pratik yapalım!

LLMOps Kavramları

Preparing Video For Download...