LLMOps’a Genel Bakış

LLMOps Kavramları

Max Knobbout, PhD

Applied Scientist, Uber

Bu derste neler öğreneceğiz

LLMOps, büyük dil modeli uygulamalarını etkili biçimde yönetmeye, dağıtmaya ve sürdürmeye yardımcı olur
Ele alacaklarımız:
- Temeller
- LLM uygulamalarının yaşam döngüsü
- Zorluklar ve hususlar

¹ Görseller: Manfred Steger @ Pixabay

Bir sorgunun LLM’e girip çıktı ürettiği basit bir boru hattı

Bu kursta bunlara LLM uygulamaları diyeceğiz

Karmaşık bir LLM boru hattının resmi

Sorunsuz entegrasyon

Yaşam döngüsünde akıcı geçişler

Verimli, ölçeklenebilir yönetim

Bazı farklar:

	LLMOps	MLOps
Model boyutu	Büyük	Genelde daha küçük
Veri	Metin	Her tür veri
Önceden eğitilmiş modeller	Genellikle evet	Genellikle hayır
Model iyileştirme	Prompt mühendisliği ve ince ayar	Özellik mühendisliği ve model seçimi
Genelleme	Genel amaçlı	Sabit kapsam
Öngörülemezlik	Yüksek	Düşük
Çıktı	Ağırlıkla metin	Göreve özel

LLMOps Kavramları