Zincirler ve ajanlar

LLMOps Kavramları

Max Knobbout, PhD

Applied Scientist, Uber

LLM yaşam döngüsü: Zincirler ve ajanlar

LLM uygulama yaşam döngüsü aşamalarının genel görünümü

Yemek kalorisi sınıflandırması için istem şablonu

Veritabanından benzer yemekleri getiren zincir kullanan bir LLM uygulaması

Bir robot fareye binen çizgi film karakterinin neşeli bir görseli

Ajanlar şunlardan oluşur:
- Birden çok eylem (araç)
- Hangi eylemi seçeceğine karar veren bir LLM

Şu durumlarda yararlı:
- Çok sayıda eylem varsa
- En iyi adım sırası bilinmiyorsa
- Girdiler belirsizse

İki eylemin bulunduğu bir ajan mimarisi

İki eylemin bulunduğu bir ajan mimarisi

İki eylemin bulunduğu bir ajan mimarisi

	Zincirler 🔗	Ajanlar 🤖
Doğa	Deterministik	Uyarlanabilir
Karmaşıklık	Düşük	Yüksek
Esneklik	Düşük	Yüksek
Risk	Daha düşük (öngörülebilirlik sayesinde)	Daha yüksek (uyarlanabilirlik nedeniyle)

İstem mühendisliğini eklediğimiz geliştirme döngüsü

Zincir ve ajanları içeren geliştirme döngüsü.

Zincir ve ajan geliştirmeyi eklediğimiz geliştirme döngüsü

LLMOps Kavramları