Ölçeklenebilir Aracılar için Tasarım İlkeleri

Ölçeklenebilir Etkin Sistemler Oluşturma

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Ölçeklenebilir mi, değil mi?

Ölçeklenebilir mi, değil mi?

Ölçeklenebilir mi, değil mi?

Ölçeklenebilir mi, değil mi?

Ölçeklenebilir aracısal sistemlerin sütunları

Sağlam altyapı ve araçlar

• Hesaplama: Kodu çalıştırma kaynakları

 

• Depolama: Durumlar, günlükler ve geçmişin saklanması

Sağlam altyapı ve araçlar

Güvenilir Dağıtım Boru Hatları

Yerleşik Aracı Araçları

Modülerlik

Daha büyük bir bütünü oluşturmak için sistemleri ayrı, bağımsız bileşenler olarak tasarlamak

• Bağımsız tasarım, geliştirme ve bakımı sağlar

Modülerlik

Daha büyük bir bütünü oluşturmak için sistemleri ayrı, bağımsız bileşenler olarak tasarlamak

• Bağımsız tasarım, geliştirme ve bakımı sağlar

Modülerlik

Daha büyük bir bütünü oluşturmak için sistemleri ayrı, bağımsız bileşenler olarak tasarlamak

• Bağımsız tasarım, geliştirme ve bakımı sağlar

Aracılarda modülerlik: Yazılım modülerliği

Aracılarda modülerlik: Çoklu aracı

Aracılarda modülerlik: Çoklu aracı

Örnek: Müşteri destek çoklu aracı

Bölüm 2’ye kısa bir bakış

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

Sürekli değerlendirme ve geri bildirim döngüleri

 

• Kapsamlı izleme

 

Sürekli değerlendirme ve geri bildirim döngüleri

 

• Kapsamlı izleme
• Yaygın metrikler:
  • Başarı oranı
  • Gecikme
  • Hatalar

 

Sürekli değerlendirme ve geri bildirim döngüleri

 

• Kapsamlı izleme
• Yaygın metrikler:
  • Başarı oranı
  • Gecikme
  • Hatalar
• Kullanıcı geri bildirimi toplayın

 

Hadi pratik yapalım!

Ölçeklenebilir Etkin Sistemler Oluşturma