Sunum modları

MLOps Dağıtımı ve Yaşam Döngüsü

Nemanja Radojkovic

Senior Machine Learning Engineer

Sunum ve sunum modu

• Tahmin hizmeti sağlama == Model sunumu
• Belirli bir sunum türünün uygulanması == Sunum modu

 

Dikkatli seçin!

Toplu tahmin: Basit tutun

• Toplu tahmin en basitidir
• Kullanım durumu uygunsa bunu seçin
• Uygun örnek: aylık satış tahmini üretimi

Kabul edilebilir gecikme

Kabul edilebilir olan ne?

• < 1 saat?
• < 1 dakika?
• < 1 saniye?
• < 1 milisaniye?

Gerçeğe yakın zamanlı tahmin, diğer adıyla Akış işleme

Kabul edilebilir gecikme ~= X dakika

Ayrıca akış işleme olarak bilinir (istekler ve yanıtlar "veri akışları"dır)

Gerçek zamanlı tahmin

Kabul edilebilir gecikme < 1 sn

Örnek:

• Kredi kartı dolandırıcılık tespiti
• Geç tahmin neredeyse işe yaramaz

Gecikme öncelikliyse

• Daha zayıf ama daha hızlı model, daha güçlü ama yavaştan değerlidir
• Gecikmeyi azaltmak için modeller uç cihaza dağıtılır => "uç dağıtım"
  • ML içeren akıllı telefon uygulamaları:
    • navigasyon uygulamaları
    • yüz tanımayla kilit açma
    • görüntü filtreleri

Haydi pratik yapalım!

MLOps Dağıtımı ve Yaşam Döngüsü