Wdrażanie modelu

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

Model jako usługa

  • Interesariusze / użytkownicy uzyskują dostęp do modelu przez internet

  • Model udostępniany przez portal

    • Użytkownicy przesyłają zapytania / dane
    • Otrzymują diagnozy / prognozy

  • Zastrzeżenia:

    • Wiejska klinika / brak dostępu do internetu
    • Środowisko wysokiego bezpieczeństwa / wrażliwe dane

Symbol portalu przedstawiający model jako usługę

End-to-End Machine Learning

Wdrożenie na urządzeniu

Zintegrowane architektury wdrożeniowe

  • Przetwarzanie brzegowe
  • Przydatne przy niestabilnym połączeniu z internetem

Zębatki w głowie symbolizujące obliczenia na urządzeniu

End-to-End Machine Learning

Zalety i wady wdrożenia na urządzeniu

Zalety:

  • Mniejsze opóźnienia
  • Bezpieczeństwo
  • Zastosowania w obszarach oddalonych / bez internetu

Wady:

  • Ograniczone zasoby
  • Aktualizacje modelu
  • Monitorowanie
End-to-End Machine Learning

Strategie implementacji

  • Przycinanie
  • Transfer wiedzy
  • Dedykowane frameworki

Ikona przedstawiająca strategię

End-to-End Machine Learning

Czas na ćwiczenia!

End-to-End Machine Learning

Preparing Video For Download...