MLOps

Strategia AI (sztucznej inteligencji)

Vidhi Chugh

AI strategist and ethicist

Operacjonalizacja

Wdrażanie zaawansowanych modeli AI do codziennej działalności firmy.

Zaawansowane modele AI

Strategia AI (sztucznej inteligencji)

Kontrola wersji kodu i danych

  • Eksperymenty dają wiele wersji kodu

Eksperymenty dają wiele wersji kodu

  • Zarządzane przez systemy kontroli wersji
  • Wersje danych

Wersje danych

  • Nowe dane lub nowe cechy
Strategia AI (sztucznej inteligencji)

Przenośność

  • Środowiska projektów ML
    • Trenowanie
    • Walidacja
    • Produkcja

 

  • Spójne przez cały cykl życia

    • Biblioteki
    • Frameworki
    • Wersje

 

Biblioteki, frameworki i wersje

Strategia AI (sztucznej inteligencji)

Czas na refleksję!

  • Zarządzanie różnymi wersjami i zależnościami

Nacisk na natychmiastową wartość biznesową

  • Nacisk na natychmiastową wartość biznesową
  • Skalowalność i architektura odsuwane na dalszy plan

Skalowalność i architektura

  • Doraźne podejścia stwarzają problemy
Strategia AI (sztucznej inteligencji)

Automatyczne zarządzanie danymi

  • Wysiłek związany z ponownym przygotowaniem danych treningowych
  • Błędy, zmiany lub aktualizacje
  • Automatyczne zarządzanie danymi dla zapewnienia jakości
  • Kontrole jakości i alerty

Błędy, zmiany lub aktualizacje

Automatyczne zarządzanie danymi dla jakości

Kontrole jakości i alerty

Strategia AI (sztucznej inteligencji)

Potrzeba automatyzacji

  • Ręczne interwencje = opóźnienia
    • Spadek wydajności modelu
    • Analiza błędów
    • Działania naprawcze

Ręczne interwencje

Wydajność modelu

 

  • Upłynęło dużo czasu
  • Błędne predykcje
  • Negatywne konsekwencje
Strategia AI (sztucznej inteligencji)

Refaktoryzacja kodu

 

Refaktoryzacja kodu źródłowego

 

  • Brak podstawowych praktyk inżynierii oprogramowania

 

  • Konieczność refaktoryzacji kodu źródłowego
    • Poważne ryzyko
    • Błędne zrozumienie lub odwzorowanie oryginalnej logiki
Strategia AI (sztucznej inteligencji)

Cechy wydajnej architektury

 

  • Niezawodne systemy wymagają nakładu pracy
  • MLOps = standaryzacja procesów i zautomatyzowane pipeline'y

 

  • Automatyzacja:
    • Wielokrotnie używane moduły — produkty danych, kod
    • Zautomatyzowane frameworki testowe
    • Zmniejsza ryzyko refaktoryzacji

 

Automatyzacja

Strategia AI (sztucznej inteligencji)

Cechy wydajnej architektury

 

Docker łączy model ze środowiskiem

 

  • Docker łączy model ze środowiskiem

  • Mniej ręcznych interwencji = sprawny cykl życia

  • Utrzymanie wydajności modelu to wyzwanie

 

  • MLOps do monitorowania modeli
    • O 30% mniej modeli odkładanych na półkę
    • O 60% więcej generowanej wartości
Strategia AI (sztucznej inteligencji)

Czas na praktykę!

Strategia AI (sztucznej inteligencji)

Preparing Video For Download...