Pełna automatyzacja i najlepsze praktyki w MLOps

W pełni zautomatyzowany MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Cykl życia MLOps

Cykl życia MLOps. Trzy połączone cykle kołowe. Nazwy kółek od lewej do prawej: Projektowanie, Rozwój, Wdrożenie.

W pełni zautomatyzowany MLOps

Poziomy dojrzałości w MLOps

$$

Poziomy dojrzałości obejmują:

  • Ręczny przepływ pracy ML

  • Częściowo zautomatyzowany przepływ pracy ML

  • W pełni zautomatyzowany przepływ pracy ML

W pełni zautomatyzowany MLOps

Ręczny przepływ pracy ML – eksperymentowanie ad hoc

Ilustracja ręcznego dostarczania modeli ze środowiska deweloperskiego do produkcji.

W pełni zautomatyzowany MLOps

Częściowo zautomatyzowany przepływ pracy ML

Dane wprowadzane do zorkiestrowanego potoku eksperymentów.

W pełni zautomatyzowany MLOps

Częściowo zautomatyzowany przepływ pracy ML

Poprzedni obraz rozszerzony o kod przesyłany do repozytorium źródłowego oraz magazyn cech dostarczający dane do systemu.

W pełni zautomatyzowany MLOps

Częściowo zautomatyzowany przepływ pracy ML

Poprzedni obraz rozszerzony o komponent wdrożeniowy. Wdraża on zautomatyzowane potoki ML w architekturze. Magazyn metadanych ML odbiera metadane generowane przez zautomatyzowany potok.

W pełni zautomatyzowany MLOps

Częściowo zautomatyzowany przepływ pracy ML

Poprzednia architektura rozszerzona. Modele produkowane przez zautomatyzowany potok są przesyłane do rejestru modeli, który dostarcza je do modułu serwowania modeli. Moduł serwowania modeli jest połączony z usługą predykcji.

W pełni zautomatyzowany MLOps

Częściowo zautomatyzowany przepływ pracy ML

Moduł usługi predykcji w architekturze jest połączony z komponentem monitorowania wydajności, który z kolei jest połączony z automatycznym wyzwalaczem. Automatyczny wyzwalacz może uruchamiać zautomatyzowany potok w systemie.

W pełni zautomatyzowany MLOps

W pełni zautomatyzowany przepływ pracy ML

Ogólny przegląd w pełni zautomatyzowanej referencyjnej architektury MLOps.

W pełni zautomatyzowany MLOps

Automatyzacja w cyklu życia ML – Projektowanie

Tabela ilustrująca, że działania w fazie projektowania i planowania nie podlegają automatyzacji.

Dobre praktyki:

  • Stosowanie powtarzalnych procesów
  • Szczegółowa dokumentacja
W pełni zautomatyzowany MLOps

Automatyzacja w cyklu życia ML – Rozwój

Tabela ilustrująca, że nie wszystkie działania w fazie rozwoju podlegają automatyzacji.

Dobre praktyki:

  • Pamiętaj, że tworzymy oprogramowanie
  • Używaj kontroli wersji
  • Używaj narzędzi orkiestracji
W pełni zautomatyzowany MLOps

Automatyzacja w cyklu życia ML – Operacje

Tabela ilustrująca, że działania w fazie operacji są w większości automatyzowalne.

Użyj:

  • Automatycznych testów
  • CI/CD/CT/CM
W pełni zautomatyzowany MLOps

Czas na ćwiczenia!

W pełni zautomatyzowany MLOps

Preparing Video For Download...