Orkiestracja w MLOps

W pełni zautomatyzowany MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Kluczowy komponent systemów MLOps

Obraz referencyjnej architektury MLOps z dwoma wyróżnionymi elementami: zorkiestrowanymi eksperymentami w środowisku deweloperskim oraz zautomatyzowanym potokiem w produkcji.

W pełni zautomatyzowany MLOps

Modularność i wielokrotne użycie

Schemat z dwoma potokami ML: górnym w środowisku deweloperskim i eksperymentalnym oraz dolnym w produkcji.

W pełni zautomatyzowany MLOps

Orkiestracja i automatyzacja

Potoki ML są używane w:

  • Programowaniu i eksperymentowaniu

Schemat komponentu: zorkiestrowany eksperyment.

  • Produkcji

Schemat zautomatyzowanego potoku ML.

W pełni zautomatyzowany MLOps

Skierowane grafy acykliczne w MLOps

$$

  • Graficzne reprezentacje potoków
  • Etapy potoku jako węzły
  • Zależności między etapami jako krawędzie

Obraz prostego DAG z połączonymi etapami potoku ML.

W pełni zautomatyzowany MLOps

Czym jest orkiestracja w MLOps?

$$

  • Zarządzanie i automatyzacja przepływów zadań

$$

  • Harmonogramowanie i monitorowanie zadań

$$

  • Zarządzanie zależnościami i przepływami danych
W pełni zautomatyzowany MLOps

Potoki ML – programowanie i eksperymentowanie

Schemat zorkiestrowanego potoku ML w środowisku deweloperskim i eksperymentalnym. Potok jest uruchamiany przez naukowca danych i orkiestrowany przez komponent orkiestratora.

  • Zarządzanie zadaniami end-to-end w trenowaniu modelu
  • Prawidłowy przepływ, rejestrowanie i logowanie
  • Równoległe eksperymentowanie
W pełni zautomatyzowany MLOps

Potoki ML – produkcja

Schemat zautomatyzowanego potoku ML w środowisku produkcyjnym. Potok jest uruchamiany przez komponent automatycznego wyzwalacza i orkiestrowany przez komponent orkiestratora.

  • Pomaga w automatyzacji wdrażania modeli
  • Zarządza i wykonuje etapy potoku
  • Spójne i niezawodne wdrożenia
W pełni zautomatyzowany MLOps

Czas na ćwiczenia!

W pełni zautomatyzowany MLOps

Preparing Video For Download...