MLOps

Strategie umělé inteligence (AI)

Vidhi Chugh

AI strategist and ethicist

Operacionalizace

Nasazení pokročilých modelů AI do běžného provozu.

Pokročilé modely AI

Strategie umělé inteligence (AI)

Správa verzí kódu a dat

  • Experimenty vedou k více verzím kódu

Experimenty vedou k více verzím kódu

  • Spravovány prostřednictvím systémů pro správu verzí
  • Verze dat

Verze dat

  • Nová data nebo nové funkce
Strategie umělé inteligence (AI)

Přenositelnost

  • Prostředí ML projektů
    • Trénování
    • Validace
    • Produkce

 

  • Konzistentní po celý životní cyklus

    • Knihovny
    • Frameworky
    • Verze

 

Knihovny, frameworky a verze

Strategie umělé inteligence (AI)

Čas zamyslet se!

  • Správa různých verzí a závislostí

Důraz na okamžitou obchodní hodnotu

  • Důraz na okamžitou obchodní hodnotu
  • Škálovatelnost a architektura jako vedlejší zájem

Škálovatelnost a architektura

  • Ad-hoc přístupy přinášejí problémy
Strategie umělé inteligence (AI)

Automatizovaná správa dat

  • Úsilí při přípravě trénovacích dat
  • Chyby, změny nebo aktualizace
  • Automatizovaná správa dat pro kvalitu
  • Kontroly kvality a upozornění

Chyby, změny nebo aktualizace

Automatizovaná správa dat pro kvalitu

Kontroly kvality a upozornění

Strategie umělé inteligence (AI)

Potřeba automatizace

  • Ruční zásahy = zpoždění
    • Snížení výkonu modelu
    • Analýza chyb
    • Nápravná opatření

Ruční zásahy

Výkon modelu

 

  • Uplynulo značné množství času
  • Nesprávné předpovědi
  • Negativní důsledky
Strategie umělé inteligence (AI)

Refaktorování kódu

 

Refaktorování původního kódu

 

  • Nedostatek základních inženýrských postupů

 

  • Nutnost refaktorovat původní kód
    • Značné riziko
    • Původní logika nepochopena nebo zkreslena
Strategie umělé inteligence (AI)

Vlastnosti efektivní architektury

 

  • Spolehlivé systémy vyžadují úsilí
  • MLOps = standardizace procesů a automatizované pipeline

 

  • Automatizace:
    • Znovupoužitelné moduly – datové produkty, kód
    • Automatizované testovací rámce
    • Snižuje riziko refaktorování

 

Automatizace

Strategie umělé inteligence (AI)

Vlastnosti efektivní architektury

 

Docker spojuje model s prostředím

 

  • Docker spojuje model s prostředím

  • Méně ručních zásahů = efektivní životní cyklus

  • Udržení výkonu modelu je náročné

 

  • MLOps pro monitorování modelů
    • O 30 % méně odložených modelů
    • O 60 % vyšší hodnota
Strategie umělé inteligence (AI)

Pojďme procvičovat!

Strategie umělé inteligence (AI)

Preparing Video For Download...