Úvod do plně automatizovaného MLOps

Plně automatizované MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps v průmyslovém prostředí

Jaké cíle mají firmy při využívání strojového učení?

  • Vyvíjet nástroje a produkty ML, které pomocí dat
    • Lépe slouží zákazníkům
    • Optimalizují procesy

Obrázek ukazující, jak může firma využít systémy ML ke zlepšení interních procesů nebo služeb orientovaných na zákazníky.

Plně automatizované MLOps

Optimalizace tvorby hodnoty

Firmy se snaží maximalizovat zisk

  • Strojové učení lze využít ke zvýšení ziskovosti
  • Analýzou nákladů a výnosů lze odhadnout potenciální zisk
  • Nasazení správného počtu projektů ML může přinést zisk

Graf zobrazující křivku. Na ose x počet projektů ML, na ose y vygenerovaný příjem. Křivka roste, dosáhne plateau při 6 projektech a příjmu přibližně 25 milionů. Poté příjem klesá.

Plně automatizované MLOps

Náklady při vývoji softwaru

Očekávané náklady v tradičním projektu vývoje softwaru:

  • Náklady na vývoj
  • Projektové řízení
  • Návrh UI/UX
  • Zajištění kvality
Plně automatizované MLOps

Technický dluh při vývoji softwaru

Technický dluh neboli návrhový dluh:

  • Náklady na přepracování způsobené špatným návrhem

Obrázek dvou inženýrů před špatně postaveným domem. Jeden říká druhému: „Nechápu, proč trvá tak dlouho přidat nové okno."

1 https://vincentdnl.com/drawings/
Plně automatizované MLOps

Skrytý technický dluh v systémech ML

Strojové učení: „Kreditní karta s vysokým úrokem technického dluhu"[1].

Skrytý technický dluh může souviset s:

  1. Daty použitými k trénování modelů ML
  2. Modely pohánějícími systém ML
  3. Infrastrukturou systému ML
  4. Monitorováním systému ML
1 https://research.google/pubs/pub43146/
Plně automatizované MLOps

Náklady projektů strojového učení

Snížení zisku v důsledku technického dluhu v systémech ML: $$ $$

Obrázek zobrazující dvě schémata s křivkami. V prvním je odhadovaný příjem 25 mil. $. Ve druhém je snížen na 10 mil. $.

Plně automatizované MLOps

Kreditní karta s vysokým úrokem technického dluhu

Systémy ML mohou být složité a těžko spravovatelné.

Obrázek zobrazující mnoho komponent systému ML. Kód ML je malá součást uprostřed. Kolem něj jsou: konfigurace, sběr dat, validace dat, správa výpočetních zdrojů, infrastruktura pro nasazení, monitorování, analytické nástroje, nástroje pro správu procesů, extrakce příznaků.

Plně automatizované MLOps

MLOps: Nejlepší způsob, jak platit

Pokud je ML kreditní kartou s vysokým úrokem technického dluhu, MLOps je nejlepší způsob, jak jej splatit.

MLOps může zahrnovat:

  • Automatizované testování
  • Automatizované sledování experimentů
  • Automatizované monitorování

Aby byl technický dluh minimální

Plně automatizované MLOps

Pojďme procvičovat!

Plně automatizované MLOps

Preparing Video For Download...