Proč je nutné monitorovat model

Monitoring Machine Learning Concepts

Hakim Elakhrass

Co-founder and CEO of NannyML

Strojové učení v produkci

Typický vývojový proces

Tok šipek zahrnuje čtyři klíčové kroky: definování projektu, přípravu dat, trénování modelu a jeho nasazení.

Po nasazení

Aktualizovaná verze vývojového cyklu datové vědy obsahuje novou šipku pro monitorování po fázi nasazení. Šipky také propojují fázi monitorování s předchozími fázemi – přípravou dat, trénováním modelu a nasazením – umožňujíce iterativní zlepšování na základě poznatků z monitorování.

Monitoring Machine Learning Concepts

Snižování rizika selhání

Případ Zillow

Cedule „Na prodej" před domem.

Příčiny selhání modelu:

  • Softwarové problémy
  • Drift vstupních dat
  • Změny ve vztahu mezi příznaky a cílovými hodnotami
Monitoring Machine Learning Concepts

Maximalizace obchodního dopadu

 

  • Optimalizace modelu ve vztahu k obchodním cílům

 

  • Snižování nákladů na cloud

 

Obrázek zobrazuje pyramidu ze šesti dřevěných bloků. Základní vrstva obsahuje KPI z každého písmene na blocích. Ostatní vrstvy symbolizují růst, dosažení cílů a zvýšenou efektivitu.

Obrázek zobrazuje logo cloudu složené z devíti dřevěných bloků.

Monitoring Machine Learning Concepts

Zlepšování bezpečnosti AI

Tři bezpečnostní problémy:

  • Zaujatost – spravedlivý výstup pro různé skupiny uživatelů

 

  • Adversariální útoky – odhalení škodlivé manipulace se vstupními daty

 

  • Nedostatek vysvětlitelnosti – pochopení, jak model přijímá rozhodnutí

 

Obrázek ukazuje dřevěný blok s váhou, který je posouván vpřed, což symbolizuje větší spravedlnost v systému a snížení zaujatosti.

Obrázek ukazuje dřevěný blok posouvaný vpřed se zámkem, což symbolizuje zvýšenou bezpečnost.

Obrázek ukazuje dřevěný blok posouvaný vpřed s liniemi vycházejícími z hlavy, které symbolizují lepší porozumění inteligentnímu systému.

Monitoring Machine Learning Concepts

Změna světa pomocí dat

Proces automatizace

Obrázek ukazuje automatizovanou výrobní linku.

Monitoring Machine Learning Concepts

Pojďme procvičovat!

Monitoring Machine Learning Concepts

Preparing Video For Download...