Meze strojového učení

Porozumění strojovému učení

Sara Billen

Curriculum Manager, DataCamp

Kvalita dat

Nekvalitní vstup, nekvalitní výstup

  • Nekvalitní vstup, nekvalitní výstup
  • Kvalita výstupu závisí na kvalitě vstupu
Porozumění strojovému učení

Jak to může dopadnout hrozně

Genderově zaujatý náborový nástroj Amazonu

Robot zkoumající lidi lupou

  • Software pro pomoc s posuzováním životopisů
  • Upřednostňoval muže, protože se učil z dat, kdy bylo přijímáno více mužů
  • Snižoval hodnocení životopisů, které
    • obsahovaly slovo "women"
    • naznačovaly, že uchazeč je žena
Porozumění strojovému učení

Jak to může dopadnout hrozně

AI chatbot Microsoftu

Tayův twitterový účet

Ukázky Tayových tweetů

Porozumění strojovému učení

Pozor

výstražná značka

  • Nedůvěřujte modelu slepě
  • Klíčem je obezřetnost
  • Věnujte pozornost svým datům

$$

Model strojového učení je jen tak dobrý, jak dobrá jsou data, která mu poskytnete

Porozumění strojovému učení

Zajištění kvality

  • Kvalitní data vyžadují:
    • Analýzu dat
    • Kontrolu odlehlých hodnot
    • Odborné znalosti
    • Dokumentaci

lupa nad daty

Porozumění strojovému učení

Vysvětlitelnost

Porozumění strojovému učení

Vysvětlitelnost

  • Transparentnost pro vyšší důvěru, jasnost a porozumění
  • Využití: byznys, regulační dohled, omezení zaujatosti
Porozumění strojovému učení

Vysvětlitelná AI

Černá skříňka

  • Hluboké učení
  • Lepší pro "Co?"
  • Velmi přesné predikce

Vysvětlitelná AI

  • Tradiční strojové učení
  • Lepší pro "Proč?"
  • Srozumitelná pro člověka
Porozumění strojovému učení

Příklad: Vysvětlitelná AI

insurance-customer-churn-analytics.jpg

  1. Predikce: Onemocní pacient cukrovkou?
  2. Inference: Proč se to stane
Porozumění strojovému učení

Příklad: Nevysvětlitelná AI

Handwriting.jpg

Pouze predikce: O jaké písmeno se pravděpodobně jedná?

Porozumění strojovému učení

Pojďme cvičit!

Porozumění strojovému učení

Preparing Video For Download...