Ograniczenia uczenia maszynowego

Wprowadzenie do uczenia maszynowego

Sara Billen

Curriculum Manager, DataCamp

Jakość danych

Śmieci na wejściu, śmieci na wyjściu

  • Śmieci na wejściu, śmieci na wyjściu
  • Jakość wyników zależy od jakości danych wejściowych
Wprowadzenie do uczenia maszynowego

Kiedy wszystko idzie nie tak

Narzędzie rekrutacyjne Amazon z uprzedzeniem płciowym

Robot z lupą patrzący na ludzi

  • Oprogramowanie wspomagające ocenę CV
  • Preferowało mężczyzn, bo uczyło się na danych historycznych, gdy częściej zatrudniano mężczyzn
  • Obniżało ocenę CV, które
    • zawierały słowo „kobiety"
    • sugerowały, że kandydatka jest kobietą
Wprowadzenie do uczenia maszynowego

Kiedy wszystko idzie nie tak

Chatbot AI firmy Microsoft

Konto Tay na Twitterze

Przykładowe tweety Tay

Wprowadzenie do uczenia maszynowego

Ostrożność

znak ostrzeżenia

  • Nie ufaj modelowi bezrefleksyjnie
  • Świadomość jest kluczowa
  • Zwracaj uwagę na dane

$$

Model uczenia maszynowego jest tak dobry, jak dane, które mu dostarczamy

Wprowadzenie do uczenia maszynowego

Zapewnienie jakości

  • Dane wysokiej jakości wymagają:
    • Analizy danych
    • Przeglądu wartości odstających
    • Wiedzy dziedzinowej
    • Dokumentacji

lupa nad danymi

Wprowadzenie do uczenia maszynowego

Wyjaśnialność

Wprowadzenie do uczenia maszynowego

Wyjaśnialność

  • Przejrzystość zwiększa zaufanie, jasność i zrozumienie
  • Zastosowania: wdrożenie biznesowe, nadzór regulacyjny, minimalizowanie stronniczości
Wprowadzenie do uczenia maszynowego

Wyjaśnialna SI

Czarna skrzynka

  • Głębokie uczenie
  • Lepsze dla pytania „Co?"
  • Bardzo trafne predykcje

Wyjaśnialna SI

  • Tradycyjne uczenie maszynowe
  • Lepsze dla pytania „Dlaczego?"
  • Zrozumiałe dla człowieka
Wprowadzenie do uczenia maszynowego

Przykład: Wyjaśnialna SI

insurance-customer-churn-analytics.jpg

  1. Predykcja: Czy pacjent zachoruje na cukrzycę?
  2. Wnioskowanie: Dlaczego tak się stanie
Wprowadzenie do uczenia maszynowego

Przykład: Niewyjaśnialna SI

Handwriting.jpg

Tylko predykcja: Jaką literą jest ten znak?

Wprowadzenie do uczenia maszynowego

Czas na ćwiczenia!

Wprowadzenie do uczenia maszynowego

Preparing Video For Download...