Grenzen van machine learning

Machine Learning begrijpen

Sara Billen

Curriculum Manager, DataCamp

Datakwaliteit

Garbage in garbage out

  • Garbage in, garbage out
  • Outputkwaliteit hangt af van inputkwaliteit
Machine Learning begrijpen

Hoe het vreselijk mis kan gaan

Amazons gender-vooringenomen wervings tool

Robot kijkt met vergrootglas naar mensen

  • Wervingssoftware om cv's te beoordelen
  • Gaf de voorkeur aan mannen doordat het leerde van historische data met meer mannelijke aanstellingen
  • Het waardeerde cv's lager die
    • het woord "women" bevatten
    • impliceerden dat de sollicitant vrouw was
Machine Learning begrijpen

Hoe het vreselijk mis kan gaan

Microsoft's AI-chatbot

Tay's twitter account

Tay tweet examples

Machine Learning begrijpen

Wees voorzichtig

caution sign

  • Vertrouw je model niet blind
  • Bewustzijn is cruciaal
  • Let goed op je data

$$

A machine learning model is only as good as the data you give it

Machine Learning begrijpen

Kwaliteitsborging

  • Data van hoge kwaliteit vraagt om:
    • Data-analyse
    • Controle van uitschieters
    • Domeinexpertise
    • Documentatie

vergrootglas boven data

Machine Learning begrijpen

Uitlegbaarheid

Machine Learning begrijpen

Uitlegbaarheid

  • Transparantie om vertrouwen, helderheid en begrip te vergroten
  • Use-cases: businessadoptie, toezicht door toezichthouders, bias minimaliseren
Machine Learning begrijpen

Explainable AI

Black box

  • Deep learning
  • Beter voor "Wat?"
  • Zeer nauwkeurige voorspellingen

Explainable AI

  • Traditionele machine learning
  • Beter voor "Waarom?"
  • Begrijpelijk voor mensen
Machine Learning begrijpen

Voorbeeld: Explainable AI

insurance-customer-churn-analytics.jpg

  1. Voorspelling: Krijgt de patiënt diabetes?
  2. Inferentie: Waarom gebeurt dit
Machine Learning begrijpen

Voorbeeld: Onverklaarbare AI

Handwriting.jpg

Alleen voorspellen: Welke letter is dit waarschijnlijk?

Machine Learning begrijpen

Laten we oefenen!

Machine Learning begrijpen

Preparing Video For Download...