Grenzen van machine learning

Inzicht in Machine Learning

Sara Billen

Curriculum Manager, DataCamp

Datakwaliteit

• Garbage in, garbage out
• Uitvoerkwaliteit hangt af van invoerkwaliteit

Hoe het flink mis kan gaan

Amazons gender-vooringenomen recruitmenttool

• Wervingssoftware om cv's te screenen
• Gaf mannen de voorkeur, omdat het leerde van historische data met meer mannelijke aanstellingen
• Het verlaagde de score van cv's die
  • het woord "women" bevatten
  • impliceerden dat de kandidaat vrouw was

Hoe het flink mis kan gaan

Microsofts AI-chatbot

Let op

• Vertrouw je model niet blind
• Bewustzijn is key
• Let op je data

$$

Een ML‑model is zo goed als de data die je het geeft

Kwaliteitsborging

• Hoge datakwaliteit vraagt om:
  • Data-analyse
  • Controle van uitschieters
  • Domeinkennis
  • Documentatie

Verklaarbaarheid

Verklaarbaarheid

• Transparantie vergroot vertrouwen, helderheid en begrip
• Use cases: adoptie in business, toezicht, bias minimaliseren

Explainable AI

Black box

• Deep learning
• Beter voor "Wat?"
• Zeer nauwkeurige voorspellingen

Explainable AI

• Traditionele machine learning
• Beter voor "Waarom?"
• Begrijpelijk voor mensen

Voorbeeld: Explainable AI

1. Voorspelling: Krijgt de patiënt diabetes?
2. Inferentie: Waarom gebeurt dit?

Voorbeeld: Onverklaarbare AI

Alleen voorspellen: Welke letter is dit waarschijnlijk?

Laten we oefenen!

Inzicht in Machine Learning