Die Grenzen des Machine Learning

Machine Learning verstehen

Sara Billen

Curriculum Manager, DataCamp

Datenqualität

Müll rein, Müll raus

  • Müll rein, Müll raus
  • Die Qualität des Outputs hängt von der Qualität des Inputs ab
Machine Learning verstehen

Wie es furchtbar schief gehen kann

Amazons geschlechtsdiskriminierendes Recruiting-Tool

Roboter betrachtet Menschen mit Lupe

  • Recruiting-Software für die Überprüfung von Lebensläufen
  • Bevorzugt Männer, weil sie aus historischen Daten gelernt hat, als mehr Männer eingestellt wurden
  • Sie stufte Lebensläufe herab, die
    • das Wort „Frauen“ enthalten,
    • andeuteten, dass die Bewerberin weiblich ist
Machine Learning verstehen

Wie es furchtbar schief gehen kann

Der KI-Chatbot von Microsoft

Tays Twitter-Account

Beispiele für Tay-Tweets

Machine Learning verstehen

Achtung

Warnzeichen

  • Vertraue nicht blind auf dein Modell
  • Aufmerksamkeit ist der Schlüssel
  • Achte auf deine Daten

$$

Ein Machine-Learning-Modell ist nur so gut wie die Daten, die du ihm gibst

Machine Learning verstehen

Qualitätssicherung

  • Hochwertige Daten erfordern:
    • Datenanalyse
    • Überprüfung von Ausreißern
    • Fachwissen
    • Dokumentation

Lupe über Daten

Machine Learning verstehen

Erklärbarkeit

Machine Learning verstehen

Erklärbarkeit

  • Transparenz für mehr Vertrauen, Klarheit und Verständnis
  • Anwendungsfälle: Unternehmensübernahme, Regulierungsaufsicht, Minimierung von Verzerrungen
Machine Learning verstehen

Erklärbare KI

Blackbox

  • Deep Learning
  • Besser für Fragen nach dem „Was?“
  • Hochpräzise Vorhersagen

Erklärbare KI

  • Traditionelles Machine Learning
  • Besser für Fragen nach dem „Warum?“
  • Verständlich für Menschen
Machine Learning verstehen

Beispiel: Erklärbare KI

insurance-customer-churn-analytics.jpg

  1. Vorhersage: Wird der Patient Diabetes bekommen?
  2. Inferenz: Warum wird das passieren
Machine Learning verstehen

Beispiel: Unerklärliche KI

Handwriting.jpg

Nur Vorhersage: Welcher Buchstabe wird es wohl sein?

Machine Learning verstehen

Lass uns üben!

Machine Learning verstehen

Preparing Video For Download...