Feedback-Loop, Retraining und Labeling

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

Feedback-Loop

  • Modellausgabe als Systemeingabe:
    • Metriken/Vorhersagen steuern Systementwicklung
    • Modell-Monitoring möglich

 

  • Integraler Teil von ML:
    • Ermöglicht schnelles Lernen und Anpassen
    • Besser auf Veränderungen reagieren

Zwei zyklische Pfeile, die das Prinzip eines Feedback-Loops zeigen

End-to-End Machine Learning

Implementierung des Feedback-Loops

Erkennung von Data Drift

  • Verteilung der Eingabedaten ändert sich über die Zeit
  • Feedback-Loop: mit neueren Daten retrainen

Online Learning

  • Periodisch auf veränderten Daten retrainen
  • Mehr als Data Drift: passt sich Strukturänderungen an

Data Drift

Online Learning

End-to-End Machine Learning

Gefahren von Feedback-Loops

Gefahren ...

  • Modellausgaben beeinflussen Eingaben
  • Beispiel: Social-Media-Empfehlung:
    • Maximiert Engagement
    • Lernt, bestimmten Content zu liefern
    • Führt dazu, dass Nutzer mehr davon sehen
    • usw.
  • Unerwünschte Verhaltensmuster entstehen
  • Gefährlicher, wenn automatisiert

Ein großes rotes Kreuz für Gefahr

End-to-End Machine Learning

Bessere Nutzung des Feedback-Loops

  • Reaktiv:

    • Human-in-the-Loop
    • Modellvorhersagen ändern Eingabedaten nicht

  • Vorsicht und Aufsicht sind entscheidend!

Ein großes grünes Häkchen für bessere Nutzung

End-to-End Machine Learning

Lass uns üben!

End-to-End Machine Learning

Preparing Video For Download...