Modellrisiken
KI-Sicherheit und Risikomanagement
Angeline Corvaglia
Founder and Digital Transformation Expert
Risiken im Lebenszyklus monitoren
Während der Entwicklung
- Faire und genaue Daten
- Lernt effektiv
- Risiken eines fehlerhaften Deployments
Nach dem Deployment
- Modelle können über die Zeit driften
- Führen zu verzerrten oder ungenauen Outputs
Sieben häufige Modellrisiken
Transparenz
- Wie KI-Modelle entscheiden
Interpretierbarkeit
- Warum ein Modell bestimmte Outputs erzeugt
In sensiblen Bereichen wie Gesundheit oder Finanzen
- Entscheidungsprozess
- So wichtig wie die Entscheidung selbst
Bias
Halluzination
Model Drift
Effektiv und genau lernen
Overfitting
- Lernt zu viele Details
Underfitting
- Zu simpel zum Lernen
Data Leakage
- Externe Daten im Training enthalten
Erklärbare KI (XAI)
Robustere, faire und sichere KI-Systeme
- Sicherheitsmaßnahmen
- Verantwortungsvolle Entwicklung
- Langfristige Auswirkungen
Sollte allen nützen
