Externe Risiken in der KI
KI-Sicherheit und Risikomanagement
Angeline Corvaglia
Founder and Digital Transformation Expert
Interne Risiken
Innerhalb von Design oder Daten
Externe Risiken
Akteure von außen
- Manipulieren das Modell
- Zielen auf verschiedene Aspekte
Häufige externe Risiken
Adversarial-Input-Angriffe
- Beeinflussen die Inferenzphase (bei neuen Daten)
- Beeinflussen die Entscheidungen
Beispiel
- Bild leicht verändern
- Falsch klassifizieren
Datenkorruption und -vergiftung
- Beeinflussen die Trainingsphase
- Zielen auf die Lernintegrität
Beispiel
- Gefälschte Produktrezensionen
- Beeinflussen ein E‑Commerce-Empfehlungssystem
Modell-Diebstahl und -Inversion
- Zielt auf sensible Informationen
- Nutzt das Modell selbst aus
Beispiel
- Manipulierte Eingaben nutzen, um Trainingsdaten offenzulegen
Infrastrukturanriffe
- Zielen auf physische und virtuelle Umgebungen
- Greifen die Infrastruktur an
Beispiel
- KI-Server mit Anfragen fluten, um sie zu überlasten und unzugänglich zu machen
Lieferkettenangriffe
- Komponenten oder Bibliotheken kompromittieren
- Die Bausteine von KI-Modellen ausnutzen
Beispiel
- Schwachstelle in weit verbreiteter Bibliothek einschleusen
Security-Best-Practices
Weitere Best Practices
Risiken entwickeln sich schnell
