Sicherheitsrisiken speziell für KI

KI-Sicherheit und Risikomanagement

Angeline Corvaglia

Founder and Digital Transformation Specialist

Warum Risikomanagement wichtig ist

• Nutzen sicher und verantwortungsvoll heben
• Ansatz zur Sicherheit muss sich ändern
• Traditionelle Strategien reichen nicht aus

Denk an die Auswirkungen der KI‑Integration wie an eine Münze:

• Potenzial
• Sicherheitsrisiken

Subtil, aber gefährlich

• Bias
• Halluzination
• Datenvergiftung
• Adversarielle Angriffe
• Offenlegung sensibler Daten

KI‑Bias im Bewerbungsprozess

1. KI mit historischen Daten trainieren
2. Frühere Verzerrungen spiegeln sich wider
3. Bias wird verstärkt
4. Vertrauen in die Organisation sinkt

Eine Online-Shopping-Plattform manipulieren

1. Plattform mit KI-Empfehlungen
2. Gefälschte Daten eingespielt
3. KI empfiehlt unpopuläre oder schädliche Produkte
4. Zahlreiche mögliche Folgen

KI‑Bias

Blitzschnelle Entscheidungen verstärken den Einfluss von Bias

Bevorzugen oder benachteiligen unfair

Ungleiche Ergebnisse in hohem Tempo

Halluzination

• Falsche oder irreführende Infos als wahr darstellen

Führt zu:

• Fehlentscheidungen
• Fehlinformationen und Vertrauensverlust

Datenvergiftung

Absichtliche Manipulation der Trainingsdaten

Bringt das KI‑System vom Kurs ab

• Falsche Vorhersagen oder Entscheidungen
• Erhebliche Folgen

Adversarielle Angriffe

Irreführende Eingaben präsentieren

• Während des Betriebs
• Schwer zu erkennen
• Gefährden die Integrität

Offenlegung sensibler Daten

Große Datenmengen für Training und Betrieb.

Risiko der Offenlegung sensibler Daten, wenn nicht ausreichend gesichert

Risiken verstehen, um sie zu managen

Proaktive Risikominderung

• Risiken voraussehen
• KI‑Sicherheitsökosystem kennen
• KI‑Sicherheit zukunftssicher machen
• Sicherheitskultur aufbauen
• Modell- und externe Risiken verstehen
• KI‑Sicherheit mit Zielen abgleichen

Los geht’s!

KI-Sicherheit und Risikomanagement