KI-Risikobewertung

Strategien für künstliche Intelligenz (KI)

Vidhi Chugh

AI strategist and ethicist

Ethische Leitlinien

 

• UNESCO
  • Leitlinien notwendig
  • Vermeidet Risiken wie Voreingenommenheit und Diskriminierung
  • Grundlegende Menschenrechte

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

KI-Risiken

 

• National Institute of Standards and Technology (NIST)

  

 

• Wahrscheinlichkeit des Auftretens
• Wie schlimm sind die Folgen?

¹ https://www.nist.gov/artificial-intelligence

Datenrisiken

• Datenschutz
  • Vertrauliche Informationen

• Datenverzerrung
  • Gesellschaftliche Vorurteile weiterführen  

Wenn KI schief läuft

 

• Geschlechtervorurteile

 

• Diskriminierung aufgrund ethnischer Herkunft

Datenschutzverletzung

• Hohe Strafe wegen Nichtbeachtung der DSGVO
• Unrechtmäßige Verarbeitung von Daten
• Gesammelte Bilder für die Gesichtserkennung

 

Auswirkungen auf das Unternehmen

Rechtlich

Auswirkungen auf das Unternehmen

Rechtlich, Reputation

Auswirkungen auf das Unternehmen

Rechtlich, Reputation, finanzielle Schäden

Ethische Konzepte

Ethische Konzepte

Ethische Konzepte

Grundprinzipien der Risikobewertung

                Privacy

                Fairness

             Transparency

             Accountability

Regeln und Einhaltung

• Lebenszyklus von KI-Projekten

• Regeln und Einhaltung
  • Verantwortlichkeit braucht gute Führung
  • Rollen und Verantwortlichkeiten festlegen
  • Einhaltung der Datenschutzbestimmungen
  • Die Einwilligung der Nutzer einholen und Daten anonymisieren

Datenerhebung und -aufbereitung

Bewerten

• Intern verfügbar oder extern besorgen?
• Sind sensible Informationen wie personenbezogene Daten enthalten?
• Sind die Daten repräsentativ?

Abmildern

• Verfahren zur Datenintegrität
• Verschlüsselung von Identifikatoren, Erzeugung synthetischer Daten
• Erstellung ausgewogener Daten

Modellentwicklung und -bewertung

• Ergebnisse des Modells erklären
  • Erklären und Erkennen von Verzerrungen
  • Gerechte Behandlung aller Entitäten

Modelleinsatz und -überwachung

 

• Ausmaß der Auswirkungen

• Strategien zur Risikominderung entwickeln

 

 

• Hohe Folgekosten im Gesundheitswesen und im Finanzbereich

• Modellverhalten neu ausrichten

 

Lass uns üben!

Strategien für künstliche Intelligenz (KI)