Datenethik und KI-Ethik

Einführung in die Datenethik

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Was ist KI?

Illustration der KI mit Dateneingabe und Modellentscheidung

  • KI kombiniert Algorithmen und robuste Datensätze, um Probleme zu lösen
  • Leistungsstarke KI nutzt große Datensätze
  • Massives Potenzial, zweischneidiges Schwert, ethische Überlegungen
Einführung in die Datenethik

Daten sind der Treibstoff für KI

Veranschaulichung der Bedeutung von Daten für KI anhand einer Kochanalogie

  • KI-Modelle brauchen riesige Datenmengen, ein Großteil der KI-Maßnahmen fließt in Daten
  • Schlechte Daten führen zu schlechten KI-Ergebnissen
  • KI-Ethik geht über Datenethik hinaus
1 Fotoquelle: Das Webinar von Andrew Ng, MLOps: Von modellzentrierter zu datenzentrierter KI
Einführung in die Datenethik

Die Guten und die Großartigen

Eine Collage aus einem Sprachassistenten, einem ChatGPT-Screenshot und einem Netflix-Homepage-Screenshot

  • Sprachassistenten, konversationelle KI
  • Filmempfehlungen

Ein Röntgenbild einer Brust mit zwei Tumoren in verschiedenen Wachstumsstadien

  • KI für das Gute
  • Frühzeitige Krebsdiagnose
  • Präzisionslandwirtschaft – weniger Wasser- und Pestizideinsatz
Einführung in die Datenethik

Die Bösen und die Hässlichen

Eine Collage aus Screenshots von Nachrichten über die Diskriminierung durch KI-Algorithmen

  • Diskriminierung bei Einstellung, Gesundheitsversorgung und Gerichtsverfahren
  • Gründe: verzerrte Datensätze, komplexe Blackbox-Modelle, fehlende Erklärungen
  • KI-Ethik geht über Datenethik hinaus
Einführung in die Datenethik

Ethische Dilemmata der KI

KI-Ethik geht über Datenethik hinaus

  • Die Folgen von KI-Entscheidungen:
    • Kreditzugang/Darlehen
    • Einstellen
  • KI-Diskriminierung
  • KI/Roboter übernehmen Jobs
  • Werden Roboter/Drohnen in einem Krieg weniger Menschenleben fordern?
  • Was bedeutet es, ein Mensch zu sein?
  • Können wir Moral in KI kodieren?

Bild eines Straßenschildes, das in entgegengesetzte Richtungen zeigt, mit einem Berghintergrund.

1 Fotoquelle: unsplash.com
Einführung in die Datenethik

Was sollte eine KI tun?

  • Selbstfahrendes Auto mit plötzlichem Bremsversagen
  • Weiterfahren oder ausweichen
  • Fortzufahren wird eine Frau, einen Mann und eine ältere Frau töten
  • Ausweichen tötet eine junge Frau und zwei Kinder
  • Wer ist verantwortlich?

Illustration eines ethischen Dilemmas eines selbstfahrenden Autos

1 https://moralmachine.mit.edu/
Einführung in die Datenethik

KI-Ethikrichtlinien in aller Kürze

Viele Organisationen und Gremien arbeiten an KI-Ethikrichtlinien

  • Menschliches Handeln und Aufsicht
  • Technische Robustheit und Sicherheit
  • Datenschutz und Data Governance
  • Transparenz
  • Vielfalt, Nicht-Diskriminierung und Fairness
  • Ökol. und gesellsch. Wohlbefinden
  • Rechenschaftspflicht

Bild der KI-Ethikrichtlinien von Algorithm Watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Einführung in die Datenethik

Die Daten überschneiden sich

  • Privatsphäre, Sicherheit, Datenschutz
  • Voreingenommenheit und Fairness
  • Transparenz
  • Rechenschaftspflicht

Illustration der Überschneidung von Daten- und KI-Ethik

Einführung in die Datenethik

Lass uns üben!

Einführung in die Datenethik

Preparing Video For Download...