Verantwortungsvolle Nutzung von KI: Soziale Benachteiligung, Urheberrecht, Eigentümerschaft

Generative KI für Unternehmen

Carl Rosseel

Head of Business Intelligence Curriculum at DataCamp

Soziale Vorurteile in der KI

Was ist soziale Benachteiligung?

  • Systematische Ungleichbehandlung bestimmter Gruppen
  • Bei Stellenbesetzungen, in der Medizin oder in ähnlichen Situationen

Was ist fair?

  • Definition von Fairness ist komplex
  • Beeinflusst von blinden Flecken in der Gesellschaft

Wie geht es weiter?

  • Fokus auf gemeinsame menschliche Werte

                          Brain_bias_vs_facts_on_a_scale.png

Generative KI für Unternehmen

Warum drohen Verzerrungen bei KI?

  • Mangelnde Vielfalt oder ungenügend vertretene Gruppen in den Trainingsdaten
  • Verfolgung von zu eng gesetzten Zielen im Modell
  • Falscher oder böswilliger Einsatz von KI durch Nutzer

brain balancing vs ai on a scale.jpg

Generative KI für Unternehmen

Aufdeckung und Minderung von Verzerrungen

Erkennung
  • Aufdeckung oder Identifikation von Verzerrungen
  • Algorithmen zur Berechnung von Fairnessmetriken
  • Menschliche Prüfungen
  • Kontinuierliche Bewertung und Verbesserung

Looking glass.jpg

Minderung
  • Angemessene Maßnahmen verringern die Auswirkungen eines Problems/Risikos.
  • Diversifizierung der Trainingsdaten
  • Anpassung der Modelle

                         

lamp.jpg

1 Oxford Languages
Generative KI für Unternehmen

Geistiges Eigentum und KI-Inhalte

KI-generierte Inhalte

  • Gemälde, Musik oder akademische Forschung

Wem gehören die Inhalte?

  • Der Person, die den Prompt geschrieben hat?
  • Dem Unternehmen, das die KI entwickelt hat?
  • Oder der KI selbst?

Rechtliches Umfeld

  • Entwickelt sich sehr schnell weiter

                         

Trademark.jpg

Generative KI für Unternehmen

Generative KI und das rechtliche Umfeld

  • Flickenteppich aus neuen Gesetzen
  • Informiert zu bleiben ist wichtig
  • Überlegungen zum Datenschutz
    • Nutzungsbedingungen
    • Folgen des Teilens von Inhalten
    • Umgang mit Daten

iStock-1471527204.jpg

Generative KI für Unternehmen

Generative KI in verschiedenen Branchen

  • Kreative Berufe befürchten Arbeitsplatzverluste
  • Medizinische Forschung erzielt mittels KI neue Durchbrüche
  • Lieferketten optimieren und automatisieren Prozesse

iStock-1481351201.jpg

Generative KI für Unternehmen

Ethische Überlegungen

Böswillige Verwendung

  • Deepfakes
  • Desinformationskampagnen
  • Erleichtertes Hacking

Strategien zur Minderung

  • Menschliche Prüfung („Human in the Loop“)
  • Schadensprävention und Überwachung
  • Verifizierung von Benutzeridentitäten
  • ...

iStock-1456142992.jpg

Generative KI für Unternehmen

GenKI entwickelt sich ständig weiter

Klare Richtlinien und Feedbackoptionen

  • Einbindung wichtiger Interessengruppen
  • Durchführung von Gesprächsrunden
  • Zusammenarbeit mit der Zivilgesellschaft
  • Produkt-Feedbackschleifen

iStock-1416315615.jpg

Ein komplexes neues Feld

  • Reich an Möglichkeiten
  • Ethische Überlegungen und Herausforderungen
  • Minderung von sozialer Benachteiligung
  • Klärung komplexer Urheberrechtsfragen

iStock-1448152453.jpg

Generative KI für Unternehmen

Lass uns üben!

Generative KI für Unternehmen

Preparing Video For Download...