Grenzen und Einschränkungen der KI

Einführung in KI im Beruf

James Chapman

AI Curriculum Manager, DataCamp

Risiko Nr. 1: Fabrikation von Wissen

 

  • Oder Halluzination: Falschinformationen, die von der KI als richtig dargestellt werden
  • Typische Beispiele:
    • Falsche Zahlen
    • Erfundene Zitate
    • Halluzinieren von Ereignissen

hallucination1.jpg

Einführung in KI im Beruf

Risiko Nr. 1: Fabrikation von Wissen

 

  • Oder Halluzination: Falschinformationen, die von der KI als richtig dargestellt werden
  • Typische Beispiele:
    • Falsche Zahlen
    • Erfundene Zitate
    • Halluzinieren von Ereignissen

hallucination2.jpg

Einführung in KI im Beruf

Risiko Nr. 1: Fabrikation von Wissen

hallucination3.jpg

Einführung in KI im Beruf

Risiko Nr. 2: Mangelnde Aktualität

 

  • Wissensstichtag → Tag, bis zu dem das Modell Ereignisse kennt

  • Beispiele:

    • Veraltete Vorschriften, Preise, Adressen und Programmiersyntax

  • Überprüfe zeitkritische Fakten anhand aktueller Quellen.

  • Viele KI-Tools unterstützen die Suche im Internet

recency.png

Einführung in KI im Beruf

Risiko Nr. 3: Verzerrte Ergebnisse

biased.png

 

  • Widerspiegeln und verstärken gesellschaftlicher Vorurteile aus Trainingsdaten.
  • Ergebnis → stereotype oder diskriminierende Inhalte
  • Schau dir KI-generierte Inhalte genau an!
Einführung in KI im Beruf

Risiko Nr. 4: Gefällige Ergebnisse

 

  • Gefälligkeit → KI sagt dir, was du hören willst

    • Bestätigt Sichtweise, stützt Entscheidungen und bekräftigt Denken

  • Problematisch, wenn du kritische Sichtweise brauchst

sycophancy.png

Einführung in KI im Beruf

Risiko Nr. 4: Gefällige Ergebnisse

 

  • Gefälligkeit → KI sagt dir, was du hören willst

    • Bestätigt Sichtweise, stützt Entscheidungen und bekräftigt Denken

  • Problematisch, wenn du kritische Perspektive brauchst

  • Nebenprodukt der Art und Weise, wie LLMs anhand menschlicher Bewertungen von Antworten trainiert werden

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Einführung in KI im Beruf

Risiko Nr. 5: Datenschutzverstöße und Datenoffenlegung

privacy.png

 

  • Was du mit KI-Tools teilst, bleib möglicherweise nicht privat!
  • Hochladen von Tabellen, Dokumenten oder Kundendaten kann riskant sein
  • Daten können auf externen Servern gespeichert, für Modelltraining genutzt oder durchsuchbar sein
Einführung in KI im Beruf

Risiko Nr. 5: Datenschutzverstöße und Datenoffenlegung

crying.png

 

Risiken

  • Verstöße gegen Datenschutzgesetze (z. B. DSGVO)
  • Verlust von Wettbewerbsvorteilen
  • Beschädigtes Kundenvertrauen

 

  • Immer die Datenschutzrichtlinie des KI-Tools lesen
  • Im Zweifel: Fachperson für IT oder InfoSec fragen
Einführung in KI im Beruf

Vom Risiko zur Verantwortung

risks_summary_v2.png

 

car.png

Einführung in KI im Beruf

Lass uns üben!

Einführung in KI im Beruf

Preparing Video For Download...