Wann solltest du LLMs vertrauen?

Große Sprachmodelle für Unternehmen

Iason Prassides

Content Developer, DataCamp

Duolingo maximieren

  • Duolingo Max
    • Nutzt ChatGPT für menschenähnliche Gespräche

Image of the logo for the Duolingo Max product

1 https://blog.duolingo.com/duolingo-max/
Große Sprachmodelle für Unternehmen

Duolingo maximieren

  • Duolingo Max
    • Nutzt ChatGPT für menschenähnliche Gespräche
  • Die Lernenden üben Sprachkenntnisse
    • GPT nimmt verschiedene Persönlichkeiten an
    • Gibt sofort Feedback

Image showing the use of Duolingo Max on a mobile phone application

1 https://blog.duolingo.com/duolingo-max/
Große Sprachmodelle für Unternehmen

LLMs verstehen

  • Führungskräfte müssen LLMs wirklich verstehen
  • LLMs sind keine Zauberei!
    • Sagen den nächsten Teil einer Sequenz voraus
  • Sie verstehen Sprache nicht so wie wir Menschen

Magician with a wand performing tricks

Große Sprachmodelle für Unternehmen

LLMs und gesunder Menschenverstand

Man holding up a label that has "common sense" written on it

  • LLMs wissen nicht, was „wahr“ ist
  • Haben keinen gesunden Menschenverstand
  • Menschliche Aufsicht ist für jeden Anwendungsfall Pflicht
  • Sich nur auf LLMs zu verlassen kann schwere Folgen haben
Große Sprachmodelle für Unternehmen

Training überwachen

  • LLMs hängen von Trainingsdaten ab
  • Voreingenommenheit oder soziale Ungerechtigkeit können verstärkt werden
    • Antworten immer prüfen, um schädliche Ergebnisse zu erkennen

Image of coins stacked to different heights, and different color game pieces on top of each stack

Große Sprachmodelle für Unternehmen

Gibt es Verzerrungen?

  • Hasskommentare für LLM-Training
    • Auch Antworten werden hasserfüllt sein
  • Verzerrte Datensätze
    • Führt zu LLMs mit systematischen Ausgabeverzerrungen
  • Vorurteile, Stereotypen oder Fehlinformationen werden unbeabsichtigt weiterverbreitet
  • Entwickler haben Maßnahmen eingebaut, um das zu verhindern
  • Unternehmen müssen sich dessen bewusst sein und Schutzmaßnahmen treffen

Image showing the word misinformation

Große Sprachmodelle für Unternehmen

Flexibilität und Konsequenzen

  • Identischer Prompt – unterschiedliche Antworten
  • Hilfreich für kreative Aufgaben, problematisch für andere
  • Marketingteam erstellt Produktbeschreibungen mit Hilfe von LLMs:
    • Kundin sieht unterschiedliche Beschreibungen
    • Möglicher Image-Schaden

Man looking at two products in the supermarket that appear the same apart from the color of the packaging

Große Sprachmodelle für Unternehmen

Sicherheitswarnung!

  • LLMs sind komplex, können aber ausgetrickst werden
  • Angreifer können schädliche Prompts auf Websites einbetten
    • Kann Ergebnisse von LLMs verzerren
  • Bekannt als Prompt-Injektion
  • Kann zu Rufschäden führen

Image of a read exclamation mark in a triangle indicating a security alert

Große Sprachmodelle für Unternehmen

Herausforderung mit LLMs

  • Viele Herausforderungen branchenspezifisch
  • Open Worldwide Application Security Project (OWASP)
    • Quantifizierung von Herausforderungen
  • Unternehmen müssen sich Probleme bewusst machen
  • Feinheiten von LLMs verstehen
  • Menschliche Aufsicht ist Pflicht
  • In Schulungen und Sicherheit investieren

Road sign showing a man jumping a hurdle with the words "Challenges Ahead"

1 https://owasp.org/
Große Sprachmodelle für Unternehmen

Lass uns üben!

Große Sprachmodelle für Unternehmen

Preparing Video For Download...