Wanneer kun je LLM’s vertrouwen?

Large Language Models voor het bedrijfsleven

Iason Prassides

Content Developer, DataCamp

Duolingo maximaliseren

  • Duolingo Max
    • Gebruikt ChatGPT voor mensachtige gesprekken

Logo van het product Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models voor het bedrijfsleven

Duolingo maximaliseren

  • Duolingo Max
    • Gebruikt ChatGPT voor mensachtige gesprekken
  • Learners oefenen talen
    • GPT neemt verschillende persoonlijkheden aan
    • Geeft directe feedback

Gebruik van Duolingo Max in een mobiele app

1 https://blog.duolingo.com/duolingo-max/
Large Language Models voor het bedrijfsleven

LLM’s begrijpen

  • Leiders moeten LLM’s echt begrijpen
  • LLM’s zijn geen magie!
    • Ze voorspellen vaak het volgende deel van een reeks
  • Ze begrijpen taal niet zoals mensen

Goochelaar die met een toverstaf trucs doet

Large Language Models voor het bedrijfsleven

Gezond verstand in LLM’s?

Man die een label omhoog houdt met “gezond verstand” erop

  • LLM’s kennen geen “waarheid”
  • Ze missen gezond verstand
  • Menselijke controle is cruciaal bij elk gebruik
  • Alleen op LLM’s leunen kan ongewenste gevolgen hebben
Large Language Models voor het bedrijfsleven

Toezicht bij training

  • LLM’s hangen af van hun trainingsdata
  • Vooringenomenheid of onrecht kan worden versterkt
    • Check antwoorden om schadelijke output te vinden

Stapels munten van verschillende hoogte met pionnen erop

Large Language Models voor het bedrijfsleven

Is er bias?

  • LLM’s trainen ook op haatdragende reacties
    • Antwoorden kunnen dan ook haatdragend zijn
  • Datasets met bias
    • Leiden tot systematische output-bias
  • Kan vooroordelen, stereotypen of desinformatie bestendigen
  • Ontwikkelaars hebben maatregelen toegevoegd
  • Bedrijven moeten dit kennen en waarborgen instellen

Afbeelding met het woord misinformation

Large Language Models voor het bedrijfsleven

Flexibiliteit en gevolgen

  • Zelfde prompt -> andere antwoorden
  • Handig voor creativiteit, risicovol elders
  • Marketing maakt productbeschrijving met LLM’s:
    • Klanten zien verschillende beschrijvingen
    • Merkimago kan schade oplopen

Man die in de supermarkt naar twee ogenschijnlijk gelijke producten kijkt, alleen de kleur van de verpakking verschilt

Large Language Models voor het bedrijfsleven

Beveiligingsalert!

  • LLM’s zijn complex maar te misleiden
  • Aanvallers kunnen schadelijke prompts op websites plaatsen
    • Verstoort de output van LLM’s
  • Dit heet prompt injection
  • Kan reputatieschade veroorzaken

Rood uitroepteken in een driehoek als beveiligingswaarschuwing

Large Language Models voor het bedrijfsleven

De uitdaging met LLM’s

  • Veel uitdagingen zijn sectorspecifiek
  • Open Worldwide Application Security Project (OWASP)
    • Maakt uitdagingen inzichtelijk
  • Bedrijven moeten de risico’s kennen
  • Begrijp de complexiteit van LLM’s
  • Zorg voor menselijk toezicht
  • Investeer in training en security

Verkeersbord met een man die een horde neemt en de tekst “Challenges Ahead”

1 https://owasp.org/
Large Language Models voor het bedrijfsleven

Laten we oefenen!

Large Language Models voor het bedrijfsleven

Preparing Video For Download...