När bör du lita på LLM:er

Large Language Models för företag

Iason Prassides

Content Developer, DataCamp

Att maximera Duolingo

  • Duolingo Max
    • Använder ChatGPT för människoliknande konversationer

Bild på logotypen för produkten Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models för företag

Att maximera Duolingo

  • Duolingo Max
    • Använder ChatGPT för människoliknande konversationer
  • Inlärare övar språk
    • GPT antar olika personligheter
    • Ger omedelbar återkoppling

Bild som visar användning av Duolingo Max i en mobilapp

1 https://blog.duolingo.com/duolingo-max/
Large Language Models för företag

Att förstå LLM:er

  • Företagsledare måste verkligen förstå LLM:er
  • LLM:er är ingen magi!
    • Förutsäger ofta nästa del i en sekvens
  • De förstår inte språk som människor

Trollkarl med trollstav som utför trick

Large Language Models för företag

Sunt förnuft i LLM:er?

Man som håller upp en etikett med texten "common sense"

  • LLM:er saknar begrepp om vad som är "sant"
  • De saknar sunt förnuft
  • Mänsklig tillsyn är avgörande i varje användningsfall
  • Att enbart förlita sig på LLM:er kan leda till oönskade konsekvenser
Large Language Models för företag

Tillsyn av träningsdata

  • LLM:er är beroende av de data de tränats på
  • Bias och social orättvisa kan förstärkas av LLM:er
    • Granska svar för att identifiera skadliga utdata

Bild av staplar med mynt i olika höjder, med spelmarker i olika färger på toppen

Large Language Models för företag

Finns det bias?

  • LLM:er tränas på hatfulla kommentarer
    • Svaren blir också hatfulla
  • Datamängder med bias
    • Skapar LLM:er med systematisk outputbias
  • Kan leda till att fördomar, stereotyper eller desinformation sprids
  • Utvecklare har lagt till skyddsåtgärder mot detta
  • Företag måste vara medvetna och säkerställa skydd

Bild som visar ordet misinformation

Large Language Models för företag

Flexibilitet och dess konsekvenser

  • Samma prompt -> olika svar
  • Användbart i kreativa sammanhang, problematiskt i andra
  • Marknadsföringsteam skapar produktbeskrivningar med LLM:er:
    • Kunder ser olika beskrivningar
    • Varumärkets image kan skadas

Man som jämför två produkter i en butik – de ser likadana ut förutom förpackningens färg

Large Language Models för företag

Säkerhetsvarning!

  • LLM:er är komplexa men kan ändå luras
  • Angripare kan bädda in skadliga prompter på webbplatser
    • Kan snedvrida LLM:ers utdata
  • Kallas prompt injection
  • Kan leda till anseendeskador

Bild av ett rött utropstecken i en triangel som indikerar en säkerhetsvarning

Large Language Models för företag

Utmaningar med LLM:er

  • Många utmaningar är branschspecifika
  • Open Worldwide Application Security Project (OWASP)
    • Kartlägger utmaningar
  • Företag måste vara medvetna om riskerna
  • Måste förstå LLM:ernas komplexitet
  • Säkerställ mänsklig tillsyn
  • Investera i utbildning och säkerhet

Vägmärke med en man som hoppar ett hinder och texten "Challenges Ahead"

1 https://owasp.org/
Large Language Models för företag

Nu kör vi en övning!

Large Language Models för företag

Preparing Video For Download...