LLM:ers nyhet

Koncept inom stora språkmodeller (LLM)

Vidhi Chugh

AI strategist and ethicist

Att använda textdata

En bild som visar sentimentanalys, skräppostidentifiering och digitala assistenter

  • Ostrukturerad data – rörig och inkonsekvent
1 Freepik
Koncept inom stora språkmodeller (LLM)

Maskiner förstår inte språk!

En bild som visar att datorer inte kan tolka språk som det är

1 Freepik
Koncept inom stora språkmodeller (LLM)

Behovet av NLP

 

En bild som visar NLP som bryggan mellan text och tal som datorn sedan förstår

1 Freepik
Koncept inom stora språkmodeller (LLM)

LLM:ers unika förmågor

 

  • Språkliga nyanser
    • Ironi
    • Humor
    • Ordvitsar
    • Sarkasm
    • Intonation
    • Avsikt

En person som står med ett urklipp och pekar på generisk text och ett stort frågetecken

1 Freepik
Koncept inom stora språkmodeller (LLM)

Vilken är din favoritbok?

 

  • Naturligt svar: "Oh, that's a tough one!"

 

  • Personlig åsikt: "My all-time favorite book is To Kill a Mockingbird by Harper Lee."

 

  • Stödjande påstående: "It's a powerful story about prejudice, justice, and the human experience."

 

  • Följdfråga: "Have you read it?"
Koncept inom stora språkmodeller (LLM)

Språkliga nyanser

Sarkasm: "Oh great, another meeting."

Traditionell språkmodell:

  • Svar: "What's the meeting about?"
    • Neutral
    • Uppfattar inte sarkasm

 

Stor språkmodell:

  • Svar: "Sounds like you're looking forward to it!"
    • Lekfull
    • Engagerande
    • Matchar sarkasmen
Koncept inom stora språkmodeller (LLM)

Hur förstår LLM:er

 

  • Tränad på enorma mängder data

  • LLM:ers storlek: parametrar

  • Parametrar representerar mönster och regler

  • Fler parametrar -> komplexa mönster

  • Genererar sofistikerade och korrekta svar

Koncept inom stora språkmodeller (LLM)

Parametrar

 

  • Få klossar -> begränsade konstruktioner

En bild som visar ett litet antal klossar

 

  • Fler klossar -> komplexa och detaljerade konstruktioner

En bild som visar ett stort antal klossar

Koncept inom stora språkmodeller (LLM)

Framväxt av nya förmågor

 

  • Emergenta förmågor
    • förekommer bara i storskaliga modeller

 

  • Skala:

    • Volymen träningsdata
    • Antalet modellparametrar

 

Graf som visar en plötslig förbättring av modellens prestanda när modellens skala överstiger ett tröskelv­ärde

Koncept inom stora språkmodeller (LLM)

Framväxt av nya förmågor

 

En bild som visar nya förmågor som musikskapande, poesi, kodgenerering, medicinsk diagnostik och behandlingsgrupper

Koncept inom stora språkmodeller (LLM)

LLM:ers byggstenar

LLM:ers byggstenar

Koncept inom stora språkmodeller (LLM)

Sammanfattning

LLM:er:

  • Hanterar datas ostrukturerade natur

 

  • Överträffar traditionella modeller

 

  • Förstår språkliga nyanser

Hur?

  • LLM:ers "storlek"
  • Omfattande träningsdata
  • Många parametrar
  • Emergenta förmågor
Koncept inom stora språkmodeller (LLM)

Nu kör vi en övning!

Koncept inom stora språkmodeller (LLM)

Preparing Video For Download...