Förklarbarhet hos LLM:er

Förklarbar artificiell intelligens (XAI) – Koncept

Folkert Stijnman

ML Engineer

Large Language Models (LLM:er)

  • Förstår, genererar och tolkar mänskligt språk
  • ChatGPT, Bard
  • Tränade på stora mängder textdata
  • Skriver artiklar, poesi, kod
  • Hur förstår vi dess beslut?

 

en grafik över en LLM

Förklarbar artificiell intelligens (XAI) – Koncept

LLM:er och förklarbarhet

grafik som visar hur data matas in i en large language model och hur modellen tar emot promptar

  • Komplex på grund av:
    • Djup och skala hos neurala nätverkslager i modellen
    • Stora mängder text, dvs. terabyte med data
Förklarbar artificiell intelligens (XAI) – Koncept

Metoder för förklarbarhet hos LLM:er

Skaparen

  • Transparens i träningsdata
  • Använd enklare modeller
  • Inkludera mänsklig feedback

Slutanvändaren

  • Självförklaring
  • Justera indata
Förklarbar artificiell intelligens (XAI) – Koncept

Framtida användning av LLM:er

  • Ökad förklarbarhet förblir ett krav
  • Bygger förtroende och tillit

en grafik som föreställer en hjärna med olika aspekter av språkbehandling

Förklarbar artificiell intelligens (XAI) – Koncept

Nu kör vi en övning!

Förklarbar artificiell intelligens (XAI) – Koncept

Preparing Video For Download...