Vart är LLM:er på väg?

Koncept inom stora språkmodeller (LLM)

Vidhi Chugh

AI strategist and ethicist

Resan hittills

Grunderna i LLM:er

Koncept inom stora språkmodeller (LLM)

Resan hittills

LLM:ers tillämpningar inom NLP

Koncept inom stora språkmodeller (LLM)

Resan hittills

Träningsprocesser med hänsyn till data, etik och miljöpåverkan

Koncept inom stora språkmodeller (LLM)

Resan hittills

LLM:ers framtid

Koncept inom stora språkmodeller (LLM)

Modellförklarbarhet

 

  • Hur når de fram till sina svar?

 

  • Planering av en bilresa
    • Varför just den här rutten?
    • Varför just de här platserna?

 

  • Bygger förtroende och transparens
  • Identifiera och korrigera snedvridningar eller fel

 

Förtroende och förklarbarhet

1 Freepik
Koncept inom stora språkmodeller (LLM)

Effektivitet

  • Beräkningseffektivitet

    • Hög kvalitet med mindre beräkningskraft
  • Snabbare och effektivare

    • Modellkomprimering
    • Optimering
  • Fördelar: bättre lagring, lägre energiförbrukning

  • Tillgänglighet och hållbarhet

    • Främjar grön AI
    • Sänker driftskostnader

Effektivitet

1 Freepik
Koncept inom stora språkmodeller (LLM)

Oövervakad hantering av snedvridning

  • Snedvriden data -> diskriminering

  • Oövervakad hantering av snedvridning

    • Tekniker för att upptäcka och minska snedvridning, automatiskt
    • Kräver ingen manuellt märkt data
    • Identifierar och minskar snedvridning via mönsteranalys
  • Utmaning

    • Subtil, svår att upptäcka
    • Kan introducera nya snedvridningar

Övervakning

Koncept inom stora språkmodeller (LLM)

Förstärkt kreativitet

  • Kreativitet inom text och visuell konst
  • Konstnärligt innehåll: inlärda mönster, inte känslomässig förståelse
  • Saknar mänsklig förmåga att förstå konst och känslor
  • Visar mänskligt emotionellt beteende
  • Framtiden: inferens av känslor

Fyra bilder genererade av AI

1 https://arxiv.org/pdf/2302.09582.pdf
Koncept inom stora språkmodeller (LLM)

Nu kör vi en övning!

Koncept inom stora språkmodeller (LLM)

Preparing Video For Download...