Finjustering

Koncept inom stora språkmodeller (LLM)

Vidhi Chugh

AI strategist and ethicist

Var befinner vi oss?

Förloppsdiagram som visar att vi har nått finjusteringsstadiet

Koncept inom stora språkmodeller (LLM)

 

  • Förträning

En bild som representerar skolbarn som en analogi för förträning

          Grundskoleutbildning

 

  • Finjustering

En bild som representerar universitetsstudenter som en analogi för finjustering

        Universitetsspecialisering
1 Freepik
Koncept inom stora språkmodeller (LLM)

Utmaningar med "storhet"

  • Finjustering kan hjälpa
  • Kraftfulla datorer
  • Effektiva metoder för modellträning
  • Stora mängder träningsdata

En bild som visar datatillgång, träningstid och beräkningskraft som utmaningar vid byggande av LLM:er

Koncept inom stora språkmodeller (LLM)

Beräkningskraft

  • Minne

  • Processorkraft

  • Infrastruktur

  • Kostsamt

  • LLM:
    • 100 000-tals centrala processorer (CPU:er)
    • 10 000-tals grafikprocessorer (GPU:er)
  • En persondator: 4–8 CPU:er och 1–2 GPU:er

Man som arbetar vid en dator kopplad till en stor server

1 Freepik
Koncept inom stora språkmodeller (LLM)

Effektiv modellträning

Illustration som symboliserar en djupinlärningsmodell

  • Träningstiden är enorm

 

  • Kan ta veckor eller till och med månader

 

  • Effektiv modellträning = kortare träningstid

 

  • 355 års bearbetningstid på en enda GPU
Koncept inom stora språkmodeller (LLM)

Datatillgång

 

  • Behov av högkvalitativ data
  • För att lära sig språkets komplexitet och nyanser

  • Några hundra gigabyte (GB) textdata

    • Mer än en miljon böcker

  • Enorma datamängder

  Två högar med överfyllda mappar som symboliserar stora datamängder

Koncept inom stora språkmodeller (LLM)

Att övervinna utmaningarna

  • Finjustering
    • Hanterar en del av dessa utmaningar
    • Anpassar en förtränad modell

 

  • Förtränad modell
    • Tränad på generella datamängder
    • Inte optimerad för specifika uppgifter
    • Kan finjusteras för ett specifikt problem

Personer som arbetar vid en överdimensionerad laptop med verktyg och kugghjul för att symbolisera finjustering

Koncept inom stora språkmodeller (LLM)

Finjustering vs. förträning

  • Finjustering

  • Beräkning

    • 1–2 CPU:er och GPU:er

 

  • Träningstid
    • Timmar till dagar

 

  • Data
    • ~1 gigabyte

  • Förträning

  • Beräkning

    • Tusentals CPU:er och GPU:er

 

  • Träningstid
    • Veckor till månader

 

  • Data
    • Hundratals gigabyte
Koncept inom stora språkmodeller (LLM)

Nu kör vi en övning!

Koncept inom stora språkmodeller (LLM)

Preparing Video For Download...