Fine-tuning

Concepten van Large Language Models (LLM's)

Vidhi Chugh

AI strategist and ethicist

Waar staan we?

Voortgangsgrafiek die laat zien dat we bij de fine-tuningfase zijn

Concepten van Large Language Models (LLM's)

 

  • Pre-training

Een afbeelding met schoolkinderen als analogie voor pre-training

          Schoolopleiding

 

  • Fine-tuning

Een afbeelding met studenten als analogie voor fine-tuning

        Universitaire specialisatie
1 Freepik
Concepten van Large Language Models (LLM's)

Uitdagingen van "grootte"

  • Fine-tuning kan helpen
  • Krachtige computers
  • Efficiënte trainingsmethoden voor modellen
  • Grote hoeveelheden trainingsdata

Een afbeelding met data, traintijd en rekenkracht als uitdagingen bij het bouwen van LLMs

Concepten van Large Language Models (LLM's)

Rekenkracht

  • Geheugen

  • Verwerkingskracht

  • Infrastructuur

  • Duur

  • LLM:
    • honderdduizenden Central Processing Units (CPU's)
    • tienduizenden Graphic Processing Units (GPU's)
  • Een pc: 4–8 CPU en 1–2 GPU's

Man die werkt op een computer aangesloten op een grote server

1 Freepik
Concepten van Large Language Models (LLM's)

Efficiënt model trainen

Illustratie die een deep learning-model symboliseert

  • Trainingstijd is enorm

 

  • Duurt weken tot maanden

 

  • Efficiënt trainen = snellere training

 

  • 355 jaar rekentijd op één GPU
Concepten van Large Language Models (LLM's)

Beschikbaarheid van data

 

  • Hoogwaardige data nodig
  • Om de complexiteit en subtiliteit van taal te leren

  • Enkele honderden gigabyte (GB) aan tekstdata

    • Meer dan een miljoen boeken

  • Enorme hoeveelheid data

  Twee stapels uitpuilende mappen als symbool voor veel data

Concepten van Large Language Models (LLM's)

De uitdagingen overwinnen

  • Fine-tuning
    • Pakt sommige van deze uitdagingen aan
    • Past een voorgetraind model aan

 

  • Voorgetraind model
    • Getraind op algemene gegevenssets
    • Niet geoptimaliseerd voor specifieke taken
    • Is te fine-tunen voor een specifiek probleem

Mensen werken aan een oversized laptop met gereedschap en tandwielen als symbool voor fine-tuning

Concepten van Large Language Models (LLM's)

Fine-tuning vs. pre-training

  • Fine-tuning

  • Compute

    • 1–2 CPU en GPU

 

  • Trainingstijd
    • Uren tot dagen

 

  • Data
    • ~1 gigabyte

  • Pre-training

  • Compute

    • Duizenden CPU's en GPU's

 

  • Trainingstijd
    • Weken tot maanden

 

  • Data
    • Honderden gigabytes
Concepten van Large Language Models (LLM's)

Laten we oefenen!

Concepten van Large Language Models (LLM's)

Preparing Video For Download...