Doladění

Koncepty velkých jazykových modelů (LLM)

Vidhi Chugh

AI strategist and ethicist

Kde jsme?

Graf průběhu ukazující, že jsme dosáhli fáze doladění

Koncepty velkých jazykových modelů (LLM)

 

  • Předtrénování

Obrázek žáků základní školy jako analogie předtrénování

          Školní vzdělávání

 

  • Doladění

Obrázek studentů vysoké školy jako analogie doladění

        Vysokoškolská specializace
1 Freepik
Koncepty velkých jazykových modelů (LLM)

Výzvy spojené s „velikostí"

  • Doladění může pomoci
  • Výkonné počítače
  • Efektivní metody trénování modelů
  • Velká množství trénovacích dat

Obrázek ukazující dostupnost dat, dobu trénování a výpočetní výkon jako výzvy při budování LLM

Koncepty velkých jazykových modelů (LLM)

Výpočetní výkon

  • Paměť

  • Výpočetní výkon

  • Infrastruktura

  • Nákladné

  • LLM:
    • Statisíce centrálních procesorů (CPU)
    • Desetitisíce grafických procesorů (GPU)
  • Osobní počítač: 4–8 CPU a 1–2 GPU

Muž pracující na počítači připojeném k velkému serveru

1 Freepik
Koncepty velkých jazykových modelů (LLM)

Efektivní trénování modelu

Ilustrace symbolizující model hlubokého učení

  • Trénování trvá velmi dlouho

 

  • Může trvat týdny až měsíce

 

  • Efektivní trénování = kratší doba trénování

 

  • 355 let výpočetního času na jednom GPU
Koncepty velkých jazykových modelů (LLM)

Dostupnost dat

 

  • Potřeba kvalitních dat
  • Pro pochopení složitostí a nuancí jazyka

  • Stovky gigabajtů (GB) textových dat

    • Více než milion knih

  • Obrovské množství dat

  Dvě přeplněné hromady složek symbolizující velká data

Koncepty velkých jazykových modelů (LLM)

Překonání výzev

  • Doladění
    • Řeší některé z těchto výzev
    • Přizpůsobuje předtrénovaný model

 

  • Předtrénovaný model
    • Natrénován na obecných datových sadách
    • Není optimalizován pro konkrétní úlohy
    • Lze doladit pro konkrétní problém

Lidé pracující na velkém notebooku s nástroji a ozubenými koly symbolizujícími doladění

Koncepty velkých jazykových modelů (LLM)

Doladění vs. předtrénování

  • Doladění

  • Výpočetní výkon

    • 1–2 CPU a GPU

 

  • Doba trénování
    • Hodiny až dny

 

  • Data
    • ~1 gigabajt

  • Předtrénování

  • Výpočetní výkon

    • Tisíce CPU a GPU

 

  • Doba trénování
    • Týdny až měsíce

 

  • Data
    • Stovky gigabajtů
Koncepty velkých jazykových modelů (LLM)

Pojďme si procvičit!

Koncepty velkých jazykových modelů (LLM)

Preparing Video For Download...