Stavební bloky pro trénink LLM

Koncepty velkých jazykových modelů (LLM)

Vidhi Chugh

AI strategist and ethicist

Kde se nacházíme?

Obrázek znázorňující průběh učení jako předtrénování

Koncepty velkých jazykových modelů (LLM)

Generativní předtrénování

 

  • Trénink generativním předtrénováním

    • Vstupní data textových tokenů
    • Trénink k predikci tokenů v datasetu

 

  • Typy:
    • Predikce dalšího slova
    • Maskované jazykové modelování
Koncepty velkých jazykových modelů (LLM)

Predikce dalšího slova

  • Technika učení s učitelem
    • Model trénovaný na dvojicích vstup-výstup

 

  • Předpovídá další slovo a generuje souvislý text
  • Zachycuje závislosti mezi slovy

 

  • Trénovací data
    • Dvojice vstupních a výstupních příkladů

Automatický návrh vyhledávače

Koncepty velkých jazykových modelů (LLM)

Trénovací data pro predikci dalšího slova

Vstup

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Výstup

fox

jumps

over

the

lazy

dog

Koncepty velkých jazykových modelů (LLM)

Které slovo souvisí s pizzou nejvíc?

 

  • Více příkladů = lepší predikce

 

  • Například:
    • Rád jím pizzu se _ _ _ _ _ _

 

  • Sýr souvisí s pizzou víc než cokoli jiného

Pravděpodobnosti asociace různých slov se slovem "Pizza"

Koncepty velkých jazykových modelů (LLM)

Maskované jazykové modelování

  • Skryje vybrané slovo

  • Natrénovaný model maskované slovo předpoví

 

  • Původní text: "The quick brown fox jumps over the lazy dog."

  • Maskovaný text: "The quick [MASK] fox jumps over the lazy dog."

 

  • Cíl: předpovědět chybějící slovo

  • Na základě poznatků z trénovacích dat

Koncepty velkých jazykových modelů (LLM)

Pojďme procvičovat!

Koncepty velkých jazykových modelů (LLM)

Preparing Video For Download...