Mattoni per addestrare gli LLM

Concetti sui Large Language Models (LLM)

Vidhi Chugh

AI strategist and ethicist

Dove siamo?

Immagine che mostra i progressi di apprendimento come Pre-training

Concetti sui Large Language Models (LLM)

Pre-training generativo

 

  • Addestrati con pre-training generativo

    • Input di token di testo
    • Addestrati a prevedere i token nel dataset

 

  • Tipi:
    • Previsione della parola successiva
    • Masked language modeling
Concetti sui Large Language Models (LLM)

Previsione della parola successiva

  • Tecnica di apprendimento supervisionato
    • Modello addestrato su coppie input-output

 

  • Predice la parola successiva e genera testo coerente
  • Cattura le dipendenze tra parole

 

  • Dati di training
    • Coppie di esempi input-output

Suggerimento automatico di un motore di ricerca

Concetti sui Large Language Models (LLM)

Dati di training per la previsione della parola successiva

Input

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Output

fox

jumps

over

the

lazy

dog

Concetti sui Large Language Models (LLM)

Quale parola è più legata a pizza?

 

  • Più esempi = previsioni migliori

 

  • Per esempio:
    • I love to eat pizza with _ _ _ _ _ _

 

  • Cheese è più legato a pizza di qualsiasi altra cosa

Probabilità di associazione di diverse parole con la parola "Pizza"

Concetti sui Large Language Models (LLM)

Masked language modeling

  • Nasconde una parola selezionata

  • Il modello addestrato predice la parola mascherata

 

  • Testo originale: "The quick brown fox jumps over the lazy dog."

  • Testo mascherato: "The quick [MASK] fox jumps over the lazy dog."

 

  • Obiettivo: prevedere la parola mancante

  • In base a quanto imparato dai dati di training

Concetti sui Large Language Models (LLM)

Ayo berlatih!

Concetti sui Large Language Models (LLM)

Preparing Video For Download...