Elementele de bază pentru antrenarea LLM-urilor

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Vidhi Chugh

AI strategist and ethicist

Unde ne aflăm?

Imagine care ilustrează progresul învățării ca pre-antrenare

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Pre-antrenare generativă

 

  • Antrenat prin pre-antrenare generativă

    • Date de intrare sub formă de token-uri text
    • Antrenat să prezică token-urile din set de date

 

  • Tipuri:
    • Predicția cuvântului următor
    • Modelarea limbajului prin mascare
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Predicția cuvântului următor

  • Tehnică de învățare supravegheată
    • Modelul este antrenat pe perechi intrare-ieșire

 

  • Prezice cuvântul următor și generează text coerent
  • Surprinde dependențele dintre cuvinte

 

  • Date de antrenare
    • Perechi de exemple de intrare și ieșire

Sugestii automate ale unui motor de căutare

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Date de antrenare pentru predicția cuvântului următor

Intrare

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Ieșire

fox

jumps

over

the

lazy

dog

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Ce cuvânt se asociază mai mult cu pizza?

 

  • Mai multe exemple = predicții mai bune

 

  • De exemplu:
    • Îmi place să mănânc pizza cu _ _ _ _ _ _

 

  • Brânza este mai asociată cu pizza decât orice altceva

Probabilitățile de asociere a diferitelor cuvinte cu cuvântul „Pizza"

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Modelarea limbajului prin mascare

  • Ascunde un cuvânt selectat

  • Modelul antrenat prezice cuvântul mascat

 

  • Text original: „The quick brown fox jumps over the lazy dog."

  • Text mascat: „The quick [MASK] fox jumps over the lazy dog."

 

  • Obiectiv: prezicerea cuvântului lipsă

  • Pe baza informațiilor din datele de antrenare

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Să exersăm!

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preparing Video For Download...