Noutatea LLM-urilor

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Vidhi Chugh

AI strategist and ethicist

Utilizarea datelor text

O imagine care prezintă analiza sentimentelor, detectarea spam-ului și asistenți digitali

  • Date nestructurate - dezordonate și inconsistente
1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Mașinile nu înțeleg limbajul!

O imagine care arată incapacitatea calculatorului de a interpreta limbajul ca atare

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Necesitatea NLP

 

O imagine care prezintă NLP ca punte între text și numere, înțelese apoi de calculator

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Capacități unice ale LLM-urilor

 

  • Subtilități lingvistice
    • Ironie
    • Umor
    • Joc de cuvinte
    • Sarcasm
    • Intonație
    • Intenție

O persoană cu un clipboard care indică un text generic și un semn de întrebare mare

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Care este cartea dumneavoastră preferată?

 

  • Răspuns natural: „Oh, asta e o întrebare grea!"

 

  • Opinie personală: „Cartea mea preferată din toate timpurile este Să ucizi o pasăre cântătoare de Harper Lee."

 

  • Afirmație de susținere: „Este o poveste puternică despre prejudecată, dreptate și condiția umană."

 

  • Întrebare de continuare: „Ați citit-o?"
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Subtilități lingvistice

Sarcasm: „Oh, minunat, o altă ședință."

Model lingvistic tradițional:

  • Răspuns: „Despre ce este ședința?"
    • Neutru
    • Nu detectează sarcasticul

 

Model lingvistic de mari dimensiuni:

  • Răspuns: „Se pare că abia așteptați!"
    • Jucăuș
    • Antrenant
    • Reflectă sarcasticul
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Cum înțeleg LLM-urile

 

  • Antrenat pe cantități mari de date

  • Dimensiunea LLM-urilor: parametri

  • Parametrii reprezintă tipare și reguli

  • Mai mulți parametri -> tipare complexe

  • Generează răspunsuri sofisticate și precise

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Parametri

 

  • Număr mic de piese -> structuri limitate

O imagine cu un număr mic de blocuri

 

  • Număr mare de piese -> structuri complexe și detaliate

O imagine cu un număr mare de piese

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Apariția de noi capacități

 

  • Capacități emergente
    • prezente doar în modele la scară mare

 

  • Scară:

    • Volumul datelor de antrenament
    • Numărul de parametri ai modelului

 

Grafic care arată îmbunătățirea bruscă a performanței modelului când scara depășește un prag de tranziție

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Apariția de noi capacități

 

O imagine cu noi capacități precum muzică, poezie, generare de cod, diagnostic medical și grupuri de tratament

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Elementele constitutive ale LLM-urilor

Elementele constitutive ale LLM-urilor

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Recapitulare

LLM-urile:

  • Depășesc natura nestructurată a datelor

 

  • Surclasează modelele tradiționale

 

  • Înțeleg subtilitățile lingvistice

Cum?

  • „Dimensiunea" LLM-urilor
  • Date de antrenament extinse
  • Număr mare de parametri
  • Capacități emergente
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Să exersăm!

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preparing Video For Download...