Novità degli LLM

Concetti sui Large Language Models (LLM)

Vidhi Chugh

AI strategist and ethicist

Uso dei dati testuali

Un'immagine che mostra analisi del sentiment, rilevamento spam e assistenti digitali

  • Dati non strutturati: disordinati e incoerenti
1 Freepik
Concetti sui Large Language Models (LLM)

Le macchine non capiscono il linguaggio!

Un'immagine che mostra l'incapacità di un computer di interpretare il linguaggio così com'è

1 Freepik
Concetti sui Large Language Models (LLM)

Perché serve l'NLP

 

Un'immagine che mostra l'NLP come ponte tra testo e numeri poi compresi dal computer

1 Freepik
Concetti sui Large Language Models (LLM)

Capacità uniche degli LLM

 

  • Sfumature linguistiche
    • Ironia
    • Umorismo
    • Giochi di parole
    • Sarcasmo
    • Intonazione
    • Intento

Una persona con una clipboard indica del testo generico e un grande punto interrogativo

1 Freepik
Concetti sui Large Language Models (LLM)

Qual è il tuo libro preferito?

 

  • Risposta naturale: "Oh, questa è tosta!"

 

  • Opinione personale: "Il mio libro preferito di sempre è Il buio oltre la siepe di Harper Lee."

 

  • Frase di supporto: "È una storia potente su pregiudizio, giustizia ed esperienza umana."

 

  • Domanda di follow-up: "L'hai letto?"
Concetti sui Large Language Models (LLM)

Sfumature linguistiche

Sarcasmo: "Oh fantastico, un'altra riunione."

Modello linguistico tradizionale:

  • Risposta: "Di cosa parla la riunione?"
    • Neutrale
    • Non coglie il sarcasmo

 

Large language model:

  • Risposta: "Sembra che non vedi l'ora!"
    • Giocosa
    • Coinvolgente
    • Rispecchia il sarcasmo
Concetti sui Large Language Models (LLM)

Come capiscono gli LLM

 

  • Addestrati su enormi quantità di dati

  • Grandezza degli LLM: parametri

  • I parametri catturano schemi e regole

  • Più parametri -> schemi più complessi

  • Generano risposte sofisticate e accurate

Concetti sui Large Language Models (LLM)

Parametri

 

  • Pochi mattoncini -> strutture limitate

Un'immagine con un piccolo numero di blocchi

 

  • Più mattoncini -> strutture complesse e dettagliate

Un'immagine con un grande numero di blocchi

Concetti sui Large Language Models (LLM)

Emergenza di nuove capacità

 

  • Abilità emergenti
    • presenti solo in modelli su larga scala

 

  • Scala:

    • Volume dei dati di training
    • Numero di parametri del modello

 

Grafico che mostra un miglioramento improvviso delle prestazioni quando la scala del modello supera una soglia di transizione

Concetti sui Large Language Models (LLM)

Emergenza di nuove capacità

 

Un'immagine che mostra nuove capacità come musica, poesia, generazione di codice, diagnosi e trattamento medici

Concetti sui Large Language Models (LLM)

Componenti degli LLM

Componenti degli LLM

Concetti sui Large Language Models (LLM)

Ricapitolando

LLM:

  • Superano la natura non strutturata dei dati

 

  • Superano i modelli tradizionali

 

  • Capi­scono le sfumature linguistiche

Come?

  • La "grandezza" degli LLM
  • Dati di training estesi
  • Molti parametri
  • Abilità emergenti
Concetti sui Large Language Models (LLM)

Ayo berlatih!

Concetti sui Large Language Models (LLM)

Preparing Video For Download...