Tehnici de învățare

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Vidhi Chugh

AI strategist and ethicist

Unde ne aflăm?

Depășirea limitelor de date

 

• Ajustare fină: antrenarea unui model pre-antrenat pentru o sarcină specifică

 

• Dar ce facem când datele etichetate lipsesc sau sunt puține?

 

• Învățare N-shot: zero-shot, few-shot și multi-shot

Învățare prin transfer

• Învățare dintr-o sarcină și transfer la o sarcină înrudită
• Transfer de cunoștințe de la pian la chitară
  • Citirea notelor muzicale
  • Înțelegerea ritmului
  • Asimilarea conceptelor muzicale

• Învățare N-shot
  • Zero-shot – fără date specifice sarcinii
  • Few-shot – puține date specifice sarcinii
  • Multi-shot – date de antrenare relativ mai multe

Învățare zero-shot

• Fără antrenare explicită
• Folosește înțelegerea limbajului și contextul
• Generalizează fără exemple anterioare

¹ Freepik

Învățare few-shot

• Învățare dintr-un număr mic de exemple

• Învățare one-shot: ajustare dintr-un singur exemplu

• Cunoștințe anterioare pentru a răspunde la întrebări noi

Învățare multi-shot

• Necesită mai multe exemple decât few-shot

 

• Sarcini anterioare și exemple noi

 

• Exemplu: un model antrenat pe Golden Retriever

¹ Freepik

Învățare multi-shot

• Ieșire model: Labrador Retriever

 

• Economisește timp la colectarea și etichetarea datelor

 

• Fără compromisuri privind acuratețea

¹ Freepik

Elemente parcurse până acum

• Fluxul de pregătire a datelor

 

• Ajustare fină

 

• Tehnici de învățare N-shot

 

• Urmează: pre-antrenare

Să exersăm!

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)