Kebaruan LLM

Konsep Large Language Models (LLM)

Vidhi Chugh

AI strategist and ethicist

Menggunakan data teks

Gambar yang menampilkan analisis sentimen, deteksi spam, dan asisten digital

  • Data tidak terstruktur - berantakan dan tidak konsisten
1 Freepik
Konsep Large Language Models (LLM)

Mesin tidak memahami bahasa!

Gambar yang menunjukkan komputer tidak mampu menafsirkan bahasa apa adanya

1 Freepik
Konsep Large Language Models (LLM)

Kebutuhan akan NLP

 

Gambar yang menampilkan NLP sebagai jembatan antara teks dan angka yang dipahami komputer

1 Freepik
Konsep Large Language Models (LLM)

Kemampuan unik LLM

 

  • Kehalusan bahasa
    • Ironi
    • Humor
    • Pelesetan
    • Sarkasme
    • Intonasi
    • Niat

Seseorang berdiri dengan papan catatan menunjuk teks umum dan tanda tanya besar

1 Freepik
Konsep Large Language Models (LLM)

Apa buku favorit Anda?

 

  • Respons alami: "Wah, itu susah!"

 

  • Opini pribadi: "Buku favorit saya sepanjang masa adalah To Kill a Mockingbird karya Harper Lee."

 

  • Pernyataan pendukung: "Itu kisah kuat tentang prasangka, keadilan, dan pengalaman manusia."

 

  • Pertanyaan lanjutan: "Sudah membacanya?"
Konsep Large Language Models (LLM)

Kehalusan bahasa

Sarkasme: "Wah hebat, rapat lagi."

Model bahasa tradisional:

  • Respons: "Rapatnya tentang apa?"
    • Netral
    • Tidak menangkap sarkasme

 

Model bahasa besar:

  • Respons: "Sepertinya Anda tak sabar menantikannya!"
    • Main-main
    • Menarik
    • Selaras dengan sarkasme
Konsep Large Language Models (LLM)

Bagaimana LLM memahami

 

  • Dilatih pada data dalam jumlah sangat besar

  • Kebesaran LLM: parameter

  • Parameter mewakili pola dan kaidah

  • Lebih banyak parameter -> pola lebih kompleks

  • Menghasilkan respons canggih dan akurat

Konsep Large Language Models (LLM)

Parameter

 

  • Bata sedikit -> struktur terbatas

Gambar yang menampilkan sedikit balok

 

  • Bata lebih banyak -> struktur kompleks dan detail

Gambar yang menampilkan banyak balok

Konsep Large Language Models (LLM)

Munculnya kemampuan baru

 

  • Kemampuan emergen
    • hanya ada pada model skala besar

 

  • Skala:

    • Volume data pelatihan
    • Jumlah parameter model

 

Grafik yang menunjukkan peningkatan mendadak kinerja model saat skala meningkat melewati ambang transisi

Konsep Large Language Models (LLM)

Munculnya kemampuan baru

 

Gambar yang menampilkan kemampuan baru seperti musik, puisi, pembuatan kode, diagnosis dan perawatan medis

Konsep Large Language Models (LLM)

Komponen LLM

Komponen pembangun LLM

Konsep Large Language Models (LLM)

Ringkasan

LLM:

  • Mengatasi sifat data yang tidak terstruktur

 

  • Melampaui model tradisional

 

  • Memahami kehalusan bahasa

Bagaimana?

  • "Kebesaran" LLM
  • Data pelatihan luas
  • Banyak parameter
  • Kemampuan emergen
Konsep Large Language Models (LLM)

Ayo berlatih!

Konsep Large Language Models (LLM)

Preparing Video For Download...