Kapan Anda dapat memercayai LLM

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Memaksimalkan Duolingo

  • Duolingo Max
    • Memakai ChatGPT untuk percakapan seperti manusia

Logo produk Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Memaksimalkan Duolingo

  • Duolingo Max
    • Memakai ChatGPT untuk percakapan seperti manusia
  • Pembelajar berlatih bahasa
    • GPT berperan dengan berbagai kepribadian
    • Memberi umpan balik instan

Contoh penggunaan Duolingo Max pada aplikasi ponsel

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Memahami LLM

  • Pimpinan bisnis harus benar-benar memahami LLM
  • LLM bukan sihir!
    • Sering hanya menebak kelanjutan urutan
  • Tidak memahami bahasa seperti manusia

Pesulap dengan tongkat melakukan trik

Large Language Models for Business

Akal sehat pada LLM?

Pria memegang label bertuliskan "akal sehat"

  • LLM tidak punya konsep tentang apa itu "benar"
  • Kurang akal sehat
  • Pengawasan manusia penting di setiap kasus penggunaan
  • Mengandalkan LLM sepenuhnya bisa berdampak buruk
Large Language Models for Business

Pengawasan pelatihan

  • LLM bergantung pada data pelatihannya
  • Bias atau ketidakadilan sosial bisa diperkuat oleh LLM
    • Tinjau respons untuk mendeteksi keluaran berbahaya

Tumpukan koin dengan tinggi berbeda, tiap tumpukan bertopang pion permainan berwarna berbeda

Large Language Models for Business

Apakah ada bias?

  • LLM dapat terlatih dari komentar penuh kebencian
    • Responsnya juga bisa jadi penuh kebencian
  • Dataset yang mengandung bias
    • Melahirkan LLM dengan bias keluaran sistemik
  • Dapat mempertahankan prasangka, stereotip, atau misinformasi
  • Pengembang menambahkan langkah pencegahan
  • Bisnis harus waspada dan memastikan pengaman

Gambar bertuliskan misinformation

Large Language Models for Business

Fleksibilitas dan dampaknya

  • Prompt sama -> respons berbeda
  • Berguna untuk kreasi, bermasalah untuk lainnya
  • Tim pemasaran membuat deskripsi produk dengan LLM:
    • Pelanggan melihat deskripsi berbeda
    • Citra merek bisa rusak

Pria membandingkan dua produk di supermarket yang tampak sama kecuali warna kemasannya

Large Language Models for Business

Peringatan keamanan!

  • LLM kompleks namun tetap bisa dikelabui
  • Penyerang dapat menanam prompt berbahaya di situs web
    • Dapat menyimpangkan keluaran LLM
  • Disebut prompt injection
  • Bisa merusak reputasi

Tanda seru merah dalam segitiga, menandakan peringatan keamanan

Large Language Models for Business

Tantangan dengan LLM

  • Banyak tantangan bersifat spesifik industri
  • Open Worldwide Application Security Project (OWASP)
    • Mengukur tantangan
  • Bisnis harus memahami isu-isu ini
  • Perlu memahami seluk-beluk LLM
  • Pastikan pengawasan manusia
  • Investasi pada pelatihan dan keamanan

Rambu jalan bergambar orang melompati rintangan bertuliskan "Challenges Ahead"

1 https://owasp.org/
Large Language Models for Business

Ayo berlatih!

Large Language Models for Business

Preparing Video For Download...