Kekhawatiran etis dan lingkungan

Konsep Large Language Models (LLM)

Vidhi Chugh

AI strategist and ethicist

Kekhawatiran etis

  • Risiko transparansi

Risiko transparansi

Konsep Large Language Models (LLM)

Kekhawatiran etis

  • Risiko transparansi
  • Risiko akuntabilitas -

Risiko transparansi dan akuntabilitas

Konsep Large Language Models (LLM)

Kekhawatiran etis

  • Risiko transparansi

  • Risiko akuntabilitas

  • Bahaya informasi

Tiga kekhawatiran etis: transparansi, akuntabilitas, bahaya informasi

Konsep Large Language Models (LLM)

Risiko transparansi

  • Sulit memahami keluaran

 

  • Sulit mengidentifikasi masalah
    • Bias
    • Kesalahan
    • Penyalahgunaan
  • Kotak hitam

 

  • Contoh: alasan di balik prediksi hasil penyakit

Bias, kesalahan, atau penyalahgunaan keluaran LLM

Konsep Large Language Models (LLM)

Risiko akuntabilitas

  • Tanggung jawab atas tindakan LLM

 

  • Siapa yang bertanggung jawab?
    • Saran yang salah dan merugikan
    • Pengembang model atau perusahaannya?

 

  • Permainan tanpa aturan
    • Tanpa transparansi
    • Tanpa akuntabilitas

 

Akuntabilitas pengembang atau entitas yang menerapkan LLM

1 Freepik
Konsep Large Language Models (LLM)

Bahaya informasi

Bahaya informasi Menyebarkan informasi berbahaya

  • Pembuatan konten berbahaya
  • Penyebaran misinformasi
  • Penggunaan jahat
  • Toksisitas
Konsep Large Language Models (LLM)

Bahaya informasi

 

Pembuatan konten berbahaya

  • Berbahaya, menyinggung, atau tidak pantas

 

  • Karena prompt atau data latih yang bias

 

  • Contoh:
    • Perundungan vs. lingkungan sekolah yang ramah
    • Mengganggu dan berbahaya

 

Penyebaran misinformasi

  • Dapat membuat teks tentang topik apa pun

 

  • Namun, tanpa verifikasi!

 

  • Contoh:
    • "Diet yang baik untuk menurunkan berat badan?"
    • Rencana diet tanpa dasar
Konsep Large Language Models (LLM)

Bahaya informasi

 

Penggunaan jahat

  • Aktor beritikad buruk mengeksploitasi LLM

 

  • Membuat konten menipu

 

  • Contoh:
    • Berita palsu
    • Manipulasi publik dan memicu keresahan

 

Toksisitas

  • Konten tidak pantas

 

  • Dari pelatihan atau prompt yang dimanipulasi

 

  • Contoh:
    • Respons tidak sensitif
    • Stereotip
Konsep Large Language Models (LLM)

Kekhawatiran lingkungan

 

  • Jejak ekologis LLM

 

  • Butuh energi besar untuk pelatihan

 

  • Dampak melalui emisi karbon

Mengurangi emisi karbon

1 Freepik
Konsep Large Language Models (LLM)

Pendinginan juga butuh listrik!

  • Menghasilkan panas besar yang perlu didinginkan

 

  • Bayangkan ribuan laptop kepanasan
    • Butuh sistem pendingin kompleks
    • Menambah dampak lingkungan

 

  • Menyeimbangkan biaya dan manfaat
    • Gunakan energi terbarukan
    • Teknologi hemat energi

 

Gambar yang menggambarkan keseimbangan antara biaya lingkungan dan inovasi teknologi

1 Freepik
Konsep Large Language Models (LLM)

Ayo berlatih!

Konsep Large Language Models (LLM)

Preparing Video For Download...