Kekhawatiran bisnis, operasional, dan etika

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Transparansi

  • Transparansi tentang LLM
  • Bisnis harus tahu bagaimana LLM menghasilkan jawaban
  • Penting untuk membangun kepercayaan

Kata "Truth" dan "Trust" disusun dengan balok kayu

Large Language Models for Business

Akuntabilitas

Gambar menunjukkan figur kayu membentuk lingkaran, dengan satu figur berwarna berbeda di tengah

  • Jika rekomendasi LLM tidak berhasil
    • Siapa yang bertanggung jawab?
  • Pengembang perangkat lunak yang merancang model?
  • Perusahaan yang menerapkannya?
Large Language Models for Business

Risiko pada LLM

  • Ada risiko bawaan menyebarkan misinformasi
  • Dampaknya bagi bisnis, termasuk:
    • Keputusan berbasis data yang keliru
    • Mengganggu laba
    • Merusak reputasi
  • Bahaya LLM dipersenjatai:
    • Menipu, memanipulasi, menyesatkan pemangku kepentingan
    • Menimbulkan risiko reputasi dan operasional

Kartun pria berdiri di atas balok bertuliskan "Risk" sambil mengukur tinggi risikonya

Large Language Models for Business

LLM dan lingkungan

  • Daya komputasi untuk melatih LLM memerlukan energi besar
  • Menimbulkan jejak karbon tinggi
  • Bisnis harus memahami dan mengurangi dampak lingkungan

Tangan robot memegang Bumi, dengan pohon tumbuh di atasnya

Large Language Models for Business

Cara membangun LLM?

  • Ada pertimbangan praktis bagi bisnis
  • Bangun LLM internal atau pakai penyedia pihak ketiga?
Large Language Models for Business

Sumber daya teknologi

Internal

  • Butuh sumber daya besar: infrastruktur komputasi dan data
  • Dapatkah investasinya dilakukan? Uang dan waktu?

Pihak ketiga

  • Akses langsung dan skalabilitas
  • Tanpa beban pengembangan

Gambar kartun pria menumpuk koin sambil berdiri di atas jam alarm raksasa

Gambar buku catatan menunjukkan biaya operasional menurun, dengan cangkir kopi dan tangan pria terlihat

Large Language Models for Business

LLM yang dipersonalisasi

Internal

  • Sesuaikan LLM untuk kebutuhan spesifik
  • Model di-fine-tune dengan data perusahaan

Pihak ketiga

  • Performa canggih
  • Model lebih generik, kecuali dikustomisasi

Gambar kata "customization" disentuh oleh jari manusia

Gambar produk generik tersusun di supermarket, dengan warna produk gradasi serupa

Large Language Models for Business

Pembaruan dan pemeliharaan

Internal

  • Pemeliharaan menjaga LLM efektif dan aman
  • Biaya berkelanjutan bagi bisnis

Pihak ketiga

  • Perusahaan tidak bertanggung jawab
  • Penyedia menangani pembaruan dan pemeliharaan

Gambar kartun wanita menggunakan ponsel, dengan ikon pemeliharaan dan pembaruan teknologi di latar

Gambar kata "Third Party Service" pada papan catatan grafik

Large Language Models for Business

Penanganan data

Internal

  • Kendali penuh atas data
  • Penting saat memakai data sensitif

Pihak ketiga

  • Mungkin perlu berbagi data
  • Potensi risiko keamanan dan privasi

Gambar kartun pria memakai laptop sambil berjabat tangan dengan pria di dalam layar

Gambar kartun menunjukkan karakter yang mencuri dan mengambil informasi dari laptop

Large Language Models for Business

Efisiensi biaya

Internal

  • Seimbangkan biaya berulang agar tetap efisien
  • Biaya awal tinggi

Pihak ketiga

  • Biaya berulang
  • Biaya awal rendah

Gambar kartun pria memegang colokan yang menghubungkan uang dengan bohlam

Gambar kartun pria membawa kartu di depan tanggal pada kalender

Large Language Models for Business

Pilihan ada pada Anda!

Papan penunjuk arah dengan dua pilihan: outsourcing atau in-house

Large Language Models for Business

Ayo berlatih!

Large Language Models for Business

Preparing Video For Download...