Batasan dan Keterbatasan AI

Pengantar AI untuk Pekerjaan

James Chapman

AI Curriculum Manager, DataCamp

Risiko #1: Pemalsuan Pengetahuan

Atau Halusinasi: informasi palsu yang disajikan AI seolah benar
Contoh Umum:
- Statistik salah
- Kutipan palsu
- Mengada-ada peristiwa

Risiko #1: Pemalsuan Pengetahuan

Atau Halusinasi: informasi palsu yang disajikan AI seolah benar
Contoh Umum:
- Statistik salah
- Kutipan palsu
- Mengada-ada peristiwa

Risiko #1: Pemalsuan Pengetahuan

Risiko #2: Ketidaktahuan Kekinian

Tanggal batas pengetahuan → batas waktu pengetahuan model tentang peristiwa
Contoh:
- Regulasi, harga, lokasi, dan sintaksis kode yang usang
Konfirmasi fakta sensitif waktu dari sumber terkini
Banyak alat AI juga mendukung pencarian internet

Risiko #3: Output Bias

Mencerminkan dan memperkuat bias sosial dari data pelatihan
Hasil → konten stereotip atau diskriminatif
Tinjau konten AI dengan cermat!

Risiko #4: Output Menjilat

Menjilat → mengatakan apa yang ingin Anda dengar
- Memvalidasi perspektif, mendukung keputusan, dan menegaskan pemikiran
Bermasalah saat memerlukan perspektif kritis

Risiko #4: Output Menjilat

Menjilat → mengatakan apa yang ingin Anda dengar
- Memvalidasi perspektif, mendukung keputusan, dan menegaskan pemikiran
Bermasalah saat memerlukan perspektif kritis
Produk sampingan dari pelatihan LLM pada penilaian manusia terhadap respons

¹ https://arxiv.org/abs/2510.01395

Risiko #5: Privasi dan Paparan Data

Informasi yang dibagikan dengan alat AI mungkin tidak tetap pribadi!
Mengunggah spreadsheet, dokumen, atau data klien bisa berisiko
Data dapat disimpan di server eksternal, digunakan untuk pelatihan model, atau dapat dicari

Risiko #5: Privasi dan Paparan Data

Risiko

Melanggar hukum privasi (misalnya, GDPR)
Kehilangan keunggulan kompetitif
Merusak kepercayaan klien

Selalu periksa kebijakan data alat AI
Jika ragu: konsultasikan dengan pakar TI atau InfoSec

Dari Risiko ke Tanggung Jawab

Ayo berlatih!

Pengantar AI untuk Pekerjaan

Preparing Video For Download...