Aplikasi AI generatif yang bertanggung jawab

Konsep Generative AI

Daniel Tedesco

Data Lead, Google

Menjelang hari pemilu

Kumpulan judul berita palsu

Konsep Generative AI

Jenis penyalahgunaan

  • Deepfake
  • Kampanye misinformasi
  • Peretasan berbantu AI

Gambar AI Paus memakai jaket puffer

1 Pablo Xavier
Konsep Generative AI

Deteksi dan pencegahan

Prinsip penggunaan utama

  • Human-in-the-loop
  • Pencegahan dampak buruk
  • Pemantauan berkelanjutan

 

Titik Deteksi dan Pencegahan

Bagan alur titik di seluruh penggunaan AI: akses, prompt, respons, aplikasi, serta komunikasi dan umpan balik.

Konsep Generative AI

Akses

AI dapat tanpa sengaja membantu aktivitas non-kriminal dari kelompok kriminal.

  • Hindari mendukung kelompok berbahaya
  • Know Your Customer (KYC)
    • Verifikasi identitas pengguna

Sosok mencurigakan menyuruh diam.

Konsep Generative AI

Prompt dan respons

Moderasi prompt

  • Mirip moderasi situs atau grup chat
  • Prompt jailbreak tetap bisa melanggar panduan developer

Moderasi respons

  • Saring respons sebelum ditampilkan ke pengguna
Konsep Generative AI

Aplikasi

Aktor jahat bisa menerapkan respons tampak aman untuk aktivitas ilegal atau tidak etis.

  • Watermark tak terlihat dapat menandai sumber konten
  • Mungkin perlu intervensi penegak hukum
Konsep Generative AI

Komunikasi dan umpan balik

  • Pedoman penggunaan yang jelas
  • Loop umpan balik
    • Studi pengguna dan diskusi pemangku kepentingan
    • Berkolaborasi dengan organisasi masyarakat sipil
    • Opsi umpan balik di produk

Seorang pengemudi mobil membengkokkan sabuk pengaman

Konsep Generative AI

Ayo berlatih!

Konsep Generative AI

Preparing Video For Download...