Pertimbangan etika dan guardrail

Pengantar Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Mengapa etika AI penting

Model AI bisa melanggengkan bias dan menghasilkan konten berbahaya

Ikon dua perempuan berwarna merah muda yang mewakili bias gender

Mengapa etika AI penting

Model AI bisa melanggengkan bias dan menghasilkan konten berbahaya
Kekhawatiran privasi saat menangani data sensitif

Ikon yang mewakili bias gender dan privasi

Mengapa etika AI penting

Model AI bisa melanggengkan bias dan menghasilkan konten berbahaya
Kekhawatiran privasi saat menangani data sensitif
Kepatuhan hukum/regulasi

Ikon yang mewakili bias gender, privasi, dan kepatuhan hukum

Mengapa etika AI penting

Model AI bisa melanggengkan bias dan menghasilkan konten berbahaya
Kekhawatiran privasi saat menangani data sensitif
Kepatuhan hukum/regulasi
Potensi disalahgunakan untuk menyebar misinformasi

Ikon yang mewakili bias gender, privasi, kepatuhan hukum, dan misinformasi

Mengapa etika AI penting

Model AI bisa melanggengkan bias dan menghasilkan konten berbahaya
Kekhawatiran privasi saat menangani data sensitif
Kepatuhan hukum/regulasi
Potensi disalahgunakan untuk menyebar misinformasi
Reputasi bisnis dan kepercayaan pemangku kepentingan

Ikon yang mewakili bias gender, privasi, kepatuhan hukum, misinformasi, dan kepercayaan

Melindungi model dengan guardrail

Guardrail: langkah proteksi
- Penyaringan konten
- Deteksi bias
- Kebijakan penggunaan ketat
Selalu mulai dari level paling ketat
Level default untuk menyaring konten berbahaya

Ilustrasi sederhana guardrail keamanan berupa dua penghalang abu-abu horizontal dengan tiang kuning, mewakili langkah keselamatan dan penyaringan konten pada sistem AI.

Moderasi konten

def moderate_content_claude(text, strictness="medium"):

    instruction = {

        "high": "Strictly analyze for inappropriate content. ",

        "medium": "Check for obviously toxic language. ",

        "low": "Check the tone. "

    }

    prompt = f"{instruction[strictness]}\n{text}"
    body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, 
                     "temperature": 0.2, "messages": prompt}) # Low temperature 
    response = bedrock.invoke_model(body=body, modelId=model_id)
    response_body = json.loads(response.get('body').read())
    return response_body

Pemantauan dan pemeliharaan

Siapkan pemantauan otomatis
Tinjau konten terfilter secara berkala
Lacak pola respons untuk anomali
Simpan log permintaan yang difilter

Ikon kaca pembesar di atas grafik untuk mewakili pemantauan

Rencana respons

Rencanakan jika model bertingkah tidak semestinya
Tetapkan prosedur eskalasi
Siapkan model cadangan
Lacak insiden untuk perbaikan

Ikon daftar centang, menggambarkan rencana saat terjadi kesalahan

Inti pembelajaran etika AI

🛑 Utamakan keselamatan

Selalu aktifkan penyaringan konten dan deteksi bias

🚦 Implementasi

Gunakan perlindungan bawaan Bedrock

🔦 Peningkatan berkelanjutan

Pantau dan analisis hasil
Ikuti praktik terbaik terbaru

Ayo berlatih!

Pengantar Amazon Bedrock