Etik hususlar ve koruyucu önlemler

Amazon Bedrock'a Giriş

Nikhil Rangarajan

Data Scientist

Etik YZ neden önemlidir

  • YZ modelleri önyargıları sürdürebilir ve zararlı içerik üretebilir

Cinsiyet önyargısını temsil eden pembe giyimli iki kadın simgesi

Amazon Bedrock'a Giriş

Etik YZ neden önemlidir

  • YZ modelleri önyargıları sürdürebilir ve zararlı içerik üretebilir

  • Hassas verilerin işlenmesinde gizlilik endişeleri

Cinsiyet önyargısı ve gizliliği temsil eden simgeler

Amazon Bedrock'a Giriş

Etik YZ neden önemlidir

  • YZ modelleri önyargıları sürdürebilir ve zararlı içerik üretebilir

  • Hassas verilerin işlenmesinde gizlilik endişeleri

  • Hukuki/düzenleyici uyum gereklilikleri

Cinsiyet önyargısı, gizlilik ve yasal uyumu temsil eden simgeler

Amazon Bedrock'a Giriş

Etik YZ neden önemlidir

  • YZ modelleri önyargıları sürdürebilir ve zararlı içerik üretebilir

  • Hassas verilerin işlenmesinde gizlilik endişeleri

  • Hukuki/düzenleyici uyum gereklilikleri

  • Yanlış bilginin yayılmasında kötüye kullanım riski

Cinsiyet önyargısı, gizlilik, yasal uyum ve yanlış bilgiye ilişkin simgeler

Amazon Bedrock'a Giriş

Etik YZ neden önemlidir

  • YZ modelleri önyargıları sürdürebilir ve zararlı içerik üretebilir

  • Hassas verilerin işlenmesinde gizlilik endişeleri

  • Hukuki/düzenleyici uyum gereklilikleri

  • Yanlış bilginin yayılmasında kötüye kullanım riski

  • Kurumsal itibar ve paydaş güveni

Cinsiyet önyargısı, gizlilik, yasal uyum, yanlış bilgi ve güvene ilişkin simgeler

Amazon Bedrock'a Giriş

Modelleri koruyucu önlemlerle koruma

  • Koruyucu önlemler: güvenlik tedbirleri
    • İçerik filtreleme
    • Önyargı tespiti
    • Sıkı kullanım politikaları
  • Her zaman en kısıtlayıcı düzeyle başlayın
  • Zararlı içerik için varsayılan tarama düzeyi

 

YZ sistemlerinde güvenlik önlemleri ve içerik filtrelemeyi temsil eden, sarı direklerle desteklenen iki yatay gri bariyer şeklinde güvenlik korkuluklarının basit bir illüstrasyonu.

Amazon Bedrock'a Giriş

İçerik denetimi

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Amazon Bedrock'a Giriş

İzleme ve bakım

  • Otomatik izleme kurun
  • Filtrelenen içeriği düzenli inceleyin
  • Anormallikler için yanıt kalıplarını takip edin
  • Filtrelenen isteklerin günlüklerini tutun

 

İzlemeyi temsil eden grafik üzerindeki büyüteç simgesi

Amazon Bedrock'a Giriş

Yanıt planı

  • Modelin hatalı davranışına hazırlanın
  • Eskalasyon prosedürlerini tanımlayın
  • Yedek modelleri yapılandırın
  • Olayları iyileştirme için takip edin

  Hatalar olduğunda bir plana sahip olma kavramını gösteren kontrol listesi simgesi

Amazon Bedrock'a Giriş

Etik YZ için temel çıkarımlar

🛑 Önce güvenlik

  • İçerik filtreleme ve önyargı tespitini her zaman etkinleştirin

 

🚦 Uygulama

  • Yerleşik Bedrock güvenliklerini kullanın

 

🔦 Sürekli iyileştirme

  • Sonuçları izleyin ve analiz edin
  • En iyi uygulamaları güncel tutun
Amazon Bedrock'a Giriş

Haydi pratik yapalım!

Amazon Bedrock'a Giriş

Preparing Video For Download...