Yapay zekâda dış riskler

AI Güvenliği ve Risk Yönetimi

Angeline Corvaglia

Founder and Digital Transformation Expert

dış riskler

İç Riskler

Tasarımda veya veride

ayraç

Dış Riskler

Harici aktörler

  • Modeli manipüle eder

 

  • Farklı yönleri hedefler
AI Güvenliği ve Risk Yönetimi

Yaygın dış riskler

dış risklerin temsili

  • Adversaryal girdi saldırıları
  • Veri bozulması ve zehirlemesi
  • Model hırsızlığı ve tersine çevirme
  • Altyapı saldırıları
  • Tedarik zinciri saldırıları
AI Güvenliği ve Risk Yönetimi

Adversaryal girdi saldırıları

  • Çıkarım aşamasını etkiler (model yeni veriye maruz kaldığında)
  • Karar almayı etkiler

ayraç

Örnek

  • Görüntüyü az değiştir
  • Yanlış sınıflandırma

adversaryal girdi saldırılarının temsili

AI Güvenliği ve Risk Yönetimi

Veri bozulması ve zehirlemesi

  • Eğitim aşamasını etkiler
  • Öğrenmenin bütünlüğünü hedefler

ampul

Örnek

  • Sahte ürün yorumları
  • Bir e-ticaret öneri sistemini etkiler

veri bozulmasının temsili

AI Güvenliği ve Risk Yönetimi

Model hırsızlığı ve tersine çevirme

model tersine çevirmesinin temsili

  • Hassas bilgileri hedefler
  • Modelin kendisini sömürür

ampul

Örnek

  • Eğitimde kullanılan özel veriyi açığa çıkarmak için manipüle edilmiş girdiler kullanma
AI Güvenliği ve Risk Yönetimi

Altyapı saldırıları

altyapı saldırılarının temsili

  • Fiziksel ve sanal ortamları hedefler
  • Altyapıya saldırır

ampul

Örnek

  • AI sunucularını istekle doldurup aşırı yükleyerek erişilmez kılma
AI Güvenliği ve Risk Yönetimi

Tedarik zinciri saldırıları

tedarik zinciri saldırılarının temsili

  • Bileşenleri veya kütüphaneleri ele geçirme
  • AI modellerinin yapı taşlarını sömürme

ampul

Örnek

  • Yaygın bir kütüphaneye güvenlik açığı enjekte etme
AI Güvenliği ve Risk Yönetimi

Güvenlik en iyi uygulamaları

  • Düzenli güvenlik denetimleri
  • Veri doğrulama ve temizleme
  • Güçlü erişim kontrolleri
  • Hassas veriyi şifreleme
  • Veriyi anonimleştirme

bir araç setinin temsili

AI Güvenliği ve Risk Yönetimi

Diğer en iyi uygulamalar

  • Sürekli izleme
  • Güvenilir araçlar kullanma
  • Araçları düzenli güncelleme
  • Sürekli eğitim

en iyi uygulamaları temsil eden görsel

AI Güvenliği ve Risk Yönetimi

Riskler hızla evrilir

  • Sürekli uyum
  • Sürekli öğrenme
  • Proaktif risk yönetimi
  • Tetikte olma

hızlı değişimin temsili

AI Güvenliği ve Risk Yönetimi

Haydi pratik yapalım!

AI Güvenliği ve Risk Yönetimi

Preparing Video For Download...