Yapay zekâda dış riskler

AI Güvenliği ve Risk Yönetimi

Angeline Corvaglia

Founder and Digital Transformation Expert

dış riskler

İç Riskler

Tasarımda veya veride

ayraç

Dış Riskler

Harici aktörler

Modeli manipüle eder

Farklı yönleri hedefler

Yaygın dış riskler

dış risklerin temsili

Adversaryal girdi saldırıları
Veri bozulması ve zehirlemesi
Model hırsızlığı ve tersine çevirme
Altyapı saldırıları
Tedarik zinciri saldırıları

Adversaryal girdi saldırıları

Çıkarım aşamasını etkiler (model yeni veriye maruz kaldığında)
Karar almayı etkiler

ayraç

Örnek

Görüntüyü az değiştir
Yanlış sınıflandırma

adversaryal girdi saldırılarının temsili

Veri bozulması ve zehirlemesi

Eğitim aşamasını etkiler
Öğrenmenin bütünlüğünü hedefler

ampul

Örnek

Sahte ürün yorumları
Bir e-ticaret öneri sistemini etkiler

veri bozulmasının temsili

Model hırsızlığı ve tersine çevirme

model tersine çevirmesinin temsili

Hassas bilgileri hedefler
Modelin kendisini sömürür

ampul

Örnek

Eğitimde kullanılan özel veriyi açığa çıkarmak için manipüle edilmiş girdiler kullanma

Altyapı saldırıları

altyapı saldırılarının temsili

Fiziksel ve sanal ortamları hedefler
Altyapıya saldırır

ampul

Örnek

AI sunucularını istekle doldurup aşırı yükleyerek erişilmez kılma

Tedarik zinciri saldırıları

tedarik zinciri saldırılarının temsili

Bileşenleri veya kütüphaneleri ele geçirme
AI modellerinin yapı taşlarını sömürme

ampul

Örnek

Yaygın bir kütüphaneye güvenlik açığı enjekte etme

Güvenlik en iyi uygulamaları

Düzenli güvenlik denetimleri
Veri doğrulama ve temizleme
Güçlü erişim kontrolleri
Hassas veriyi şifreleme
Veriyi anonimleştirme

bir araç setinin temsili

Diğer en iyi uygulamalar

Sürekli izleme
Güvenilir araçlar kullanma
Araçları düzenli güncelleme
Sürekli eğitim

en iyi uygulamaları temsil eden görsel

Riskler hızla evrilir

Sürekli uyum
Sürekli öğrenme
Proaktif risk yönetimi
Tetikte olma

hızlı değişimin temsili

Haydi pratik yapalım!

AI Güvenliği ve Risk Yönetimi