Yapay zekaya özgü güvenlik riskleri

AI Güvenliği ve Risk Yönetimi

Angeline Corvaglia

Founder and Digital Transformation Specialist

Risk yönetiminin önemi

• Faydaları güvenli ve sorumlu şekilde kullanın
• Güvenliğe yaklaşım değişmelidir
• Geleneksel güvenlik stratejileri yetersizdir

Yapay zekâyı entegre etmenin etkilerini, bir madeni para gibi düşünün:

• Potansiyel
• Güvenlik riskleri

Sinsi ama tehlikeli riskler

• Önyargı
• Halüsinasyon
• Veri zehirleme
• Karşıtsal saldırılar
• Hassas verilerin ifşası

İşe alım sisteminde yapay zekâ önyargısı

1. Yapay zekânın geçmiş verilerle eğitilmesi
2. Geçmiş önyargıların yansıması
3. Önyargının büyümesi
4. Kuruma duyulan güvenin azalması

Bir çevrimiçi alışveriş platformunu manipüle etmek

1. Yapay zekâ öneri sistemi olan platform
2. Sahte veri beslenir
3. Yapay zekâ popüler olmayan veya zararlı ürünler önerir
4. Çok sayıda olası sonuç

Yapay zekâ önyargısı

Şimşek hızında kararlar, önyargının etkisini büyütür

Haksız yere kayırır veya zarar verir

Korkutucu hızda eşitsiz sonuçlar

Halüsinasyon

• Yanlış veya yanıltıcı bilgiyi doğru gibi sunar

Şunlara yol açabilir:

• Hatalı kararlar
• Yanlış bilgi ve güven kaybı

Veri zehirleme

Eğitim verilerinin kasıtlı kurcalanması

Yapay zekâ sisteminin rotadan sapmasına neden olur

• Yanlış tahminler veya kararlar
• Ciddi sonuçlar

Karşıtsal saldırılar

Yanıltıcı girdiler sunma

• Çalışma sırasında
• Tespit edilmesi zordur
• Bütünlüğü bozar

Hassas verilerin ifşası

Eğitim ve çalışma için büyük miktarda veri.

Yeterince güvenli değilse hassas verilerin ifşası riski

Yönetebilmek için riskleri anlayın

Proaktif risk azaltma

• Riskleri öngörün
• Yapay zekâ güvenliği ekosistemini bilin
• Yapay zekâ güvenliğini geleceğe hazırlayın
• Güvenlik odaklı kültür oluşturun
• Model ve dış riskleri anlayın
• Yapay zekâ güvenliğini kurumsal hedeflerle uyumlayın

Haydi başlayalım!

AI Güvenliği ve Risk Yönetimi