Model riskleri
AI Güvenliği ve Risk Yönetimi
Angeline Corvaglia
Founder and Digital Transformation Expert
Yaşam döngüsü boyunca riskleri izleme
Geliştirme sırasında
- Adil ve doğru veri
- Etkili öğrenme
- Hatalı sistem yaymanın zararları
Yayına alma sonrası
- Modeller zamanla değişebilir (kayabilir)
- Önyargılı veya hatalı çıktılara yol açabilir
Yedi yaygın model riski
Şeffaflık
- Yapay zekâ modelleri nasıl karar verir
Yorumlanabilirlik
- Bir modelin neden belirli çıktılar ürettiği
Sağlık veya finans gibi hassas alanlarda
- Karar verme süreci
- Kararın kendisi kadar önemlidir
Önyargı
Halüsinasyon
Model kayması
Etkili ve doğru öğrenme
Aşırı öğrenme (overfitting)
- Aşırı ayrıntı öğrenir
Yetersiz öğrenme (underfitting)
- Öğrenmek için fazla basit kalır
Veri sızıntısı
- Eğitime harici veri dâhil edilir
Açıklanabilir Yapay Zekâ (XAI)
Daha sağlam, adil ve güvenli yapay zekâ sistemleri
- Güvenlik önlemleri
- Sorumlu geliştirme
- Uzun vadeli etki
Herkes için faydalı olmalı
