Yüksek riskli sağlayıcı yükümlülükleri

AB Yapay Zekâ Yasasını Anlamak

Dan Nechita

Lead Technical Negotiator, EU AI Act

Amaçlanan kullanım kavramı

AI Yasası, geliştirici ve kullanıcı yükümlülüklerini dengeler
"Amaçlanan kullanım" kavramına dayanır

Geliştirici ve kullanıcı dengesini gösteren görsel

Amaçlanan kullanım kavramı

Örnek:

Hayvan tanıma yapay zekâsı

Hayvan tanımlamada yapay zekâ kullanımı görseli

Amaçlanan kullanım kavramı

Örnek:

Hayvan tanıma yapay zekâsı
Hayat sigortası fiyatlamasında kullanıldı
Önerilmeyen ve muhtemelen etkisiz bir kötüye kullanım
Sistemi geliştiren şirketin AI Yasası kapsamında yükümlülüğü yoktur
- Risksiz bir yapay zekâ sistemi geliştirdi
Yükümlülükler dağıtıcıdadır

Hayat sigortası fiyatlamasında yapay zekâ kullanımı görseli

Amaçlanan kullanım kavramı

İhtiyaçlara göre ürün uyarlama

Uygunluk değerlendirmesi

Yüksek riskli yapay zeka sistemlerinin sağlayıcıları, güvenlik ve uyumu sağlamak için, öz değerlendirme olabilen bir "uygunluk değerlendirmesi" yürütmeli ve belgelendirmelidir.

Risk yönetimi ve yönetişim

Sağlayıcıların riskleri tanımlayıp azaltmak için bir risk yönetim sistemi olmalıdır

Veri yönetişimi, farklı gruplar üzerindeki etkileri dikkate alarak, önyargısız ve amaca uygun eğitim verisini sağlamalıdır

Dokümantasyon

CleanShot 2024-07-31 at 11.34.15.png

Uyum ve izlenebilirlik için ayrıntılı dokümantasyon oluşturun ve kayıt tutmayı sağlayın
Özellikler, doğru kullanım, sınırlamalar ve olası suistimal hakkında dağıtıcılara bilgi verin
İnsan gözetimini sağlayın; doğruluk, sağlamlık ve siber güvenlik önlemleri uygulayın

Diğer yükümlülükler

Uyumu sağlama

Haydi pratik yapalım!

AB Yapay Zekâ Yasasını Anlamak