Otomatik karar verme ve profilleme

GDPR'ı Anlamak

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

YZ: Hukuka uygunluk, adillik ve şeffaflık

  • Hukuka uygunluk
  • Adillik ve ayrımcılık karşıtlığı – kişiler hakkında veri çıkarımı
  • Şeffaflık
  • Özel hükümler – Madde 22
GDPR'ı Anlamak

Madde 22

Otomatik bir sürecin illüstrasyonu

  • Adillik ve ayrımcılık karşıtı yükümlülükler
  • Madde 22 – profilleme dahil otomatik bireysel karar verme
  • İnsan müdahalesi ve açıklama hakkı
1 Görsel kaynağı: flaticon.com
GDPR'ı Anlamak

Profilleme

Bir kişinin profilinin illüstrasyonu.

  • Davranışı analiz etme ve tahmin etme; büyük ölçekli işleme; YZ/makine öğrenimi kullanımı
  • Davranış ve nitelikleri belirleme ve ilişkilendirme
  • Profiller oluşturma ve bunlara göre davranış tahmini
  • Örnekler:
    • Tedavi başarısı
    • Tekrar suç işleme riski
1 Bilgi Komisyonu Ofisi
GDPR'ı Anlamak

Profillemeye ilişkin etik kaygılar

YZ algoritmalarında cinsiyet, ırk ve performans puanlamasına dayalı önyargıyı gösteren haber sitelerinden ekran görüntüleri.

  • Önyargıyı yayma veya pekiştirme
  • Tasarım, veriler, doğuştan karmaşıklık/kara kutu
  • Cinsiyet ve ırk ayrımcılığı
1 Görsel kaynağı: bbc.com, propublica.com ve techcrunch.com
GDPR'ı Anlamak

Ünlü profilleme örneği

Cambridge Analytica skandalını açıklayan gazete grafiğinin ekran görüntüsü

  • 320.000 kullanıcı “akademik araştırma” için çevrim içi kişilik testi yaptı
  • Kullanıcının arkadaşlarının verileri toplandı; rıza olmadan 50 milyon kullanıcı verisi
  • Kişilik/siyasi profilleme; fikrini değiştirme olasılığı yüksek kişilere hedefli reklam
  • ABD, Birleşik Krallık ve dünya genelinde birçok seçimde kullanıldı
1 Görsel kaynağı: The Guardian
GDPR'ı Anlamak

Otomatik karar verme

Sonucu bilgisayarın verdiği otomatik bir kararı gösteren illüstrasyon.

  • İnsan müdahalesi olmadan otomatik yollarla alınan kararlar
  • Profillemeyi içerebilir veya içermeyebilir
  • Her tür veri: anket, konum, profilleme
  • Örnek: Otomatik CV tarama
1 MADDE 29 ÇALIŞMA GRUBU Otomatik bireysel karar verme ve Profilleme Kılavuzları 2016/679 Sayılı Tüzük amaçları için
GDPR'ı Anlamak

Bankacılık örneği

Bazı kişilere kredi onayı/red nedenini açıklayamayan banka müdürünü gösteren illüstrasyon.

  • Otomatik konut kredisi kararı
  • Genelde YZ evet/hayır yanıtı verir; açıklama ve insan müdahalesi gerekir
  • Önyargıyı önleme, YZ kararlarını düzeltme ve iyileştirme mekanizmaları
GDPR'ı Anlamak

Haydi pratik yapalım!

GDPR'ı Anlamak

Preparing Video For Download...