Veri etiği ve yapay zeka etiği

Veri Etiğine Giriş

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Yapay zeka nedir?

Yapay zekanın veri girdisi ve model kararı ile gösterimi

  • Yapay zeka, sorunları çözmek için algoritmaları ve sağlam veri kümesini birleştirir
  • Güçlü yapay zeka büyük veri kümelerini kullanır
  • Büyük potansiyel, iki ucu keskin kılıç, etik hususlar
Veri Etiğine Giriş

Veri, yapay zeka için yakıttır

Yapay zeka için verilerin öneminin yemek pişirme benzetmesi ile gösterilmesi

  • Yapay zeka modelleri büyük miktarda veriye ihtiyaç duyuyor, yapay zeka çalışmalarının çoğu verilere harcanıyor
  • Kötü veri, kötü yapay zeka sonuçlarına yol açar
  • Yapay zeka etiği veri etiğinden daha geniş kapsamlıdır, benzerlik ve farklılıkları bilmek önemlidir
1 Fotoğraf kaynağı: Andrew Ng’nin web semineri, MLOps: From Model-centric to Data-centric AI
Veri Etiğine Giriş

İyi ve şaşırtıcı

Sesli asistan konuşmacı, chatgpt ekran görüntüsü ve Netflix ana sayfa ekran görüntüsünden oluşan bir kolaj

  • Sesli asistanlar, etkileşimli yapay zeka
  • Film önerileri

Farklı büyüme aşamalarında iki tümör içeren bir meme röntgeni görüntüsü

  • İyi bir amaç için yapay zeka
  • Erken kanser tanısı
  • Hassas tarım - daha az su ve pestisit kullanımı
Veri Etiğine Giriş

Kötü ve çirkin

Yapay zeka algoritması ayrımcılığına ilişkin haberlerin ekran görüntülerinden oluşan bir kolaj

  • İşe alımda, sağlık hizmetlerine erişim ve mahkemede adil yargılanmada ayrımcılık
  • Birçok neden: yanlı veri kümeleri, karmaşık ve kara kutu yapay zeka modelleri, açıklama eksikliği
  • Yapay zeka etiği, veri etiğinden fazlasıdır
Veri Etiğine Giriş

Yapay zeka etiği ikilemleri

Yapay zeka etiği, veri etiğinden fazlasıdır

  • Yapay zekanın aşağıdaki konularda karar vermesi sonuçları:
    • Kredi erişimi/krediler
    • İşe alım
  • Yapay zeka ayrımcılığı
  • Yapay zeka/Robotlar işleri devralıyor
  • Robotlar/insansız hava araçları bir savaşta daha az insan hayatına mı mal olacak?
  • İnsan olmak ne anlama geliyor?
  • Yapay zekaya ahlak kodlayabilir miyiz?

Arka planda bir dağ ile zıt yönleri gösteren bir yol tabelasının resmi.

1 Fotoğraf kaynağı: unsplash.com
Veri Etiğine Giriş

Yapay zeka ne yapmalıdır?

  • Kendi kendini süren arabada ani fren arızası
  • İlerlemeye devam edin veya yoldan sapın
  • Devam ederseniz bir kadın, erkek ve yaşlı bir kadın ölecek
  • Yoldan saparsanız genç bir kadın ve iki çocuk ölecek
  • Kim sorumlu?

Kendi kendini süren bir otomobilin etik ikileminin gösterimi

1 https://moralmachine.mit.edu/
Veri Etiğine Giriş

Özetle yapay zeka etik kuralları

Birçok kurum ve kuruluş yapay zeka etik ilkeleri üzerinde çalışıyor

  • İnsan aracılığı ve gözetimi
  • Teknik sağlamlık ve güvenlik
  • Gizlilik ve veri yönetişimi
  • Şeffaflık
  • Çeşitlilik, ayrımcılık yapmama ve adalet
  • Çevresel ve toplumsal refah
  • Hesap verebilirlik

Algorithm Watch’un yapay zeka etik ilkeleri envanteri.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Veri Etiğine Giriş

Veri örtüşmesi

  • Gizlilik, güvenlik, veri koruma
  • Yanlılık ve adalet
  • Şeffaflık
  • Hesap verebilirlik

Veri ve yapay zeka etiğinin örtüşmesine ilişkin örnek

Veri Etiğine Giriş

Şimdi alıştırma yapalım!

Veri Etiğine Giriş

Preparing Video For Download...