Etika dat a etika umělé inteligence

Úvod do etiky dat

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Co je AI?

Ilustrace AI se vstupními daty a rozhodováním modelu.

  • AI kombinuje algoritmy a robustní datové sady k řešení problémů
  • Výkonná AI využívá velké datové sady
  • Obrovský potenciál, dvousečná zbraň, etické aspekty
Úvod do etiky dat

Data jsou palivem pro AI

Ilustrace důležitosti dat pro AI s analogií vaření.

  • Modely AI potřebují velké množství dat, většina úsilí se věnuje datům
  • Špatná data vedou ke špatným výsledkům AI
  • Etika AI je širší než etika dat – důležité znát podobnosti i rozdíly
1 Photo source: Andrew Ng's webinar, MLOps: From Model-centric to Data-centric AI
Úvod do etiky dat

To dobré a úžasné

Koláž hlasového asistenta, snímku obrazovky ChatGPT a úvodní stránky Netflixu.

  • Hlasové asistenty, konverzační AI
  • Doporučování filmů

Rentgenový snímek prsu se dvěma nádory v různých stadiích.

  • AI ve prospěch společnosti
  • Včasná diagnostika rakoviny
  • Precizní zemědělství – méně vody a pesticidů
Úvod do etiky dat

To špatné a ošklivé

Koláž snímků zpravodajských článků o diskriminaci způsobené algoritmy AI

  • Diskriminace při náboru, přístupu ke zdravotní péči a soudních řízeních
  • Mnoho příčin – zkreslené datové sady, složité modely AI jako černé skříňky, nedostatek vysvětlení
  • Etika AI přesahuje etiku dat
Úvod do etiky dat

Etická dilemata AI

Etika AI přesahuje etiku dat

  • Důsledky rozhodování AI:
    • Přístup k úvěrům/půjčkám
    • Nábor zaměstnanců
  • Diskriminace ze strany AI
  • AI/roboti nahrazují pracovní místa
  • Způsobí roboti/drony méně obětí ve válce?
  • Co znamená být člověkem?
  • Lze do AI zakódovat morálku?

Fotografie dopravní značky ukazující opačné směry s horami v pozadí.

1 Photo source: unsplash.com
Úvod do etiky dat

Co by měla AI udělat?

  • Autonomní vozidlo s náhlým selháním brzd
  • Jet rovně nebo zahnout
  • Přímý směr: usmrtí ženu, muže a starší ženu
  • Odbočení: usmrtí mladou ženu a dvě děti
  • Kdo nese odpovědnost?

Ilustrace etického dilematu autonomního vozidla

1 https://moralmachine.mit.edu/
Úvod do etiky dat

Pokyny pro etiku AI stručně

Mnoho organizací a orgánů pracuje na pokynech pro etiku AI

  • Lidská kontrola a dohled
  • Technická robustnost a bezpečnost
  • Soukromí a správa dat
  • Transparentnost
  • Rozmanitost, nediskriminace a spravedlnost
  • Environmentální a společenský blahobyt
  • Odpovědnost

Obrázek přehledu pokynů pro etiku AI od Algorithm Watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Úvod do etiky dat

Průnik s etikou dat

  • Soukromí, bezpečnost, ochrana dat
  • Zaujatost a spravedlnost
  • Transparentnost
  • Odpovědnost

Ilustrace průniku etiky dat a etiky AI

Úvod do etiky dat

Pojďme si procvičit!

Úvod do etiky dat

Preparing Video For Download...