Dimenze odpovědných dat

Zodpovědná správa dat v AI

Maria Prokofieva

Lead ML Engineer

Odpovědná správa dat

  • Etická správa dat
  • Hodnocení modelů pomocí technických metrik
  • Odpovědná umělá inteligence

Dimenze odpovědných dat

Zodpovědná správa dat v AI

V tomto kurzu

  • Dimenze a metriky odpovědné AI
  • Aplikace konceptů v praxi
  • Přehled regulace a licencování
  • Správa a získávání dat
  • Validace a zmírňování zaujatosti
Zodpovědná správa dat v AI

Zákonnost

  • Soulad se zákony a předpisy
  • Zajišťuje správné shromažďování, zpracování a využívání dat
  • Mezi příslušné zákony a předpisy patří:
    • Zákony na ochranu dat
    • Zákony o lidských právech
    • Etická pravidla vůči zainteresovaným stranám
    • Mohou se lišit podle správního orgánu nebo země

Vždy ověřte, co platí!

Dimenze odpovědných dat: zákonnost

Zodpovědná správa dat v AI

Spravedlnost

  • Algoritmy a datové postupy nevytvářejí nerovnosti
  • Zacházejí se všemi spravedlivě, bez diskriminace

Dimenze odpovědných dat: spravedlnost

Zodpovědná správa dat v AI

Transparentnost a odpovědnost

  • Jak jsou data využívána
  • Jak je model vyvíjen
  • Jak jsou přijímána rozhodnutí
  • Vysvětlení umělé inteligence
  • Budování důvěry zainteresovaných stran

Dimenze odpovědných dat: transparentnost a odpovědnost

Zodpovědná správa dat v AI

Diverzita a inkluze

  • Různorodost dat
  • Různorodé perspektivy a zkušenosti
  • Klíčové pro zmírňování zaujatosti

Dimenze odpovědných dat: diverzita a inkluze

Zodpovědná správa dat v AI

Soukromí a bezpečnost

  • Ochrana osobních a citlivých dat
  • Respektování a ochrana práv jednotlivců
  • Ochrana dat a modelů před neoprávněným přístupem

Dimenze odpovědných dat: soukromí a bezpečnost

Zodpovědná správa dat v AI

Nástroj AI pro nábor zaměstnanců Amazonu

  • Amazon: 2015–2017
  • Automatizovaný nábor talentů
  • Využití AI k hodnocení uchazečů o zaměstnání
  • Vedlo ke skandálu a ukončení projektu

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Zodpovědná správa dat v AI

Výzvy modelů umělé inteligence

Co se pokazilo?

  • Není genderově neutrální
  • Nevyvážená trénovací data
  • Pouze technické metriky pro hodnocení AI

nevyvážená data

Zodpovědná správa dat v AI

Pojďme si procvičit!

Zodpovědná správa dat v AI

Preparing Video For Download...