Etyka danych i etyka AI

Wprowadzenie do etyki danych

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Czym jest AI?

Ilustracja AI z danymi wejściowymi i decyzją modelu.

  • AI łączy algorytmy i duże zbiory danych, by rozwiązywać problemy
  • Zaawansowana AI korzysta z ogromnych zbiorów danych
  • Ogromny potencjał, miecz obosieczny, kwestie etyczne
Wprowadzenie do etyki danych

Dane jako paliwo dla AI

Ilustracja ważności danych dla AI z analogią kulinarną.

  • Modele AI potrzebują ogromnych ilości danych; większość wysiłków poświęca się danym
  • Słabe dane prowadzą do słabych wyników AI
  • Etyka AI jest szersza niż etyka danych; ważne jest zrozumienie podobieństw i różnic
1 Photo source: Andrew Ng's webinar, MLOps: From Model-centric to Data-centric AI
Wprowadzenie do etyki danych

To, co dobre i niesamowite

Kolaż zdjęć: głośnik z asystentem głosowym, zrzut ekranu ChatGPT i strona główna Netflix.

  • Asystenci głosowi, konwersacyjna AI
  • Rekomendacje filmowe

Zdjęcie rentgenowskie piersi z dwoma guzami na różnych etapach wzrostu

  • AI dla dobra
  • Wczesna diagnostyka nowotworów
  • Precyzyjne rolnictwo – mniejsze zużycie wody i pestycydów
Wprowadzenie do etyki danych

To, co złe i szokujące

Kolaż zrzutów ekranu artykułów o dyskryminacji przez algorytmy AI

  • Dyskryminacja w rekrutacji, dostępie do opieki zdrowotnej i sprawiedliwych procesach
  • Wiele przyczyn: stronnicze zbiory danych, złożone modele AI, brak wyjaśnień
  • Etyka AI wykracza poza etykę danych
Wprowadzenie do etyki danych

Dylematy etyczne AI

Etyka AI wykracza poza etykę danych

  • Konsekwencje decyzji AI:
    • Dostęp do kredytów/pożyczek
    • Rekrutacja
  • Dyskryminacja przez AI
  • AI/roboty przejmujące miejsca pracy
  • Czy roboty/drony ograniczą ofiary w ludziach podczas wojen?
  • Co to znaczy być człowiekiem?
  • Czy można zakodować moralność w AI?

Zdjęcie znaku drogowego wskazującego w przeciwnych kierunkach na tle górskiego krajobrazu.

1 Photo source: unsplash.com
Wprowadzenie do etyki danych

Co powinna zrobić AI?

  • Samochód autonomiczny z nagłą awarią hamulców
  • Jechać prosto czy skręcić
  • Jazda prosto zabije kobietę, mężczyznę i starszą kobietę
  • Skręcenie zabije młodą kobietę i dwoje dzieci
  • Kto ponosi odpowiedzialność?

Ilustracja dylematu etycznego samochodu autonomicznego

1 https://moralmachine.mit.edu/
Wprowadzenie do etyki danych

Wytyczne etyki AI w skrócie

Wiele organizacji pracuje nad wytycznymi dotyczącymi etyki AI

  • Sprawczość człowieka i nadzór
  • Odporność techniczna i bezpieczeństwo
  • Prywatność i zarządzanie danymi
  • Przejrzystość
  • Różnorodność, niedyskryminacja i sprawiedliwość
  • Dobrostan środowiskowy i społeczny
  • Odpowiedzialność

Obraz inwentarza wytycznych dotyczących etyki AI serwisu Algorithm Watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Wprowadzenie do etyki danych

Obszar wspólny

  • Prywatność, bezpieczeństwo, ochrona danych
  • Uprzedzenia i sprawiedliwość
  • Przejrzystość
  • Odpowiedzialność

Ilustracja obszaru wspólnego etyki danych i etyki AI

Wprowadzenie do etyki danych

Czas na ćwiczenia!

Wprowadzenie do etyki danych

Preparing Video For Download...