Wymiary odpowiedzialnych danych

Odpowiedzialne zarządzanie danymi w AI

Maria Prokofieva

Lead ML Engineer

Odpowiedzialne zarządzanie danymi

  • Etyczne zarządzanie danymi
  • Ocena modeli za pomocą metryk technicznych
  • Odpowiedzialna AI

Wymiary odpowiedzialnych danych

Odpowiedzialne zarządzanie danymi w AI

W tym kursie

  • Wymiary i metryki odpowiedzialnej AI
  • Zastosowanie koncepcji w praktyce
  • Przegląd regulacji i licencji
  • Zarządzanie danymi i ich pozyskiwanie
  • Walidacja i ograniczanie stronniczości
Odpowiedzialne zarządzanie danymi w AI

Zgodność z prawem

  • Zgodność z przepisami prawa
  • Zapewnia właściwe gromadzenie, przetwarzanie i użycie danych
  • Wybrane przepisy i regulacje:
    • Przepisy o ochronie danych
    • Przepisy dotyczące praw człowieka
    • Regulacje etyczne wobec interesariuszy
    • Mogą różnić się w zależności od organu lub kraju

Zawsze sprawdź, co ma zastosowanie!

Wymiary odpowiedzialnych danych: zgodność z prawem

Odpowiedzialne zarządzanie danymi w AI

Sprawiedliwość

  • Algorytmy i praktyki danych nie tworzą nierówności
  • Traktowanie wszystkich sprawiedliwie, bez dyskryminacji

Wymiary odpowiedzialnych danych: sprawiedliwość

Odpowiedzialne zarządzanie danymi w AI

Przejrzystość i odpowiedzialność

  • Sposób wykorzystania danych
  • Sposób tworzenia modelu
  • Sposób podejmowania decyzji
  • Wyjaśnianie AI
  • Budowanie zaufania interesariuszy

Wymiary odpowiedzialnych danych: przejrzystość i odpowiedzialność

Odpowiedzialne zarządzanie danymi w AI

Różnorodność i inkluzywność

  • Różnorodność danych
  • Zróżnicowane perspektywy i doświadczenia
  • Kluczowa dla ograniczania stronniczości

Wymiary odpowiedzialnych danych: różnorodność i inkluzywność

Odpowiedzialne zarządzanie danymi w AI

Prywatność i bezpieczeństwo

  • Ochrona danych osobowych i wrażliwych
  • Poszanowanie i ochrona praw jednostki
  • Ochrona danych i modeli przed nieuprawnionym dostępem

Wymiary odpowiedzialnych danych: prywatność i bezpieczeństwo

Odpowiedzialne zarządzanie danymi w AI

Narzędzie rekrutacyjne AI firmy Amazon

  • Amazon: 2015–2017
  • Automatyczna rekrutacja
  • Ocenianie kandydatów za pomocą AI
  • Doprowadziło do skandalu i rezygnacji z projektu

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Odpowiedzialne zarządzanie danymi w AI

Wyzwania modeli AI

Co poszło nie tak?

  • Brak neutralności płciowej
  • Niezrównoważone dane treningowe
  • Ocena AI wyłącznie na podstawie metryk technicznych

niezrównoważone dane

Odpowiedzialne zarządzanie danymi w AI

Czas na ćwiczenia!

Odpowiedzialne zarządzanie danymi w AI

Preparing Video For Download...