Wyzwania odpowiedzialnej AI

Odpowiedzialne zarządzanie danymi w AI

Maria Prokofieva

Lead ML Engineer

Odpowiedzialne zarządzanie danymi w praktyce

Złożone

Wiąże się z kompromisami

Wymaga oceny profesjonalnej

Odpowiedzialna AI: niebieski okrąg z dłonią trzymającą ilustrację chipa AI

Typowe kompromisy

Kompromisy

Wymiary odpowiedzialnej AI

Czynniki biznesowe

Zysk kosztem sprawiedliwości i prywatności
Przychody kosztem testowania i bezpieczeństwa

Modele wstępnie wytrenowane

Redukcja kosztów
Oszczędność czasu i zasobów
Brak potrzeby zbierania danych i trenowania
Mogą zawierać stronnicze dane treningowe
Brak przejrzystości

Modele wstępnie wytrenowane

Korzystanie z modeli wstępnie wytrenowanych

Weryfikacja źródła modelu
Dobra reputacja
Wiarygodność
Przegląd dokumentacji modelu
Dodatkowe testy pod kątem stronniczości

Kompromis metryki

Dokładność kosztem sprawiedliwości
Nawet w zbalansowanych zbiorach danych

Kompromisy dokładności

Niższa dokładność dla określonych grup
Brak uwzględnienia jakości i ilości danych dla grup niedoreprezentowanych
Ochrona prywatności obniża dokładność

Rozpoznawanie twarzy

Kompromisy odporności

Kompromis metryki

Odporność a stronniczość
Odporność a sprawiedliwość

Postępowanie zawodowe i obowiązki staranności

Kodeks etyki i postępowania
Wytyczne różnią się w zależności od kraju i organizacji
Odpowiedzialność, nieszkodzenie, sprawiedliwość
Prywatność i poufność użytkowników
Pozytywny wpływ na społeczeństwo
Utrzymanie wysokich standardów
Tworzenie odpornych i bezpiecznych systemów
Inkluzywność i niedyskryminacja

ACM

¹ https://www.acm.org/code-of-ethics

Czas na ćwiczenia!

Odpowiedzialne zarządzanie danymi w AI

Preparing Video For Download...