Ocena ryzyka AI

Strategia AI (sztucznej inteligencji)

Vidhi Chugh

AI strategist and ethicist

Etyczne zabezpieczenia

 

• UNESCO
  • Potrzebne zabezpieczenia
  • Zapobieganie ryzyku, np. stronniczości i dyskryminacji
  • Podstawowe prawa człowieka

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Ryzyka AI

 

• National Institute of Standards and Technology (NIST)

  

 

• Prawdopodobieństwo wystąpienia
• Skala konsekwencji

¹ https://www.nist.gov/artificial-intelligence

Ryzyka związane z danymi

• Prywatność danych
  • Dane wrażliwe

• Stronniczość danych
  • Utrwalanie społecznych uprzedzeń  

Kiedy AI zawodzi

 

• Stronniczość ze względu na płeć

 

• Dyskryminacja rasowa

Naruszenie prywatności danych

• Wysoka kara za naruszenie RODO
• Bezprawne przetwarzanie danych
• Pobieranie zdjęć do rozpoznawania twarzy

 

Konsekwencje biznesowe

Prawne

Konsekwencje biznesowe

Prawne, wizerunkowe

Konsekwencje biznesowe

Szkody prawne, wizerunkowe i finansowe.

Ramy etyczne

Ramy etyczne

Ramy etyczne

Kluczowe filary oceny ryzyka

                Prywatność

                Sprawiedliwość

             Przejrzystość

             Odpowiedzialność

Regulacje i zgodność z przepisami

• Cykl życia projektu AI

• Regulacje i zgodność z przepisami
  • Odpowiedzialność wymaga nadzoru
  • Definiowanie ról i obowiązków
  • Zgodność z przepisami o ochronie danych
  • Zgoda użytkowników i anonimizacja danych

Zbieranie i przygotowanie danych

Oceń

• Zasoby wewnętrzne czy zewnętrzne?
• Dane wrażliwe, np. dane osobowe (PII)?
• Reprezentatywna próba populacji?

Ogranicz ryzyko

• Procesy zapewnienia integralności danych
• Szyfrowanie identyfikatorów, generowanie danych syntetycznych
• Tworzenie zbilansowanych zbiorów danych

Tworzenie i ocena modelu

• Wyjaśnianie wyników modelu
  • Wyjaśnialność i identyfikacja stronniczości
  • Równe traktowanie wszystkich grup

Wdrożenie i monitorowanie modelu

 

• Skala wpływu

• Opracowanie strategii ograniczania ryzyka

 

 

• Wysokie koszty w opiece zdrowotnej i finansach

• Korekta zachowania modelu

 

Czas na praktykę!

Strategia AI (sztucznej inteligencji)