Wyjaśnialna AI

Etyka AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Czym jest wyjaśnialna AI?

• Systemy AI, których działanie jest zrozumiałe dla człowieka
• Cel: przejrzyste i zrozumiałe podejmowanie decyzji przez AI
• Pomaga zrozumieć, dlaczego i jak AI podejmuje decyzje
• Ważny krok w stronę etycznego wykorzystania AI

¹ Ikony: vectorsmarket15 z www.flaticon.com

Główne filary

• Przejrzystość, sprawiedliwość, odpowiedzialność jako filary
• Wnioski AI powinny być zrozumiałe i logiczne dla człowieka

• Modele z wyjaśnialnością wbudowaną od podstaw
• Korzysta z interpretowalnych modeli, np. drzew decyzyjnych lub regresji liniowej
• Wgląd w proces decyzyjny – mimo możliwie niższej wydajności

¹ Ikony: juicy_fish i Becris z www.flaticon.com

Jak to działa?

Jak to działa?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME jako tłumacz, który pomaga modelowi komunikować decyzje
• Tworzy uproszczony opis procesu decyzyjnego dla konkretnej predykcji
• Przykład:
  • Wyjaśnia prognozę hitu filmowego na podstawie popularności reżysera i wysokiego budżetu

¹ Ikony: Freepik z www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: detektyw AI ujawniający ważność cech
• SHAP w działaniu
  • Reżyser: 50%
  • Obsada: 30%
  • Gatunek: 15%
  • Budżet: 5%

Przyszłość XAI

• W XAI istnieje wiele technik i podejść
• Różnica między XAI a tradycyjną AI maleje
• Trwające badania poprawiają interpretowalność AI

Czas na praktykę!

Etyka AI