Vysvětlitelná AI

Etika umělé inteligence

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Co je vysvětlitelná AI?

• Systémy AI, jejichž vnitřní fungování je lidem srozumitelné
• Cíl: Zpřehlednit a vysvětlit rozhodování AI
• Pomáhá pochopit, proč a jak AI dospívá k rozhodnutím
• Důležitý krok k etickému využívání AI

¹ Icon made by vectorsmarket15 from www.flaticon.com

Hlavní pilíře

• Klíčové jsou transparentnost, spravedlnost a odpovědnost
• Závěry AI by měly být pro lidi přístupné a logické

• Modely postavené se zaměřením na vysvětlitelnost
• Využívá interpretovatelné modely, jako jsou rozhodovací stromy nebo lineární regrese
• Výhodou je viditelnost procesu i přes možný nižší výkon

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Jak to funguje?

Jak to funguje?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME jako překladač, který pomáhá modelu komunikovat
• Vytváří zjednodušenou verzi rozhodovacího procesu modelu pro konkrétní predikci
• Příklad:
  • Vysvětluje predikci úspěchu filmu na základě faktorů, jako je popularita režiséra a vysoký rozpočet

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: detektiv AI odhalující důležitost příznaků
• SHAP v akci
  • Režisér: 50%
  • Obsazení: 30%
  • Žánr: 15%
  • Rozpočet: 5%

Budoucnost XAI

• V oblasti XAI existuje mnoho dalších technik a přístupů
• Rozdíl mezi XAI a tradiční AI se zmenšuje
• Probíhající výzkum zlepšuje interpretovatelnost AI

Pojďme si procvičit!

Etika umělé inteligence