Förklarbar AI

AI-etik

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Vad är förklarbar AI?

• AI-system vars inre mekanismer människor förstår
• Mål: Göra AI:s beslutsfattande tydligt och förståeligt
• Hjälper till att förstå varför och hur AI fattar beslut
• Ett viktigt steg mot etisk AI-användning

¹ Icon made by vectorsmarket15 from www.flaticon.com

De centrala pelarna

• Transparens, rättvisa och ansvarsskyldighet är centrala begrepp
• AI:s slutsatser ska vara tillgängliga och logiska för människor

• Modeller byggda med förklarbarhet som grund
• Använder tolkningsbara modeller som beslutsträd eller linjär regression
• Styrkan ligger i att se processen, trots möjligen lägre prestanda

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Hur fungerar det?

Hur fungerar det?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME som en översättare som hjälper modellen att kommunicera
• Skapar en enklare version av modellens beslutsprocess för en specifik prediktion
• Exempel:
  • Förklarar en films succéprediktion utifrån faktorer som regissörens popularitet och hög budget

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: En detektiv inom AI som avslöjar särdragsviktighet
• SHAP i praktiken
  • Regissör: 50%
  • Skådespelare: 30%
  • Genre: 15%
  • Budget: 5%

XAI:s framtid

• Det finns många fler tekniker och metoder inom XAI
• Klyftan mellan XAI och traditionell AI minskar
• Pågående forskning förbättrar AI:s tolkningsbarhet

Nu kör vi en övning!

AI-etik