Verklaarbare AI

AI-ethiek

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Wat is verklaarbare AI?

• AI-systemen waarvan mensen begrijpen hoe ze werken.
• Doel: de besluitvorming van AI duidelijk, begrijpelijk en verklaarbaar maken.
• Begrijpen waarom en hoe AI beslissingen neemt.
• Grote stap naar ethisch gebruik van AI.

¹ Pictogram gemaakt door vectorsmarket15 van www.flaticon.com

De kernpilaren

• Transparantie, eerlijkheid en verantwoordelijkheid staan centraal.
• AI-conclusies moeten begrijpelijk en logisch zijn voor mensen.

• Verklaarbaarheid als kernconcept.
• Interpreteerbare modellen, zoals beslissingsbomen of lineaire regressie.
• De kracht van het proces zien, ondanks eventueel mindere prestaties.

¹ Pictogrammen gemaakt door juicy_fish & Becris van www.flaticon.com

Hoe werkt het?

Hoe werkt het?

Lokaal interpreteerbare model-agnostische verklaringen (LIME)

• LIME als vertaler die het model helpt communiceren.
• Maakt een eenvoudige versie van het besluitproces van het model voor een bepaalde voorspelling.
• Voorbeeld:
  • Legt uit waarom wordt voorspeld dat een film een hit wordt, bijv. een populaire regisseur en een groot budget.

¹ Pictogram gemaakt door Freepik van www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: AI-detective die het belang van verschillende elementen laat zien.
• SHAP in actie
  • Regisseur: 50%
  • Cast: 30%
  • Genre: 15%
  • Budget: 5%

De toekomst van XAI

• Er zijn nog veel meer technieken en benaderingen voor XAI.
• Het verschil tussen XAI en traditionele AI wordt steeds kleiner.
• Doorlopend onderzoek maakt AI steeds begrijpelijker.

Laten we oefenen!

AI-ethiek