IA Explicabilă

Etică în AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Ce este IA explicabilă?

• Sisteme IA al căror mod de funcționare intern este înțeles de oameni
• Scop: Procesul decizional al IA să fie clar, inteligibil și explicabil
• Ajută la înțelegerea motivului și modului în care IA ia decizii
• Pas important spre utilizarea etică a IA

¹ Icon made by vectorsmarket15 from www.flaticon.com

Pilonii centrali

• Transparența, corectitudinea, responsabilitatea sunt esențiale
• Concluziile IA trebuie să fie accesibile și logice pentru oameni

• Modele construite cu explicabilitatea ca principiu de bază
• Utilizează modele interpretabile precum arbori de decizie sau regresie liniară
• Avantajul vizibilității procesului, chiar dacă performanța poate fi mai redusă

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Cum funcționează?

Cum funcționează?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME ca traducător care ajută modelul să comunice
• Creează o versiune simplificată a procesului decizional pentru o predicție specifică
• Exemplu:
  • Explică predicția unui film de succes pe baza unor factori precum popularitatea regizorului și bugetul ridicat

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: Un detectiv al IA, care dezvăluie importanța caracteristicilor
• SHAP în acțiune
  • Regizor: 50%
  • Distribuție: 30%
  • Gen: 15%
  • Buget: 5%

Viitorul XAI

• Există multe alte tehnici și abordări în XAI
• Decalajul dintre XAI și IA tradițională se reduce
• Cercetările în curs îmbunătățesc interpretabilitatea IA

Să exersăm!

Etică în AI