Explicações independentes do modelo

Conceitos de Inteligência Artificial Explicável (XAI)

Folkert Stijnman

ML Engineer

Modelos caixa‑preta

• Sabemos o que entra
• Sabemos o que sai
• No meio há muitos parâmetros internos

Explicações globais e locais

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Age como um detetive
• Olha cada variável
• Ajuda a medir o impacto relativo de cada ingrediente no resultado final

Valores de Shapley

• Conceito da teoria dos jogos cooperativos
• Mede o impacto das variáveis
• Quais variáveis influenciam a previsão do modelo

SHAP em reconhecimento de imagens

LIME (Local Interpretable Model-agnostic Explanations)

• Age como um cientista
• Muda a entrada para ver o resultado
• E se alterarmos alguns pixels desta imagem?

Construindo um carro autônomo

SHAP

• Visão global
• Impacto das variáveis do carro no desempenho geral

LIME

• Visão local
• Impacto das variáveis do carro em uma decisão específica

Vamos praticar!

Conceitos de Inteligência Artificial Explicável (XAI)