Explicabilidade e interpretabilidade

Entendendo a inteligência artificial

Iason Prassides

Content Developer, DataCamp

Explicabilidade e interpretabilidade

Explicabilidade: capacidade dos humanos de acessar e entender os resultados da IA

Explicabilidade em um classificador de pinguins com ML

Interpretabilidade: compreensão dos processos internos dos sistemas de IA – algoritmo, modelo, fluxo de dados

Interpretabilidade em um modelo de ML baseado em árvore de decisão

Sistemas de IA de caixa branca versus caixa preta

Caixa branca: modelos/sistemas transparentes e facilmente interpretáveis

Regressão linear como um modelo de caixa branca

Sistemas de IA de caixa branca versus caixa preta

Caixa branca: modelos/sistemas transparentes e facilmente interpretáveis

Regressão linear e árvore de decisão

Sistemas de IA de caixa branca versus caixa preta

Caixa branca: modelos/sistemas transparentes e facilmente interpretáveis

Regressão linear e árvore de decisão

Sistemas de IA de caixa branca versus caixa preta

Caixa preta: maior complexidade, pouco ou nenhum grau de compreensibilidade

Rede neural profunda como um modelo de caixa preta

Sistemas de IA de caixa branca versus caixa preta

Caixa preta: maior complexidade, pouco ou nenhum grau de compreensibilidade

Rede neural profunda como um modelo de caixa preta

Ferramentas básicas de IA explicável (XAI)

XAI: métodos e ferramentas para aumentar a transparência e a explicabilidade

Introspecção do modelo: exame dos parâmetros internos para entender as decisões

Ferramentas básicas de IA explicável (XAI)

XAI: métodos e ferramentas para aumentar a transparência e a explicabilidade

Introspecção do modelo: exame dos parâmetros internos para entender as decisões

Documentação do modelo: arquitetura compartilhável e considerações de design

Ferramentas básicas de IA explicável (XAI)

XAI: métodos e ferramentas para aumentar a transparência e a explicabilidade

Introspecção do modelo: exame dos parâmetros internos para entender as decisões

Documentação do modelo: arquitetura compartilhável e considerações de design

Visualização do modelo: representação das variáveis independentes e saídas

Ferramentas XAI: importância das variáveis independentes

Importância das variáveis independentes: impacto das variáveis preditoras nos resultados do modelo

Entender como os modelos orientados por dados (ML/DL) tomam decisões
Detectar e mitigar problemas, p.ex., vieses
Impacto no desempenho ao remover uma variável independente

SHAP (SHapley Additive exPlanations)

Ferramentas de visualização da importância das variáveis independentes

Visualizações SHAP para explicabilidade

Ferramentas XAI: importância das variáveis independentes

SHAP (SHapley Additive exPlanations)

Gráfico SHAP de importância das variáveis independentes para o modelo de previsão de admissão na universidade

Ferramentas XAI: importância das variáveis independentes

SHAP (SHapley Additive exPlanations)

Visualizações SHAP para explicabilidade

Ferramentas XAI: importância das variáveis independentes

SHAP (SHapley Additive exPlanations)

Visualizações SHAP para explicabilidade

Implicações práticas da XAI

Transparência algorítmica:
- Como os algoritmos processam dados e tomam decisões

Interpretabilidade local e global:
- Compreender o comportamento do sistema para uma previsão específica, vs
- Entenda o comportamento geral do sistema em um conjunto de dados ou problema

Considerações éticas:
- XAI para tratar de questões éticas de IA: vieses, discriminação, conformidade, etc.

Colaboração entre humanos e IA:
- Colaboração confiável baseada em confiança e feedback

Vamos praticar!

Entendendo a inteligência artificial