IA explicável

Ética em IA

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

O que é IA explicável?

• Sistemas de IA cujo funcionamento é compreendido por humanos
• Objetivo: tornar a tomada de decisões da IA clara, compreensível e explicável
• Ajuda a entender por que e como a IA decide
• Grande passo em direção ao uso ético da IA

¹ Ícone de vectorsmarket15 a partir de www.flaticon.com

Os pilares centrais

• Transparência, imparcialidade e responsabilidade importam
• Conclusões da IA devem ser acessíveis e lógicas para humanos

• Modelos criados com a explicabilidade em mente
• Modelos interpretáveis, como árvores de decisão ou regressão linear
• Ver o processo, apesar do possível desempenho inferior

¹ Ícones de juicy_fish e Becris a partir de www.flaticon.com

Como funciona?

Como funciona?

Explicações locais interpretáveis e independentes de modelo (LIME)

• LIME como tradutor que ajuda o modelo a se comunicar
• Cria uma versão simples do processo de decisão do modelo para uma previsão específica
• Exemplo:
  • Explica a previsão de sucesso do filme com base em fatores como seu diretor e orçamento

¹ Ícone de Freepik a partir de www.flaticon.com

Explicações Aditivas de Shapley (SHAP)

• SHAP: detetive da IA, mostra a importância de características
• SHAP em ação
  • Diretor: 50%
  • Elenco: 30%
  • Gênero: 15%
  • Orçamento: 5%

Futuro da XAI

• Muitas outras técnicas e abordagens existem na XAI.
• O vão entre XAI e a IA tradicional está diminuindo
• Pesquisas estão melhorando a interpretabilidade da IA

Vamos praticar!

Ética em IA