Por que a IA Explicável é importante

Conceitos de Inteligência Artificial Explicável (XAI)

Folkert Stijnman

ML Engineer

Um sistema de IA

Predição: analisar dados, achar padrões e fazer previsões
- Exemplos: tendências de mercado, riscos à saúde e padrões climáticos
Geração: criar conteúdo a partir da entrada do usuário
- Exemplos: texto, código, imagens e sons

IA Explicável (XAI)

Lacuna entre tecnologia e compreensão
Transparência
Interpretabilidade
Responsabilização
Confiança na IA

robô e mão se tocando

Transparência em IA

foto de janela de carro embaçada

Transparência em IA: capacidade de entender e rastrear como sistemas de IA tomam decisões ou fazem previsões
Garante justiça e precisão
Também torna a IA justificável

Interpretabilidade e responsabilização

Interpretabilidade: até que ponto uma pessoa entende a causa de uma decisão feita por um sistema de IA
Importante em áreas de alto risco, como saúde
Responsabilização: atribuir responsabilidade pelas ações e decisões de sistemas de IA

balança da justiça dentro de um computador

Construindo confiança em sistemas de IA

elevador tradicional em preto e branco

Pessoas tendem a desconfiar de novas soluções automatizadas
Entender gera confiança
Relação entre humanos e tecnologia

Por que XAI importa?

XAI permite que sistemas de IA sejam:

Eficazes e justificáveis
Claros e compreensíveis
Promovam confiança e justiça
Fortaleçam a relação entre humanos e tecnologia

Vamos praticar!

Conceitos de Inteligência Artificial Explicável (XAI)

Preparing Video For Download...