Abrindo a caixa preta: transparência

Ética em IA

Joe Franklin

Llama Enthusiast

Natureza de caixa preta

• Implementações de IA costumam ser caixas pretas
• Uma caixa preta em IA:
  • Entradas e saídas conhecidas

             

Ambiguidade não é ideal

• Ambiguidade em IA: desafio ético
• Questão de confiança:
  • Podemos validar decisões da IA sem entender como funcionam?
• Transparência:
  • Tornando o processo de decisão da IA compreensível
• Exemplo:
  • Fatores no modelo de vendas de IA

Ao longo do ciclo de vida da IA

• Transparência em IA envolve todas as etapas do ciclo de vida da IA
• Objetivo:
  • Entender como funciona o sistema de IA
  • Avaliar o nível de conforto com sua operação

Um fator decisivo

• Situação atual:
  • Transparência em IA é incomum
  • Hesitação na adoção da IA
• Implicações futuras:
  • Transparência será um fator decisivo na escolha de usuários de sistemas de IA
• Prática:
  • Organizações devem priorizar a transparência

¹ Ícone de Eucalyp a partir de www.flaticon.com

Transparência é fundamental

• Transparência sobre desafios e aprendizados da IA é fundamental
• A transparência estimula a inovação na IA
• Gera sistemas de IA mais avançados e confiáveis

¹ Ícone de Freepik a partir de www.flaticon.com

Adoção da transparência em IA

• A transparência em IA pode ser assustadora, mas é boa para as empresas

 

• Transparência gera regulamentos previsíveis e percepção do público

 

• Empresas podem competir com base em pontos fortes, cultura e relacionamentos, em vez de sigilo

Vamos praticar!

Ética em IA