Ética de dados e ética de IA

Introdução à ética de dados

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

O que é IA?

Ilustração de IA com entrada de dados e decisão de modelo

  • A IA combina algoritmos e um conjunto de dados robusto para resolver problemas
  • A IA avançada usa grandes conjuntos de dados
  • Grande potencial, faca de dois gumes, considerações éticas
Introdução à ética de dados

Os dados são o combustível para a IA

Ilustração da importância dos dados para a IA com uma analogia culinária

  • Modelos de IA precisam de muitos dados; a maior parte dos esforços de IA é gasta em dados
  • Dados ruins levam a resultados ruins de IA
  • A ética de IA é mais abrangente do que a ética de dados; é importante saber as semelhanças e diferenças
1 Fonte da foto: Webinar de Andrew Ng, MLOps: From Model-centric to Data-centric AI
Introdução à ética de dados

O bom e o incrível

Uma colagem de um alto-falante do assistente de voz, uma captura de tela do chatGPT e uma captura de tela da página inicial da Netflix

  • Assistentes de voz, IA de conversação
  • Recomendações de filmes

Uma imagem de raio X da mama com dois tumores em diferentes estágios de crescimento

  • IA para o bem
  • Diagnóstico precoce de câncer
  • Agricultura de precisão; redução do uso de água e pesticidas
Introdução à ética de dados

O ruim e o feio

Uma colagem de capturas de tela de notícias sobre discriminação de algoritmos de IA

  • Discriminação na contratação, acesso à saúde e julgamentos justos em tribunais
  • Muitos motivos: conjuntos de dados tendenciosos, modelos de IA complexos e obscuros, falta de explicações
  • A ética de IA vai além da ética de dados
Introdução à ética de dados

Dilemas éticos da IA

A ética de IA vai além da ética de dados

  • Consequências da tomada de decisões com IA:
    • Acesso a crédito/empréstimos
    • Contratação
  • Discriminação por IA
  • IA/robôs assumindo empregos
  • Os robôs/drones ceifarão menos vidas humanas em uma guerra?
  • O que significa ser humano?
  • Podemos codificar a moralidade na IA?

Imagem de uma placa de trânsito apontando para direções opostas com um fundo de montanha.

1 Fonte da foto: unsplash.com
Introdução à ética de dados

O que uma IA deve fazer?

  • Carro autônomo com falha repentina de freio
  • Continuar em frente ou desviar
  • Continuar matará uma mulher, um homem e uma senhora
  • Desviar matará uma jovem e duas crianças
  • Quem é responsável?

Ilustração de um dilema ético de um carro autônomo

1 https://moralmachine.mit.edu/
Introdução à ética de dados

Resumo de diretrizes éticas da IA

Muitas organizações e órgãos estão trabalhando em diretrizes de ética de IA

  • Agência humana e supervisão
  • Robustez técnica e segurança
  • Privacidade e governança de dados
  • Transparência
  • Diversidade, não discriminação e imparcialidade
  • Bem-estar ambiental e social
  • Responsabilidade

Imagem do inventário de diretrizes de ética de IA do algorithm watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introdução à ética de dados

A sobreposição de dados

  • Privacidade, segurança, proteção de dados
  • Viés e imparcialidade
  • Transparência
  • Responsabilidade

Ilustração da sobreposição de dados e ética de IA

Introdução à ética de dados

Vamos praticar!

Introdução à ética de dados

Preparing Video For Download...