Preocupações éticas e ambientais

Conceitos de Grandes Modelos de Linguagem (LLMs)

Vidhi Chugh

AI strategist and ethicist

Preocupações éticas

  • Riscos de transparência

Riscos de transparência

Conceitos de Grandes Modelos de Linguagem (LLMs)

Preocupações éticas

  • Riscos de transparência
  • Riscos de responsabilidade -

Riscos de transparência e responsabilidade

Conceitos de Grandes Modelos de Linguagem (LLMs)

Preocupações éticas

  • Riscos de transparência

  • Riscos de responsabilidade

  • Riscos de informação

As três preocupações éticas: riscos de transparência, responsabilidade e informação

Conceitos de Grandes Modelos de Linguagem (LLMs)

Riscos de transparência

  • Complicado entender o resultado

 

  • Difícil identificar problemas
    • Vieses
    • Erros
    • Uso indevido
  • Caixa preta

 

  • Exemplo: raciocínio ao prever os resultados de uma doença

Vieses, erros ou uso indevido da saída gerada pelo LLM

Conceitos de Grandes Modelos de Linguagem (LLMs)

Riscos de responsabilidade

  • Responsabilidade pelas ações dos LLMs

 

  • Quem é responsável?
    • Conselhos incorretos e prejudiciais
    • Desenvolvedor do modelo ou a empresa?

 

  • Jogo sem regras
    • Falta transparência
    • Falta responsabilidade

 

Responsabilidade do desenvolvedor ou da entidade que implementa LLMs

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Riscos de informação

Riscos de informação Divulgação de informações prejudiciais

  • Geração de conteúdo prejudicial
  • Propagação de informações erradas
  • Uso mal-intencionado
  • Toxicidade
Conceitos de Grandes Modelos de Linguagem (LLMs)

Riscos de informação

 

Geração de conteúdo prejudicial

  • Prejudicial, ofensivo ou impróprio

 

  • Prompt ou treinamento enviesado

 

  • Exemplo:
    • Bullying x ambiente escolar amigável
    • Perturbador e prejudicial

 

Propagação de informações erradas

  • Gerar textos sobre qualquer assunto

 

  • Mas sem verificação!

 

  • Exemplo:
    • “Qual dieta é boa para perder peso?”
    • Dieta sem fundamentação
Conceitos de Grandes Modelos de Linguagem (LLMs)

Riscos de informação

 

Uso mal-intencionado

  • Pessoas de má-fé explorando LLMs

 

  • Gerar conteúdo enganoso

 

  • Exemplo:
    • Notícias inventadas
    • Manipular o público e causar agitação

 

Toxicidade

  • Conteúdo impróprio

 

  • Treinamento ou via prompts manipulados

 

  • Exemplo:
    • Respostas indelicadas
    • Estereótipos
Conceitos de Grandes Modelos de Linguagem (LLMs)

Preocupações ambientais

 

  • Pegada ecológica de LLMs

 

  • Recursos energéticos substanciais para treinar

 

  • Impacto por meio das emissões de carbono

Redução das emissões de carbono

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

O resfriamento também requer eletricidade!

  • Geram muito calor, exigindo refrigeração

 

  • Imagine muitos notebooks superaquecendo
    • Complexos sistemas de refrigeração
    • Aumento do impacto ambiental

 

  • Equilibrar custos e benefícios
    • Usar energia renovável
    • Tecnologias de alta eficiência energética

 

Imagem que mostra o equilíbrio entre o custo ambiental e a inovação tecnológica

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Vamos praticar!

Conceitos de Grandes Modelos de Linguagem (LLMs)

Preparing Video For Download...