Para onde estão indo os LLMs?

Conceitos de Grandes Modelos de Linguagem (LLMs)

Vidhi Chugh

AI strategist and ethicist

A jornada até agora

Noções básicas de LLMs

Conceitos de Grandes Modelos de Linguagem (LLMs)

A jornada até agora

Aplicações de LLMs no PLN

Conceitos de Grandes Modelos de Linguagem (LLMs)

A jornada até agora

Processos de treinamento que envolvem considerações sobre dados, ética e impacto ambiental

Conceitos de Grandes Modelos de Linguagem (LLMs)

A jornada até agora

O futuro dos LLMs

Conceitos de Grandes Modelos de Linguagem (LLMs)

Explicabilidade dos modelos

 

  • Como eles chegam aos resultados?

 

  • Planejamento de uma viagem de carro
    • Por que essa rota em particular?
    • Por que esses lugares específicos?

 

  • Gera confiança e transparência
  • Identificar e corrigir erros ou vieses

 

Confiança e explicabilidade

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Eficiência

  • Eficiência computacional

    • Resultados de alta qualidade com menos computação

  • Mais rápidos e eficientes

    • Compressão de modelos
    • Otimização

  • Vantagens: melhor armazenamento e menor consumo de energia

  • Acessibilidade e sustentabilidade

    • Promove a IA ecológica
    • Reduz custos operacionais

Eficiência

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Tratamento não supervisionado de vieses

  • Dados enviesados -> discriminação

  • Tratamento não supervisionado de vieses

    • Técnicas automáticas de detecção e mitigação de vieses
    • Não requer dados rotulados por humanos
    • Identifica e reduz vieses pela análise de padrões

  • Desafio

    • Sutis, difíceis de detectar
    • Pode inserir novos vieses

Supervisão

Conceitos de Grandes Modelos de Linguagem (LLMs)

Maior criatividade

  • Criatividade em formas de arte baseadas em textos e elementos visuais
  • Conteúdo artístico: padrões aprendidos, não compreensão emocional
  • Não têm uma compreensão semelhante à humana da arte ou das emoções
  • Demonstrar comportamentos emocionais parecidos com os de humanos
  • Futuro: inferência de emoções

Quatro imagens geradas por IA

1 https://arxiv.org/pdf/2302.09582.pdf
Conceitos de Grandes Modelos de Linguagem (LLMs)

Vamos praticar!

Conceitos de Grandes Modelos de Linguagem (LLMs)

Preparing Video For Download...