Explicabilidade de LLMs

Conceitos de Inteligência Artificial Explicável (XAI)

Folkert Stijnman

ML Engineer

Modelos de Linguagem Grandes (LLMs)

  • Entender, gerar e interpretar linguagem humana
  • ChatGPT, Bard
  • Treinados com enormes volumes de texto
  • Escrevem artigos, poesias, código
  • Como entender suas decisões?

 

um gráfico de um LLM

Conceitos de Inteligência Artificial Explicável (XAI)

LLMs e explicabilidade

gráfico mostrando como dados entram em um modelo de linguagem grande e como o prompt aciona o modelo

  • Complexos devido a:
    • Profundidade e escala das camadas da rede neural
    • Grandes volumes de texto (terabytes)
Conceitos de Inteligência Artificial Explicável (XAI)

Métodos para explicabilidade em LLMs

Criador

  • Transparência nos dados de treino
  • Usar modelos mais simples
  • Incorporar feedback humano

Usuário final

  • Autoexplicação
  • Ajustar a entrada
Conceitos de Inteligência Artificial Explicável (XAI)

Uso futuro de LLMs

  • Explicabilidade continuará sendo necessária
  • Para gerar confiança e credibilidade

um gráfico mostrando um cérebro com diferentes aspectos de processamento de linguagem

Conceitos de Inteligência Artificial Explicável (XAI)

Vamos praticar!

Conceitos de Inteligência Artificial Explicável (XAI)

Preparing Video For Download...