Explicabilidad de los LLM

Conceptos de inteligencia artificial explicable (XAI)

Folkert Stijnman

ML Engineer

Modelos de lenguaje grandes (LLM)

  • Entender, generar e interpretar lenguaje humano
  • ChatGPT, Bard
  • Entrenados con enormes volúmenes de texto
  • Escribir artículos, poesía, código
  • ¿Cómo entender sus decisiones?

 

un gráfico de un LLM

Conceptos de inteligencia artificial explicable (XAI)

LLM y explicabilidad

gráfico que muestra cómo entran datos a un modelo de lenguaje grande y cómo se le hace prompting

  • Complejos por:
    • Profundidad y escala de las capas neuronales del modelo
    • Grandes volúmenes de texto (terabytes de datos)
Conceptos de inteligencia artificial explicable (XAI)

Métodos para la explicabilidad de LLM

Creador

  • Transparencia en los datos de entrenamiento
  • Usar modelos más simples
  • Incluir feedback humano

Usuario final

  • Autoexplicación
  • Ajustar la entrada
Conceptos de inteligencia artificial explicable (XAI)

Uso futuro de los LLM

  • Mejorar la explicabilidad seguirá siendo necesario
  • Generar confianza y seguridad

gráfico de un cerebro con aspectos del procesamiento del lenguaje

Conceptos de inteligencia artificial explicable (XAI)

¡Vamos a practicar!

Conceptos de inteligencia artificial explicable (XAI)

Preparing Video For Download...