Novedad de los LLM

Conceptos de grandes modelos lingüísticos (LLM)

Vidhi Chugh

AI strategist and ethicist

Uso de datos de texto

Imagen que muestra el análisis de opiniones, la detección de spam y los asistentes digitales

  • Datos no estructurados: desordenados e inconsistentes
1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

¡Las máquinas no entienden el lenguaje!

Una imagen que muestra la incapacidad de un ordenador para interpretar el lenguaje tal y como es.

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

Necesidad del Procesamiento del lenguaje natural (PLN)

 

Una imagen que muestra el Procesamiento del lenguaje natural (PLN) como el puente entre el texto y los números, que luego son comprendidos por el ordenador.

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

Capacidades únicas de los LLM

 

  • Sutilezas lingüísticas
    • Ironía
    • Humor
    • Juego de palabras
    • Sarcasmo
    • Entonación
    • Intención

Una persona de pie con un portapapeles señalando un texto genérico y un gran signo de interrogación

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

¿Cuál es tu libro favorito?

 

  • Respuesta natural: ¡Vaya, esa es una pregunta difícil!

 

  • Opinión personal: Mi libro favorito de todos los tiempos es Matar a un ruiseñor, de Harper Lee.

 

  • Información adicional: Es una historia impactante sobre los prejuicios, la justicia y la experiencia humana.

 

  • Preguntas de seguimiento: ¿Lo has leído?
Conceptos de grandes modelos lingüísticos (LLM)

Sutilezas lingüísticas

Sarcasmo: Genial, otra reunión.

Modelo lingüístico tradicional:

  • Respuesta: ¿De qué trata la reunión?
    • Neutral
    • No capta el sarcasmo.

 

Modelo de lenguaje de gran tamaño:

  • Respuesta: ¡Parece que estás deseando que llegue!
    • Juguetón
    • Atractivo
    • Sarcástico en la misma medida
Conceptos de grandes modelos lingüísticos (LLM)

¿Cómo entienden los LLM?

 

  • Entrenado con grandes cantidades de datos

  • Magnitud de los LLM: parámetros

  • Los parámetros representan los patrones y las reglas.

  • Más parámetros -> patrones complejos

  • Genera respuestas sofisticadas y precisas.

Conceptos de grandes modelos lingüísticos (LLM)

Parámetros

 

  • Pocos ladrillos -> estructuras limitadas

Imagen que muestra un pequeño número de ladrillos

 

  • Mayor número de ladrillos -> estructuras complejas y detalladas

Imagen que muestra una gran cantidad de ladrillos.

Conceptos de grandes modelos lingüísticos (LLM)

Aparición de nuevas capacidades

 

  • Habilidades emergentes
    • solo presentes en modelos a gran escala

 

  • Escala:

    • El volumen de datos de entrenamiento
    • El número de parámetros del modelo

 

Gráfico que muestra una mejora repentina en el rendimiento del modelo cuando la escala del mismo aumenta más allá de un umbral de transición.

Conceptos de grandes modelos lingüísticos (LLM)

Aparición de nuevas capacidades

 

Una imagen que muestra nuevas capacidades como música, poesía, generación de código, diagnóstico médico y grupos de tratamiento

Conceptos de grandes modelos lingüísticos (LLM)

Componentes básicos de los LLM

Componentes básicos de los LLM

Conceptos de grandes modelos lingüísticos (LLM)

Recapitulemos

Los LLM:

  • Superan la naturaleza desestructurada de los datos.

 

  • Superan a los modelos tradicionales.

 

  • Comprenden las sutilezas lingüísticas.

¿Cómo?

  • Por su tamaño,
  • Por la magnitud de los datos de entrenamiento,
  • Porque disponen de muchos parámetros,
  • Porque surgen nuevas habilidades.
Conceptos de grandes modelos lingüísticos (LLM)

¡Vamos a practicar!

Conceptos de grandes modelos lingüísticos (LLM)

Preparing Video For Download...