Cuándo confiar en los LLM

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Maximizando Duolingo

  • Duolingo Max
    • Usa ChatGPT para conversaciones naturales

Logotipo del producto Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Maximizando Duolingo

  • Duolingo Max
    • Usa ChatGPT para conversaciones naturales
  • Los alumnos practican idiomas
    • GPT adopta distintas personalidades
    • Da feedback al instante

Uso de Duolingo Max en una app móvil

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Entendiendo los LLM

  • Los líderes deben entender bien los LLM
  • ¡Los LLM no son magia!
    • Predicen la siguiente parte de una secuencia
  • No entienden el lenguaje como los humanos

Mago con varita haciendo trucos

Large Language Models for Business

¿Sentido común en los LLM?

Hombre sosteniendo una etiqueta que dice "sentido común"

  • Los LLM no saben qué es "verdadero"
  • Les falta sentido común
  • La supervisión humana es clave en cada caso
  • Confiar solo en LLM puede tener consecuencias no deseadas
Large Language Models for Business

Supervisión del entrenamiento

  • Los LLM dependen de los datos de entrenamiento
  • Pueden amplificar sesgos o injusticias sociales
    • Revisa las respuestas para detectar daños

Monedas apiladas a distintas alturas con fichas de colores encima

Large Language Models for Business

¿Hay sesgo?

  • Los LLM se entrenan también con odio
    • Sus respuestas pueden ser odiosas
  • Conjuntos de datos con sesgos
    • Generan salidas con sesgo sistémico
  • Pueden perpetuar prejuicios, estereotipos o desinformación
  • Los desarrolladores añadieron medidas preventivas
  • Las empresas deben conocerlo y aplicar salvaguardas

Imagen con la palabra desinformación

Large Language Models for Business

Flexibilidad y consecuencias

  • Mismo prompt -> respuestas distintas
  • Útil en lo creativo; problemático en otros usos
  • Marketing crea descripciones con LLM:
    • Los clientes ven textos distintos
    • La marca puede dañarse

Hombre comparando dos productos casi iguales en un supermercado

Large Language Models for Business

¡Alerta de seguridad!

  • Los LLM son complejos pero se pueden engañar
  • Atacantes incrustan prompts maliciosos en webs
    • Pueden desviar las salidas del LLM
  • Se llama inyección de prompts
  • Puede dañar la reputación

Signo de exclamación rojo en un triángulo indicando alerta de seguridad

Large Language Models for Business

El reto de los LLM

  • Muchos retos son específicos del sector
  • Open Worldwide Application Security Project (OWASP)
    • Cuantifica los retos
  • Las empresas deben conocer los riesgos
  • Comprender las particularidades de los LLM
  • Asegurar supervisión humana
  • Invertir en formación y seguridad

Señal de tráfico con un hombre saltando una valla y el texto "Challenges Ahead"

1 https://owasp.org/
Large Language Models for Business

¡Vamos a practicar!

Large Language Models for Business

Preparing Video For Download...