Cuestiones empresariales, operativas y éticas

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Transparencia

  • Transparencia sobre los LLM
  • Las empresas deben saber cómo un LLM llega a una respuesta
  • Es clave para generar confianza

Las palabras «Truth» y «Trust» escritas con bloques de madera

Large Language Models for Business

Responsabilidad

Figuras de madera en círculo, con una figura de color distinta en el centro

  • Si las recomendaciones del LLM no funcionan
    • ¿Quién responde?
  • ¿Los desarrolladores que diseñaron el modelo?
  • ¿La empresa que lo implementó?
Large Language Models for Business

Riesgos de los LLM

  • Riesgo inherente de propagar desinformación
  • Posibles repercusiones para la empresa:
    • Basar decisiones en datos incorrectos
    • Impactar en el resultado
    • Dañar la reputación
  • Peligro de que los LLM se usen como arma:
    • Engañar, manipular o confundir a los grupos de interés
    • Riesgos reputacionales y operativos

Dibujo de un hombre sobre bloques que forman «Risk», midiendo su altura

Large Language Models for Business

LLM y medio ambiente

  • La potencia de cómputo para entrenar LLM consume mucha energía
  • Genera una gran huella de carbono
  • Las empresas deben entender y mitigar el impacto ambiental

Una mano robótica sosteniendo la Tierra, con un árbol creciendo arriba

Large Language Models for Business

¿Cómo construir LLM?

  • Hay consideraciones prácticas que sopesar
  • ¿Crear LLM internos o usar proveedores externos?
Large Language Models for Business

Recursos tecnológicos

Interno

  • Requiere muchos recursos: infraestructura y datos
  • ¿Se puede invertir? Dinero y tiempo

Externo

  • Acceso inmediato y escalabilidad
  • Sin sobrecarga de desarrollo

Dibujo de un hombre apilando monedas sobre un gran despertador

Imagen de una libreta con gastos operativos a la baja, con una taza y los brazos de un hombre

Large Language Models for Business

LLM personalizados

Interno

  • Ajusta los LLM a necesidades específicas
  • Modelos afinados con datos de la empresa

Externo

  • Rendimiento sofisticado
  • Modelos más genéricos, salvo personalización

La palabra «customization» tocada por un dedo humano

Imagen de productos genéricos apilados en un supermercado, con tonos del mismo color

Large Language Models for Business

Actualizaciones y mantenimiento

Interno

  • El mantenimiento mantiene los LLM eficaces y seguros
  • Coste continuo para la empresa

Externo

  • La empresa no es responsable
  • El proveedor gestiona actualizaciones y mantenimiento

Dibujo de una mujer con su móvil; al fondo, iconos de mantenimiento y actualizaciones

Las palabras «Third Party Service» en una hoja con clip

Large Language Models for Business

Gestión de datos

Interno

  • Mantiene el control de los datos
  • Importante con datos sensibles

Externo

  • Puede requerir compartir datos
  • Riesgos de seguridad y privacidad

Dibujo de un hombre usando un portátil y dando la mano a otro en la pantalla

Dibujos de personajes robando y obteniendo información de un portátil

Large Language Models for Business

Eficiencia de costes

Interno

  • Equilibrar costes recurrentes para ser rentable
  • Los costes iniciales son altos

Externo

  • Costes recurrentes
  • Costes iniciales bajos

Dibujo de un hombre con un enchufe que conecta dinero con una bombilla

Dibujo de un hombre llevando una tarjeta frente a una fecha en un calendario

Large Language Models for Business

¡La decisión es tuya!

Un cartel con dos direcciones: externalizar o interno

Large Language Models for Business

¡Vamos a practicar!

Large Language Models for Business

Preparing Video For Download...