Quand faire confiance aux LLM ?

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Maximiser Duolingo

  • Duolingo Max
    • Utilise ChatGPT pour des conversations naturelles

Logo du produit Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Maximiser Duolingo

  • Duolingo Max
    • Utilise ChatGPT pour des conversations naturelles
  • Les apprenants pratiquent les langues
    • GPT adopte différentes personnalités
    • Donne un retour instantané

Utilisation de Duolingo Max sur une application mobile

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Comprendre les LLM

  • Les dirigeants doivent vraiment comprendre les LLM
  • Les LLM ne sont pas magiques !
    • Ils prédisent souvent la suite d’une séquence
  • Ils ne comprennent pas le langage comme les humains

Magicien avec une baguette réalisant des tours

Large Language Models for Business

Du bon sens dans les LLM ?

Homme tenant une étiquette où est écrit « bon sens »

  • Les LLM n’ont pas de notion de « vérité »
  • Ils manquent de bon sens
  • La supervision humaine est essentielle pour tout usage
  • S’y fier seul peut avoir des effets indésirables
Large Language Models for Business

Surveillance de l’entraînement

  • Les LLM dépendent de leurs données d’entraînement
  • Les biais ou injustices sociales peuvent être amplifiés
    • Vérifiez les réponses pour détecter les contenus nocifs

Pièces empilées à différentes hauteurs avec des pions de couleur au sommet

Large Language Models for Business

Y a‑t‑il des biais ?

  • Les LLM apprennent aussi à partir de propos haineux
    • Leurs réponses peuvent donc l’être
  • Jeux de données contenant des biais
    • Induisent des biais systémiques en sortie
  • Cela peut perpétuer préjugés, stéréotypes ou désinformation
  • Des garde-fous ont été ajoutés par les développeurs
  • Les entreprises doivent rester vigilantes et instaurer des protections

Image avec le mot misinformation

Large Language Models for Business

Flexibilité : atouts et risques

  • Même prompt -> réponses différentes
  • Utile en création, problématique ailleurs
  • L’équipe marketing rédige une description produit avec des LLM :
    • Les clients voient des descriptions différentes
    • L’image de marque peut en souffrir

Homme comparant deux produits au supermarché, identiques sauf la couleur de l’emballage

Large Language Models for Business

Alerte sécurité !

  • Les LLM sont complexes mais restent vulnérables
  • Des attaquants peuvent intégrer des prompts malveillants sur des sites
    • Cela peut fausser leurs réponses
  • C’est le prompt injection
  • Risque d’atteinte à la réputation

Point d’exclamation rouge dans un triangle signalant une alerte de sécurité

Large Language Models for Business

Le défi des LLM

  • Beaucoup de défis sont propres aux secteurs
  • Open Worldwide Application Security Project (OWASP)
    • Quantifie ces défis
  • Les entreprises doivent connaître ces risques
  • Comprendre les spécificités des LLM
  • Assurer une supervision humaine
  • Investir dans la formation et la sécurité

Panneau routier montrant un homme franchissant une haie avec le texte « Challenges Ahead »

1 https://owasp.org/
Large Language Models for Business

Passons à la pratique !

Large Language Models for Business

Preparing Video For Download...