Quand faire confiance aux LLM

Grands modèles de langage pour les affaires

Iason Prassides

Content Developer, DataCamp

Tirer le maximum de Duolingo

• Duolingo Max
  • Utilise ChatGPT pour des échanges quasi humains

¹ https://blog.duolingo.com/duolingo-max/

Tirer le maximum de Duolingo

• Duolingo Max
  • Utilise ChatGPT pour des échanges quasi humains
• Les apprenants pratiquent des langues
  • GPT adopte diverses personnalités
  • Donne une rétroaction instantanée

¹ https://blog.duolingo.com/duolingo-max/

Comprendre les LLM

• Les dirigeant·e·s doivent vraiment comprendre les LLM
• Les LLM ne sont pas magiques !
  • Ils prédisent souvent la suite d'une séquence
• Ils ne comprennent pas la langue comme les humains

Du gros bon sens chez les LLM ?

• Les LLM n'ont aucune notion de ce qui est « vrai »
• Ils manquent de gros bon sens
• La supervision humaine est essentielle dans tous les cas d'usage
• S'en remettre uniquement aux LLM peut avoir des effets indésirables

Surveillance de l'entraînement

• Les LLM dépendent des données qui les entraînent
• Les biais ou l'injustice sociale peuvent être amplifiés par les LLM
  • Vérifiez les réponses pour repérer les sorties nuisibles

Y a-t-il des biais ?

• Les LLM s'entraînent aussi sur des propos haineux
  • Leurs réponses peuvent alors être haineuses
• Des ensembles de données biaisés
  • Produisent des LLM aux biais systémiques
• Cela peut perpétuer préjugés, stéréotypes ou mésinformation
• Des mesures ont été ajoutées pour prévenir cela
• Les entreprises doivent en être conscientes et prévoir des garde-fous

Souplesse et conséquences

• Même invite → réponses différentes
• Utile en création, problématique ailleurs
• L'équipe marketing rédige une description de produit avec des LLM :
  • Les clients voient des descriptions différentes
  • L'image de marque peut en souffrir

Alerte de sécurité !

• Les LLM sont complexes, mais restent contournables
• Des acteurs malveillants peuvent intégrer des invites nocives dans des sites Web
  • Cela peut fausser les sorties des LLM
• Appelé injection d'invite
• Peut nuire à la réputation

Le défi des LLM

• Plusieurs enjeux sont propres au secteur
• Open Worldwide Application Security Project (OWASP)
  • Quantifie les enjeux
• Les entreprises doivent connaître ces risques
• Comprendre les subtilités des LLM
• Assurer une supervision humaine
• Investir en formation et en sécurité

¹ https://owasp.org/

Passons à la pratique !

Grands modèles de langage pour les affaires