Enjeux éthiques et environnementaux

Concepts sur les grands modèles de langage (LLM)

Vidhi Chugh

AI strategist and ethicist

Enjeux éthiques

  • Risque de transparence

Risque de transparence

Concepts sur les grands modèles de langage (LLM)

Enjeux éthiques

  • Risque de transparence
  • Risque de responsabilité -

Transparence et responsabilité

Concepts sur les grands modèles de langage (LLM)

Enjeux éthiques

  • Risque de transparence

  • Risque de responsabilité

  • Risques informationnels

Trois enjeux éthiques : transparence, responsabilité, risques informationnels

Concepts sur les grands modèles de langage (LLM)

Risque de transparence

  • Sortie difficile à comprendre

 

  • Difficile de repérer les problèmes
    • Biais
    • Erreurs
    • Mauvais usage
  • Boîte noire

 

  • Exemple : raisonnement derrière la prédiction d'issues de maladie

Biais, erreurs ou mauvais usage d'une sortie générée par un LLM

Concepts sur les grands modèles de langage (LLM)

Risque de responsabilité

  • Responsabilité des actions des LLM

 

  • Qui est responsable ?
    • Conseils erronés et nuisibles
    • Concepteur du modèle ou entreprise ?

 

  • Jeu sans règles
    • Aucune transparence
    • Aucune reddition de comptes

 

Responsabilité du concepteur ou de l'entité déployant des LLM

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Risques informationnels

Risques informationnels Diffusion d'information nuisible

  • Génération de contenu nuisible
  • Propagation de mésinformation
  • Usage malveillant
  • Toxicité
Concepts sur les grands modèles de langage (LLM)

Risques informationnels

 

Génération de contenu nuisible

  • Nocif, offensant ou inapproprié

 

  • Invite ou données d'entraînement biaisées

 

  • Exemple :
    • Intimidation vs climat scolaire bienveillant
    • Douloureux et nuisible

 

Propagation de mésinformation

  • Générer du texte sur n'importe quel sujet

 

  • Mais aucune vérification !

 

  • Exemple :
    • « Quel est un bon régime pour perdre du poids ? »
    • Plan alimentaire non étayé
Concepts sur les grands modèles de langage (LLM)

Risques informationnels

 

Usage malveillant

  • Acteurs mal intentionnés exploitant les LLM

 

  • Générer du contenu trompeur

 

  • Exemple :
    • Nouvelles fabriquées
    • Manipuler le public et semer l'agitation

 

Toxicité

  • Contenu inapproprié

 

  • À l'entraînement ou via des invites manipulées

 

  • Exemple :
    • Réponse insensible
    • Stéréotype
Concepts sur les grands modèles de langage (LLM)

Enjeux environnementaux

 

  • Empreinte écologique des LLM

 

  • Entraînement très énergivore

 

  • Impact via les émissions de carbone

Réduire les émissions de carbone

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Le refroidissement consomme aussi de l'électricité !

  • Produisent beaucoup de chaleur à refroidir

 

  • Imaginez des milliers d'ordinateurs portables en surchauffe
    • Exigent des systèmes de refroidissement complexes
    • Alourdit l'empreinte environnementale

 

  • Équilibrer coûts et avantages
    • Recourir aux énergies renouvelables
    • Technologies écoénergétiques

 

Image illustrant l'équilibre entre coût environnemental et innovation technologique

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Passons à la pratique !

Concepts sur les grands modèles de langage (LLM)

Preparing Video For Download...