Préoccupations éthiques et environnementales

Concepts des grands modèles de langage (LLM)

Vidhi Chugh

AI strategist and ethicist

Préoccupations éthiques

  • Risque lié à la transparence

Risque lié à la transparence

Concepts des grands modèles de langage (LLM)

Préoccupations éthiques

  • Risque lié à la transparence
  • Risque lié à la responsabilité -

Risque lié à la transparence et à la responsabilité

Concepts des grands modèles de langage (LLM)

Préoccupations éthiques

  • Risque lié à la transparence

  • Risque lié à la responsabilité

  • Risques liés à l'information

Les trois préoccupations éthiques : transparence, responsabilité, risques liés à l'information

Concepts des grands modèles de langage (LLM)

Risque lié à la transparence

  • Difficulté à interpréter les résultats

 

  • Difficulté à identifier les problèmes
    • Partis pris (biais)
    • Erreurs
    • Utilisation abusive
  • Boîte noire

 

  • Exemple : raisonnement à l'origine de la prévision de l'évolution d'une maladie

Biais, erreurs ou utilisation inappropriée des résultats générés par le LLM

Concepts des grands modèles de langage (LLM)

Risque lié à la responsabilité

  • Responsabilité des actions des LLM

 

  • Qui est responsable ?
    • Conseils inappropriés et préjudiciables
    • Le développeur du modèle ou l’entreprise ?

 

  • Jeu sans règles
    • Absence de transparence
    • Absence de responsabilité

 

Responsabilité du développeur ou de l'entité déployant les LLM

1 Freepik
Concepts des grands modèles de langage (LLM)

Risques liés à l'information

Risques liés à l'information Diffusion d'informations préjudiciables

  • Création de contenu préjudiciable
  • Diffusion de fausses informations
  • Utilisation malveillante
  • Toxicité
Concepts des grands modèles de langage (LLM)

Risques liés à l'information

 

Création de contenu préjudiciable

  • Préjudiciable, offensant ou inapproprié

 

  • Prompt ou données d'entraînement biaisées

 

  • Exemple :
    • Environnement scolaire intimidant ou bienveillant
    • Préoccupant et préjudiciable

 

Diffusion de fausses informations

  • Générer du texte sur n'importe quel sujet

 

  • Mais sans aucune vérification !

 

  • Exemple :
    • « Quel régime alimentaire est efficace pour perdre du poids ? »
    • Régime alimentaire non fondé
Concepts des grands modèles de langage (LLM)

Risques liés à l'information

 

Utilisation malveillante

  • Des acteurs malveillants exploitant des LLM

 

  • Création de contenu trompeur

 

  • Exemple :
    • Informations fabriquées
    • Manipulation de l’opinion et perturbation de l’ordre public

 

Toxicité

  • Contenu inapproprié

 

  • Entraînement ou par le biais de prompts manipulés

 

  • Exemple :
    • Réponse inappropriée
    • Stéréotype
Concepts des grands modèles de langage (LLM)

Préoccupations environnementales

 

  • Empreinte écologique des grands modèles de langage (LLM)

 

  • Ressources énergétiques importantes pour l’entraînement

 

  • Impact lié aux émissions de carbone

Réduction des émissions de carbone

1 Freepik
Concepts des grands modèles de langage (LLM)

Le refroidissement nécessite également de l'électricité.

  • Production d’une quantité importante de chaleur nécessitant un refroidissement

 

  • Imaginer des milliers d'ordinateurs portables en surchauffe.
    • Nécessite des systèmes de refroidissement complexes.
    • Contribue à l'impact environnemental.

 

  • Équilibre les coûts et les avantages.
    • Utiliser les énergies renouvelables
    • Technologie économe en énergie

 

Image illustrant l'équilibre entre le coût environnemental et l'innovation technologique

1 Freepik
Concepts des grands modèles de langage (LLM)

Passons à la pratique !

Concepts des grands modèles de langage (LLM)

Preparing Video For Download...