Limites et contraintes de l'IA

Introduction à l'IA pour le travail

James Chapman

AI Curriculum Manager, DataCamp

Risque no 1 : fabrication de connaissances

 

  • Ou hallucination : information fausse présentée à tort comme correcte par l'IA
  • Exemples courants :
    • Statistiques erronées
    • Fausses citations
    • Événements inventés

hallucination1.jpg

Introduction à l'IA pour le travail

Risque no 1 : fabrication de connaissances

 

  • Ou hallucination : information fausse présentée à tort comme correcte par l'IA
  • Exemples courants :
    • Statistiques erronées
    • Fausses citations
    • Événements inventés

hallucination2.jpg

Introduction à l'IA pour le travail

Risque no 1 : fabrication de connaissances

hallucination3.jpg

Introduction à l'IA pour le travail

Risque no 2 : ignorance de l'actualité

 

  • Knowledge cutoff date → date limite des connaissances du modèle sur les événements

  • Exemples :

    • Règlements, prix, lieux et syntaxe de code périmés

  • Confirmez les faits sensibles au temps auprès de sources à jour

  • Plusieurs outils d'IA offrent aussi la recherche sur internet

recency.png

Introduction à l'IA pour le travail

Risque no 3 : résultats biaisés

biased.png

 

  • Refléter et amplifier des biais sociaux issus des données d'entraînement
  • Résultat → contenu stéréotypé ou discriminatoire
  • Révisez avec soin le contenu généré par l'IA !
Introduction à l'IA pour le travail

Risque no 4 : réponses flagorneuses

 

  • Flagorneur → vous dire ce qu'il pense que vous voulez entendre

    • Valider des points de vue, appuyer des décisions et confirmer des raisonnements

  • Problématique lorsque vous avez besoin d'une perspective critique

sycophancy.png

Introduction à l'IA pour le travail

Risque no 4 : réponses flagorneuses

 

  • Flagorneur → vous dire ce qu'il pense que vous voulez entendre

    • Valider des points de vue, appuyer des décisions et confirmer des raisonnements

  • Problématique lorsque vous avez besoin d'une perspective critique

  • Effet secondaire de la formation des LLM basée sur des évaluations humaines des réponses

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introduction à l'IA pour le travail

Risque no 5 : confidentialité et exposition des données

privacy.png

 

  • L'information partagée avec des outils d'IA peut ne pas rester privée !
  • Téléverser des chiffriers, documents ou données clients peut être risqué
  • Les données peuvent être stockées sur des serveurs externes, utilisées pour l'entraînement ou consultables
Introduction à l'IA pour le travail

Risque no 5 : confidentialité et exposition des données

crying.png

 

Risques

  • Violer des lois sur la vie privée (p. ex., RGPD)
  • Perdre un avantage concurrentiel
  • Miner la confiance des clients

 

  • Vérifiez toujours la politique de données de l'outil d'IA
  • En cas de doute : consultez une personne experte TI ou sécu. de l'info
Introduction à l'IA pour le travail

Des risques à la responsabilité

risks_summary_v2.png

 

car.png

Introduction à l'IA pour le travail

Passons à la pratique !

Introduction à l'IA pour le travail

Preparing Video For Download...