Limites et contraintes de l'IA

Introduction à l’IA pour le travail

James Chapman

AI Curriculum Manager, DataCamp

Risque n° 1 : Fabrication de connaissances

 

  • Ou Hallucination : informations erronées présentées à tort comme correctes par l'IA
  • Exemples courants :
    • Statistiques incorrectes
    • Fausses citations
    • Invention d’événements

hallucination1.jpg

Introduction à l’IA pour le travail

Risque n° 1 : Fabrication de connaissances

 

  • Ou Hallucination : informations erronées présentées à tort comme correctes par l'IA
  • Exemples courants :
    • Statistiques incorrectes
    • Fausses citations erronées
    • Invention d’événements

hallucination2.jpg

Introduction à l’IA pour le travail

Risque n° 1 : Fabrication de connaissances

hallucination3.jpg

Introduction à l’IA pour le travail

Risque n° 2 : Ignorance du caractère récent

 

  • Date limite des connaissances → date limite des connaissances du modèle

  • Exemples :

    • Réglementations, prix, emplacements et syntaxe de codage obsolètes

  • Vérifier les faits sensibles au temps à partir de sources actuelles

  • Nombre d’outils d'IA supportent la recherche sur Internet

recency.png

Introduction à l’IA pour le travail

Risque n° 3 : Résultats biaisés

biased.png

 

  • Refléter et amplifier les préjugés sociaux à partir de ses données d'apprentissage
  • Résultat → contenu stéréotypé ou discriminatoire
  • Examiner attentivement le contenu généré par l'IA
Introduction à l’IA pour le travail

Risque n° 4 : Résultats obséquieux

 

  • Obséquieux → dire à quelqu'un ce qu'il pense que cette personne veut entendre

    • Valider les perspectives, soutenir les décisions et affirmer la réflexion

  • Problématique lorsque vous avez besoin d'un point de vue critique

sycophancy.png

Introduction à l’IA pour le travail

Risque n° 4 : Résultats obséquieux

 

  • Obséquieux → dire à quelqu'un ce qu'il pense que cette personne veut entendre

    • Valider les perspectives, soutenir les décisions et affirmer la réflexion

  • Problématique lorsque vous avez besoin d'un point de vue critique

  • Conséquence de la formation des LLM à partir des évaluations humaines des réponses

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introduction à l’IA pour le travail

Risque n° 5 : Confidentialité et exposition des données

privacy.png

 

  • Les informations partagées avec des outils d'IA peuvent ne pas rester confidentielles.
  • Le téléversement de feuilles de calcul, de documents ou de données clients peut présenter des risques
  • Les données peuvent être stockées sur des serveurs externes, utilisées pour l'entraînement de modèles ou consultables
Introduction à l’IA pour le travail

Risque n° 5 : Confidentialité et exposition des données

crying.png

 

Risques

  • Violation lois protection vie privée (RGPD)
  • Perdre un avantage concurrentiel
  • Nuire à la confiance des clients

 

  • Toujours vérifier politique relative aux données de l'outil
  • En cas de doute, consulter expert IT ou InfoSec
Introduction à l’IA pour le travail

Du risque à la responsabilité

risks_summary_v2.png

 

car.png

Introduction à l’IA pour le travail

Passons à la pratique !

Introduction à l’IA pour le travail

Preparing Video For Download...