Limites et contraintes de l’IA

Introduction à l’IA pour le travail

James Chapman

AI Curriculum Manager, DataCamp

Risque n°1 : Fabrication de connaissances

  • Ou Hallucination : informations erronées présentées à tort comme correctes par l’IA
  • Exemples courants:
    • Statistiques incorrectes
    • Fausses citations
    • Halluciner des événements

hallucination1.jpg

Introduction à l’IA pour le travail

Risque n°1 : Fabrication de connaissances

  • Ou Hallucination : informations erronées présentées à tort comme correctes par l’IA
  • Exemples courants :
    • Statistiques incorrectes
    • Fausses citations
    • Halluciner des événements

hallucination2.jpg

Introduction à l’IA pour le travail

Risque n°1 : Fabrication de connaissances

hallucination3.jpg

Introduction à l’IA pour le travail

Risque n°2 : Ignorance de l’actualité

  • Date de coupure des connaissances → limite de date concernant la connaissance des événements du modèle

  • Exemples :

    • Règlementations, tarifs, emplacements et syntaxes de codage obsolètes

  • Confirmez toujours les faits sensibles au temps auprès de sources à jour

  • De nombreux outils d’IA prennent également en charge la recherche sur internet

recency.png

Introduction à l’IA pour le travail

Risque n°3 : Résultats biaisés

biased.png

  • Refléter et amplifier les biais sociaux issus de ses données d’entraînement
  • Résultat → contenu stéréotypé ou discriminatoire
  • Examinez attentivement le contenu généré par l’IA !
Introduction à l’IA pour le travail

Risque n°4 : Résultats flagorneurs

  • Flagorneur → vous dit ce qu’il pense que vous voulez entendre

    • Valider les points de vue, soutenir les décisions et confirmer la réflexion

  • Problématique lorsque vous avez besoin d’une perspective critique

sycophancy.png

Introduction à l’IA pour le travail

Risque n°4 : Résultats flagorneurs

  • Flagorneur → vous dit ce qu’il pense que vous voulez entendre

    • Valider les points de vue, soutenir les décisions et confirmer la réflexion

  • Problématique lorsque vous avez besoin d’une perspective critique

  • Résultat du mode d’entraînement des LLMs basé sur les évaluations humaines des réponses

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introduction à l’IA pour le travail

Risque n°5 : Vie privée et exposition des données

privacy.png

  • Les informations partagées avec des outils d’IA peuvent ne pas rester privées !
  • Télécharger des feuilles de calcul, des documents ou des données client peut être risqué
  • Les données peuvent être stockées sur des serveurs externes, utilisées pour l’entraînement de modèles ou être consultables
Introduction à l’IA pour le travail

Risque n°5 : Vie privée et exposition des données

crying.png

Risques

  • Violation des lois sur la confidentialité (par ex., RGPD)
  • Perte d’un avantage concurrentiel
  • Nuire à la confiance des clients
  • Toujours vérifier la politique de données de l’outil d’IA
  • En cas de doute : consultez un expert IT ou InfoSec
Introduction à l’IA pour le travail

Du risque à la responsabilité

risks_summary_v2.png

car.png

Introduction à l’IA pour le travail

Passons à la pratique !

Introduction à l’IA pour le travail

Preparing Video For Download...