Réduire les risques liés à l'IA

Introduction à l'IA pour le travail

James Chapman

AI Curriculum Manager, DataCamp

Réduire la fabrication de connaissances

État d'esprit « faire confiance, mais vérifier »

Toujours revérifier l'information critique
- 📈 Chiffres et données
- 📖 Citations et références
- 🏛 Faits et dates historiques
- 💻 Détails techniques

Hallucination 1

prédiction_du_mot_suivant.png

Les modèles d'IA produisent les mots suivants les plus probables
Dans leurs données d'entraînement, « Je ne sais pas » est statistiquement rare

¹ https://openai.com/index/why-language-models-hallucinate/

🤝 Permission de s'abstenir : « Si vous n'êtes pas certain, dites "Je ne sais pas" plutôt que de deviner. »

🎯 Calibration : « Indiquez pour chaque énoncé : confiant / incertain / inféré. »

📚 Citer ou étiqueter : « Pour tout fait, fournissez une source ou indiquez "sans source". »

🧹 Auto‑vérification : « Dressez la liste de ce qui pourrait être faux ou de vos hypothèses. »

🧭 Limiter la portée : « Réduisez la réponse à ce qui est dit dans l'entrée. N'extrapolez pas. »

Vérifier toujours la date de coupure des connaissances
Vérifier tout ce qui s'est produit après
- 💰 Prix
- 🏛 Règlements
- 👷 Changements de personnel
- 📰 Nouvelles
🌐 Utiliser l'exploration Web au besoin

récence.png

Passer les résultats au crible
- 🤝 Documents de dotation
- ✨ Contenu marketing
- 👉 Prise de décision
❗ Outils de détection des biais

biaisé.png

🧭 Guider l'IA vers l'objectivité et l'analyse critique
🤔 Rester sceptique face aux résultats de l'IA
💬 Demander explicitement une rétroaction critique
- Quels sont les problèmes potentiels de cette approche ?
- Quelles perspectives alternatives sur cet enjeu ?

À ne jamais partager :
- 🔑 Mots de passe ou identifiants
- 🔍 Données personnelles de clients (p. ex., IIP)
- 📣 Renseignements exclusifs de l'entreprise
- 📜 Stratégies ou plans confidentiels