Atténuer les risques de l’IA

Introduction à l’IA pour le travail

James Chapman

AI Curriculum Manager, DataCamp

Atténuer la fabrication de connaissances

Faire confiance, mais vérifier état d’esprit

Toujours revérifier les informations critiques
- 📈 Nombres et données
- 📖 Citations et références
- 🏛 Faits historiques et dates
- 💻 Détails techniques

Les modèles d'IA produisent les mots suivants les plus probables
Dans leurs données d'entraînement, \"Je ne sais pas\" est statistiquement rare

¹ https://openai.com/index/why-language-models-hallucinate/

🤝 Permission de s’abstenir : \"Si vous n’êtes pas sûr, dites « Je ne sais pas » plutôt que de deviner.\"

🎯 Calibration : \"Indiquez pour chaque affirmation : confiant / incertain / inféré.\"

📚 Citer ou étiqueter : \"Pour chaque affirmation factuelle, fournissez une source ou étiquetez-la comme non sourcée.\"

🧹 Auto-vérification réussie : \"Listez tout ce qui pourrait être faux ou que vous avez supposé.\"

🧭 Délimitez le périmètre : \"Limitez votre réponse à ce qui est directement indiqué dans l’entrée. N'extrapolez pas.\"

Vérifiez toujours la date de coupure des connaissances
Vérifiez tout ce qui s’est produit après
- 💰 Prix
- 🏛 Réglementations
- 👷 Changements de personnel
- 📰 Actualités
🌐 Utilisez l’assistance de navigation web

Examiner les résultats de manière critique
- 🤝 Supports de recrutement
- ✨ Contenu marketing
- 👉 Prise de décision
❗ Outils de détection des biais

🧭 Guider l’IA vers l’objectivité et l’analyse critique
🤔 Restez sceptique face aux résultats de l’IA
💬 Demandez explicitement un retour critique
- Quels sont les problèmes potentiels de cette approche ?
- Quelles sont les perspectives alternatives sur cette question ?

Ne partagez jamais:{{1}} 🔑 Mots de passe ou identifiants{{2}} 🔍 Données personnelles des clients (p. ex. PII){{3}} 📣 Informations propriétaires de l’entreprise{{4}} 📜 Stratégies ou plans confidentiels
Règle générale : si vous ne le publieriez pas en public, ne le collez pas dans un outil d’IA standard