AI के जोखिम कैसे घटाएँ

काम के लिए AI परिचय

James Chapman

AI Curriculum Manager, DataCamp

झूठी जानकारी को कैसे रोका जाए

भरोसा करें, पर जाँचें वाला दृष्टिकोण

जरूरी जानकारी हमेशा दो बार जाँचें
- 📈 नंबर और डेटा पॉइंट्स
- 📖 संदर्भ और उद्धरण
- 🏛 ऐतिहासिक तथ्य और तिथियाँ
- 💻 तकनीकी विवरण

हैलुसिनेशन का उदाहरण

नेक्स्ट वर्ड प्रेडिक्शन

¹ https://openai.com/index/why-language-models-hallucinate/

🤝 इंकार की अनुमति: "यदि भरोसा नहीं है, तो अनुमान लगाने की बजाय 'I don't know' कहें."

🎯 कैलिब्रेशन: "हर दावे को चिह्नित करें: confident / uncertain / inferred."

📚 स्रोत दें या लेबल करें: "हर तथ्यात्मक दावे के लिए स्रोत दें, या इसे un-sourced लेबल करें."

🧹 सेल्फ-चेक पास: "जो गलत हो सकता है या जो मान लिया, उसकी सूची दें."

🧭 सीमा तय करें: "उत्तर को सिर्फ इनपुट में सीधे दिए पर सीमित रखें. एक्सट्रपलेट न करें."

हमेशा knowledge cutoff तारीख जाँचें
उसके बाद हुई बातों की जाँच-पड़ताल करें
- 💰 कीमतें
- 🏛 नियम/विनियम
- 👷 कार्मिक बदलाव
- 📰 समाचार
🌐 वेब ब्राउज़िंग सपोर्ट उपयोग करें

हालिया अपडेट

आउटपुट को आलोचनात्मक नज़र से जाँचें
- 🤝 हायरिंग सामग्री
- ✨ मार्केटिंग कंटेंट
- 👉 निर्णय-निर्माण
❗ पक्षपात पहचानने के टूल्स

बायस्ड आउटपुट

🧭 AI को वस्तुनिष्ठता और क्रिटिकल एनालिसिस की ओर मार्गदर्शित करें
🤔 AI आउटपुट पर संदेह बनाए रखें
💬 स्पष्ट रूप से आलोचनात्मक फीडबैक माँगें
- इस तरीके की संभावित समस्याएँ क्या हैं?
- इस मुद्दे पर वैकल्पिक नज़रिए क्या हैं?

चापलूसी-युक्त आउटपुट

कभी साझा न करें:
- 🔑 पासवर्ड्स या क्रेडेंशियल्स
- 🔍 ग्राहक का व्यक्तिगत डेटा (जैसे PII)
- 📣 कंपनी की स्वामित्व वाली जानकारी
- 📜 गोपनीय रणनीतियाँ या प्लान्स