AI की सीमाएँ और बाउंड्रीज़

काम के लिए AI परिचय

James Chapman

AI Curriculum Manager, DataCamp

जोखिम #1: ज्ञान की मनगढ़ंत बातें

 

  • या Hallucination: AI द्वारा गलत जानकारी को सही बताना
  • आम उदाहरण:
    • गलत सांख्यिकी
    • नकली उद्धरण
    • घटनाएँ गढ़ देना

भ्रम का उदाहरण

काम के लिए AI परिचय

जोखिम #1: ज्ञान की मनगढ़ंत बातें

 

  • या Hallucination: AI द्वारा गलत जानकारी को सही बताना
  • आम उदाहरण:
    • गलत सांख्यिकी
    • नकली उद्धरण
    • घटनाएँ गढ़ देना

भ्रम का और उदाहरण

काम के लिए AI परिचय

जोखिम #1: ज्ञान की मनगढ़ंत बातें

भ्रम का तीसरा उदाहरण

काम के लिए AI परिचय

जोखिम #2: नवीनता की अनदेखी

 

  • Knowledge cutoff date → मॉडल को घटनाओं का ज्ञान जिस तारीख तक है
  • उदाहरण:

    • पुरानी नीतियाँ, कीमतें, लोकेशन, और कोडिंग सिंटैक्स
  • समय-संवेदी तथ्य मौजूदा स्रोतों से जाँचें

  • कई AI टूल्स internet search भी सपोर्ट करते हैं

हालिया जानकारी की सीमा

काम के लिए AI परिचय

जोखिम #3: पक्षपाती आउटपुट

पक्षपात

 

  • अपने training data से social bias को दर्शा और बढ़ा सकता है
  • नतीजा → रूढ़िवादी या भेदभावपूर्ण सामग्री
  • AI-जनित सामग्री ध्यान से समीक्षा करें!
काम के लिए AI परिचय

जोखिम #4: चापलूसी भरे आउटपुट

 

  • Sycophantic → वही कहना जो इसे लगता है कि आप सुनना चाहते हैं

    • नजरिए मान्य करना, फैसलों का समर्थन, और सोच की पुष्टि करना
  • जब critical perspective चाहिए, तो समस्या बनता है

चापलूसी आउटपुट

काम के लिए AI परिचय

जोखिम #4: चापलूसी भरे आउटपुट

 

  • Sycophantic → वही कहना जो इसे लगता है कि आप सुनना चाहते हैं

    • नजरिए मान्य करना, फैसलों का समर्थन, और सोच की पुष्टि करना
  • जब critical perspective चाहिए, तो समस्या बनता है

  • LLMs के रिस्पॉन्स पर मानव रेटिंग से ट्रेनिंग का सह-उत्पाद

 

चापलूसी पर शोध

1 https://arxiv.org/abs/2510.01395
काम के लिए AI परिचय

जोखिम #5: गोपनीयता और डेटा एक्सपोज़र

गोपनीयता

 

  • AI टूल्स के साथ साझा जानकारी निजी न रह सके!
  • स्प्रेडशीट, डॉक्यूमेंट, या क्लाइंट डेटा अपलोड करना जोखिम भरा है
  • डेटा बाहरी सर्वर पर स्टोर हो सकता है, मॉडल ट्रेनिंग में जा सकता है, या सर्चेबल हो सकता है
काम के लिए AI परिचय

जोखिम #5: गोपनीयता और डेटा एक्सपोज़र

चिंता

 

जोखिम

  • गोपनीयता कानूनों का उल्लंघन (जैसे, GDPR)
  • प्रतिस्पर्धात्मक बढ़त खोना
  • क्लाइंट का भरोसा टूटना

 

  • हमेशा AI टूल की डेटा पॉलिसी जाँचें
  • संदेह हो तो: IT या InfoSec विशेषज्ञ से सलाह लें
काम के लिए AI परिचय

जोखिम से जिम्मेदारी तक

जोखिम सारांश

 

कार

काम के लिए AI परिचय

अभ्यास करते हैं!

काम के लिए AI परिचय

Preparing Video For Download...