जिम्मेदार जनरेटिव AI एप्लिकेशन

जनरेटिव AI कॉन्सेप्ट्स

Daniel Tedesco

Data Lead, Google

चुनाव की पूर्व संध्या पर

फेक न्यूज़ हेडलाइन का संग्रह

जनरेटिव AI कॉन्सेप्ट्स

दुर्भावनापूर्ण उपयोग के प्रकार

  • डीपफेक्स
  • गलत सूचना अभियान
  • AI-संवर्धित हैकिंग

पफर जैकेट में पोप की AI-जनित छवि

1 Pablo Xavier
जनरेटिव AI कॉन्सेप्ट्स

डिटेक्शन और प्रिवेंशन

मुख्य उपयोग सिद्धांत

  • मानव-इन-द-लूप
  • हानि की रोकथाम
  • निरंतर मॉनिटरिंग

 

डिटेक्शन और प्रिवेंशन के बिंदु

AI उपयोग के चरण: access, prompts, responses, application, और communication व feedback दर्शाने वाला फ्लोचार्ट।

जनरेटिव AI कॉन्सेप्ट्स

एक्सेस

AI अनजाने में आपराधिक समूहों की गैर-आपराधिक गतिविधियों में मदद कर सकती है।

  • दुर्भावनापूर्ण समूहों को सपोर्ट करने से बचें
  • Know Your Customer (KYC)
    • यूज़र की पहचान वेरिफाई करें

डरावना दिखता किरदार जो चुप रहने का इशारा कर रहा है.

जनरेटिव AI कॉन्सेप्ट्स

प्रॉम्प्ट और रिस्पॉन्स

प्रॉम्प्ट का मॉडरेशन

  • वेबसाइट या चैट समूह मॉडरेशन जैसा
  • जेलब्रेकिंग प्रॉम्प्ट अभी भी डेवलपर गाइडलाइन को दरकिनार कर सकते हैं

रिस्पॉन्स का मॉडरेशन

  • यूज़र को दिखाने से पहले रिस्पॉन्स को स्क्रीन या फ़िल्टर करें
जनरेटिव AI कॉन्सेप्ट्स

एप्लिकेशन

दुर्भावनापूर्ण लोग निर्दोष दिखते रिस्पॉन्स को अवैध या अनैतिक गतिविधि में लगा सकते हैं।

  • अदृश्य वॉटरमार्क सामग्री के स्रोत बताने में मदद कर सकते हैं
  • कानून प्रवर्तन का हस्तक्षेप जरूरी हो सकता है
जनरेटिव AI कॉन्सेप्ट्स

कम्युनिकेशन और फ़ीडबैक

  • स्पष्ट उपयोग दिशानिर्देश
  • फ़ीडबैक लूप्स
    • यूज़र स्टडीज़ और स्टेकहोल्डर राउंडटेबल्स
    • सिविल सोसायटी संगठनों के साथ साझेदारी करें
    • प्रोडक्ट में फ़ीडबैक के अवसर रखें

सीटबेल्ट लगाता एक कार ड्राइवर

जनरेटिव AI कॉन्सेप्ट्स

अभ्यास करते हैं!

जनरेटिव AI कॉन्सेप्ट्स

Preparing Video For Download...