नैतिक पहलू और गार्डरेल्स

Amazon Bedrock परिचय

Nikhil Rangarajan

Data Scientist

नैतिक AI क्यों महत्वपूर्ण है

  • AI मॉडल पक्षपात बढ़ा सकते हैं और हानिकारक सामग्री बना सकते हैं

जेंडर बायस दर्शाती गुलाबी कपड़ों में दो महिलाओं का आइकन

Amazon Bedrock परिचय

नैतिक AI क्यों महत्वपूर्ण है

  • AI मॉडल पक्षपात बढ़ा सकते हैं और हानिकारक सामग्री बना सकते हैं

  • संवेदनशील डेटा के साथ प्राइवेसी चिंताएँ

जेंडर बायस और प्राइवेसी दर्शाने वाले आइकन

Amazon Bedrock परिचय

नैतिक AI क्यों महत्वपूर्ण है

  • AI मॉडल पक्षपात बढ़ा सकते हैं और हानिकारक सामग्री बना सकते हैं

  • संवेदनशील डेटा के साथ प्राइवेसी चिंताएँ

  • कानूनी/रेगुलेटरी अनुपालन की आवश्यकताएँ

जेंडर बायस, प्राइवेसी, और लीगल कंप्लायंस दर्शाने वाले आइकन

Amazon Bedrock परिचय

नैतिक AI क्यों महत्वपूर्ण है

  • AI मॉडल पक्षपात बढ़ा सकते हैं और हानिकारक सामग्री बना सकते हैं

  • संवेदनशील डेटा के साथ प्राइवेसी चिंताएँ

  • कानूनी/रेगुलेटरी अनुपालन की आवश्यकताएँ

  • गलत सूचना फैलाने में दुरुपयोग की आशंका

जेंडर बायस, प्राइवेसी, लीगल कंप्लायंस और मिसइन्फॉर्मेशन दर्शाने वाले आइकन

Amazon Bedrock परिचय

नैतिक AI क्यों महत्वपूर्ण है

  • AI मॉडल पक्षपात बढ़ा सकते हैं और हानिकारक सामग्री बना सकते हैं

  • संवेदनशील डेटा के साथ प्राइवेसी चिंताएँ

  • कानूनी/रेगुलेटरी अनुपालन की आवश्यकताएँ

  • गलत सूचना फैलाने में दुरुपयोग की आशंका

  • बिज़नेस साख और स्टेकहोल्डर्स का भरोसा

जेंडर बायस, प्राइवेसी, लीगल कंप्लायंस, मिसइन्फॉर्मेशन और ट्रस्ट दर्शाने वाले आइकन

Amazon Bedrock परिचय

गार्डरेल्स से मॉडल की सुरक्षा

  • गार्डरेल्स: सुरक्षा उपाय
    • कंटेंट फ़िल्टरिंग
    • बायस डिटेक्शन
    • सख्त उपयोग नीतियाँ
  • हमेशा सबसे प्रतिबंधक स्तर से शुरू करें
  • हानिकारक सामग्री के लिए डिफ़ॉल्ट स्क्रीनिंग स्तर

 

सुरक्षा गार्डरेल्स का एक सरल चित्र, दो क्षैतिज ग्रे बैरियर पीले खंभों से टिके हुए, जो AI सिस्टम में सेफ्टी और कंटेंट फ़िल्टरिंग को दर्शाते हैं.

Amazon Bedrock परिचय

कंटेंट मॉडरेशन

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Amazon Bedrock परिचय

मॉनिटरिंग और मेंटेनेंस

  • ऑटोमेटेड मॉनिटरिंग सेट करें
  • फ़िल्टर की गई सामग्री नियमित रूप से रिव्यू करें
  • अनियमितताओं के लिए रिस्पॉन्स पैटर्न ट्रैक करें
  • फ़िल्टर्ड रिक्वेस्ट्स के लॉग रखें

 

मॉनिटरिंग को दर्शाने वाला ग्राफ़ पर मैग्निफाइंग ग्लास का आइकन

Amazon Bedrock परिचय

रिस्पॉन्स प्लान

  • मॉडल के मिसबिहेवियर के लिए योजना बनाएँ
  • एस्केलेशन प्रक्रियाएँ परिभाषित करें
  • बैकअप मॉडल कॉन्फ़िगर रखें
  • सुधार हेतु घटनाओं को ट्रैक करें

  त्रुटि होने पर योजना होने की अवधारणा दिखाता एक चेकलिस्ट आइकन

Amazon Bedrock परिचय

नैतिक AI के मुख्य बिंदु

🛑 Safety First

  • हमेशा कंटेंट फ़िल्टरिंग और बायस डिटेक्शन सक्षम करें

 

🚦 Implementation

  • बिल्ट-इन Bedrock सेफ़गार्ड्स उपयोग करें

 

🔦 Continuous Improvement

  • परिणाम मॉनिटर करें और विश्लेषण करें
  • बेस्ट प्रैक्टिसेज के साथ अपडेट रहें
Amazon Bedrock परिचय

अभ्यास करते हैं!

Amazon Bedrock परिचय

Preparing Video For Download...