AI से जुड़ी विशिष्ट सुरक्षा जोखिम

AI Security और Risk Management

Angeline Corvaglia

Founder and Digital Transformation Specialist

जोखिम प्रबंधन का महत्व

• फायदों का उपयोग सुरक्षित और जिम्मेदारी से करें
• सुरक्षा के प्रति दृष्टिकोण बदलना होगा
• पारंपरिक रणनीतियाँ काफी नहीं

AI के इंटीग्रेशन के प्रभावों को सिक्के की तरह सोचें:

• संभावना
• सुरक्षा जोखिम

सूक्ष्म पर खतरनाक जोखिम

• Bias
• Hallucination
• Data poisoning
• Adversarial attacks
• Sensitive data exposure

हायरिंग सिस्टम में AI बायस

1. ऐतिहासिक डेटा से AI को ट्रेन करना
2. पिछले पक्षपात परिलक्षित होना
3. Bias और बढ़ जाना
4. संगठन पर भरोसा घटना

ऑनलाइन शॉपिंग प्लेटफॉर्म में हेरफेर

1. AI रिकमेंडेशन वाला प्लेटफॉर्म
2. नकली डेटा डाला गया
3. AI अलोकप्रिय या हानिकारक प्रोडक्ट सुझाए
4. कई संभावित नतीजे

AI बायस

बिजली-सी तेज़ फैसले, बायस के प्रभाव को बढ़ा देते हैं

अनुचित पक्ष लेना या नुकसान पहुँचाना

असमान नतीजे चिंताजनक रफ़्तार से

Hallucination

• गलत या भ्रामक जानकारी को सच मानकर पेश करता है

नतीजा हो सकता है:

• त्रुटिपूर्ण निर्णय-निर्माण
• गलत जानकारी और भरोसे की कमी

Data poisoning

ट्रेनिंग डेटा के साथ जानबूझकर छेड़छाड़

AI सिस्टम को गलत राह पर ले जाना

• गलत भविष्यवाणियाँ या निर्णय
• गंभीर परिणाम

Adversarial attacks

भ्रामक इनपुट देना

• ऑपरेशन के दौरान
• पहचानना कठिन
• अखंडता से समझौता

Sensitive data exposure

ट्रेनिंग और ऑपरेशन के लिए बड़े पैमाने पर डेटा.

अगर पर्याप्त सुरक्षा न हो, तो संवेदनशील डेटा उजागर होने का जोखिम

Large amounts of data for training and operation.

Risk of exposure of sensitive data if not adequately secured

जोखिम समझें ताकि उन्हें मैनेज कर सकें

Proactive risk mitigation

• जोखिमों का पूरे पहले से अनुमान
• AI सुरक्षा इकोसिस्टम जानें
• AI सुरक्षा को भविष्य-तैयार करें
• सुरक्षा-जागरूक संस्कृति बनाएँ
• मॉडल और बाहरी जोखिम समझें
• AI सुरक्षा को संगठनात्मक लक्ष्यों से संरेखित करें

चलिए शुरू करें!

AI Security और Risk Management