AI में बाहरी जोखिम

AI Security और Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

बाहरी जोखिम

आंतरिक जोखिम

डिज़ाइन या डेटा के भीतर

separator

बाहरी जोखिम

बाहरी actor

मॉडल में हेरफेर

विभिन्न पहलुओं को निशाना बनाना

आम बाहरी जोखिम

बाहरी जोखिमों का निरूपण

Adversarial input attacks
डेटा करप्शन और poisoning
मॉडल theft और inversion
इन्फ्रास्ट्रक्चर पर हमले
सप्लाई चेन हमले

Adversarial input attacks

Inference phase पर असर (जब नया डेटा मिलता है)
निर्णय-निर्माण को प्रभावित करें

separator

उदाहरण

इमेज को थोड़ा बदलें
गलत वर्गीकृत करें

adversarial input attacks का निरूपण

डेटा करप्शन और poisoning

Training phase पर असर
सीखने की इंटेग्रिटी को निशाना

light bulb

उदाहरण

नकली प्रोडक्ट रिव्यू
ई-कॉमर्स रिकमेंडेशन सिस्टम पर असर

डेटा करप्शन का निरूपण

मॉडल theft और inversion

मॉडल inversion का निरूपण

Sensitive information पर निशाना
मॉडल का ही दुरुपयोग

light bulb

उदाहरण

ट्रेनिंग में इस्तेमाल निजी डेटा उजागर करने को बदले हुए इनपुट उपयोग करें

इन्फ्रास्ट्रक्चर हमले

इन्फ्रास्ट्रक्चर हमलों का निरूपण

भौतिक और वर्चुअल वातावरण को निशाना
इन्फ्रास्ट्रक्चर पर हमला

light bulb

उदाहरण

AI सर्वर पर रिक्वेस्ट्स की बाढ़ लाकर ओवरलोड करें और अनुपलब्ध बनाएं

सप्लाई चेन हमले

सप्लाई चेन हमलों का निरूपण

कंपोनेंट्स या लाइब्रेरी से समझौता
AI मॉडल के बिल्डिंग ब्लॉक्स का दुरुपयोग

light bulb

उदाहरण

व्यापक रूप से उपयोग की जाने वाली लाइब्रेरी में vulnerability इंजेक्ट करें

सुरक्षा की सर्वोत्तम प्रथाएँ

नियमित सिक्योरिटी ऑडिट
डेटा वैलिडेशन और sanitation
मज़बूत एक्सेस कंट्रोल
संवेदनशील डेटा एन्क्रिप्ट करें
डेटा को अनोनिमाइज़ करें

टूलकिट का निरूपण

और सर्वोत्तम प्रथाएँ

सतत मॉनिटरिंग
भरोसेमंद टूल्स का उपयोग
टूल्स को नियमित अपडेट करें
निरंतर शिक्षण

सर्वोत्तम प्रथाओं का निरूपण

जोखिम तेज़ी से बदलते हैं

निरंतर अनुकूलन
लगातार सीखना
सक्रिय जोखिम प्रबंधन
सतर्कता

तेज़ बदलाव का निरूपण

अभ्यास करते हैं!

AI Security और Risk Management