टेक्स्ट क्लासिफिकेशन मॉडलों पर adversarial हमले

PyTorch के साथ टेक्स्ट के लिए डीप लर्निंग

Shubham Jain

Instructor

Adversarial हमले क्या हैं?

इनपुट डेटा में छोटी-छोटी बदलावियाँ
रैंडम नहीं, बल्कि सोची-समझी दुर्भावनापूर्ण फेरबदल
AI के निर्णय पर बड़ा असर डाल सकती हैं

Robustness का महत्व

AI का यूज़र कमेंट्स को toxic या benign बताना
पक्षपाती डेटा से AI का नकारात्मक रूढ़ियाँ बढ़ाना
AI द्वारा भ्रामक जानकारी देना

Fast Gradient Sign Method (FGSM)

मॉडल की सीखी जानकारी का फ़ायदा उठाता है
धोखा देने के लिए न्यूनतम बदलाव करता है

FGSM Attack

Projected Gradient Descent (PGD)

FGSM से अधिक उन्नत: यह iterative है
सबसे प्रभावी गड़बड़ी खोजने की कोशिश करता है

PGD Attack

Carlini & Wagner (C&W) अटैक

loss फंक्शन को optimize करने पर केंद्रित
सिर्फ़ धोखे पर नहीं, बल्कि अप्रत्याशित रहने पर भी जोर

C&W Attack

रक्षा बनाना: रणनीतियाँ

Model Ensembling:
- कई मॉडलों का उपयोग करें

Robust Data Augmentation:
- डेटा ऑगमेंटेशन करें

Adversarial Training:
- धोखे की आशंका में प्रशिक्षण दें

Model Ensembling

रक्षा बनाना: टूल्स और तकनीकें

PyTorch's Robustness Toolbox:
- टेक्स्ट मॉडलों को मजबूत करें

Gradient Masking:
- ट्रेनिंग डेटा में विविधता जोड़ें ताकि exploitable पैटर्न छिपें

Regularization Techniques:
- मॉडल का संतुलन बनाए रखें

Python Robustness toolbox

Gradient Masking

Regularization Techniques

¹ https://adversarial-robustness-toolbox.readthedocs.io/en/latest/, https://stock.adobe.com/ie/contributor/209161356/designer-s-circle

अभ्यास करते हैं!

PyTorch के साथ टेक्स्ट के लिए डीप लर्निंग

Preparing Video For Download...