कोर्स का परिचय

Keras के साथ भाषा मॉडलिंग के लिए Recurrent Neural Networks (RNNs)

David Cecchini

Data Scientist

टेक्स्ट डेटा ऑनलाइन उपलब्ध है

इंटरनेट पर उपलब्ध टेक्स्ट डेटा के उदाहरण: समाचार लेख, बड़ी इंटरनेट कंपनियाँ, आदि दिखाता है

टेक्स्ट डेटा पर मशीन लर्निंग के उपयोग

चार एप्लिकेशन:

Sentiment analysis
Multi-class classification
Text generation
Neural machine translation

Sentiment analysis

दो इमोजी दिखाता है: एक खुश चेहरा और एक नापसंद वाला चेहरा

Multi-class classification

मूवी जेनर जैसे साइंस फिक्शन, रोमांस आदि की कक्षाएँ दर्शाता है

Text generation

कन्वर्सेशन ऐप में मशीन द्वारा जनरेट टेक्स्ट का उदाहरण। कनेक्शन से क्वेरी मिलने पर ऐप जवाब सुझाता है।

Neural machine translation

पुर्तगाली वाक्य "Vamos jogar futebol esse domingo?" का अंग्रेज़ी "Let's play soccer this Sunday?" में अनुवाद का उदाहरण दिखाता है

Recurrent Neural Networks

RNN मॉडल का अनरोल्ड प्रतिनिधित्व, दर्शाता है कि हर शब्द के बीच वेट्स साझा हैं। इसमें शब्द क्रम से डाले जाते हैं और आखिरी पर मॉडल क्लास की भविष्यवाणी करता है।

Sequence to sequence मॉडल

Many to one: classification

क्लासिफिकेशन समस्याओं के लिए RNN आर्किटेक्चर। मॉडल केवल आखिरी शब्द पर प्रेडिक्शन करता है।

Sequence to sequence मॉडल

Many to many: text generation

टेक्स्ट जनरेशन का आर्किटेक्चर। मॉडल दो भागों में है: इनपुट टेक्स्ट और जनरेटेड टेक्स्ट। इनपुट भाग में प्रेडिक्शन आखिरी स्टेप पर होता है, जबकि जनरेटेड भाग में हर स्टेप पर, जहाँ पहली प्रेडिक्शन अगले की इनपुट बनती है।

Sequence to sequence मॉडल

Many to many: neural machine translation

Neural Machine Translation आर्किटेक्चर। यह इनपुट और आउटपुट भाषा के लिए क्रमशः एन्कोडर और डिकोडर में बँटा है। एन्कोडर इनपुट भाषा का लैंग्वेज मॉडल सीखता है और डिकोडर आउटपुट भाषा का। एन्कोडर की अंतिम स्टेट डिकोडर को दी जाती है, जिसे कोई और इनपुट नहीं मिलता।

Sequence to sequence मॉडल

Many to many: language model

लैंग्वेज मॉडल आर्किटेक्चर। यहाँ मॉडल हर स्टेप पर अगला शब्द भविष्यवाणी करता है। ट्रेनिंग में यह वेट्स ऐसे समायोजित करता है कि सीक्वेंस का अगला शब्द सही आए।

अभ्यास करते हैं!

Keras के साथ भाषा मॉडलिंग के लिए Recurrent Neural Networks (RNNs)