जनरेटिव AI का विकास

जनरेटिव AI कॉन्सेप्ट्स

Daniel Tedesco

Data Lead, Google

2023 में Generative AI ने तेज़ी से दस्तक दी

एक चार्ट जो दिखाता है कि अलग-अलग सॉफ्टवेयर प्रोडक्ट्स को 100 मिलियन मासिक यूज़र्स तक पहुँचने में कितने महीने लगे। ChatGPT सबसे आगे है, सिर्फ 2 महीनों में।

¹ Yahoo Finance

विकास के प्रमुख कारक

कई कारक जनरेटिव AI को आगे बढ़ाते हैं:

कंप्यूटिंग पावर
डेटासेट उपलब्धता
प्रतिस्पर्धी हित
मॉडल डिज़ाइन

कम्प्यूटेशनल पावर ने बड़े मॉडल संभव किए

एक चार्ट जो AI मॉडल ट्रेनिंग के लिए कंप्यूटिंग पावर की घातांकीय वृद्धि दिखाता है: 1950 में 10^4 से कम फ्लोटिंग पॉइंट ऑपरेशंस से 2022 में 10^24 तक।

पैरेललाइज़ेशन और विशेष हार्डवेयर
- Graphics Processing Units (GPUs)
- Tensor Processing Units (TPUs)
क्लाउड कंप्यूटिंग
हार्डवेयर-सॉफ्टवेयर ऑप्टिमाइज़ेशन

¹ Compute Trends Across Three Eras of Machine Learning, https://arxiv.org/abs/2202.05924

विशाल डेटासेट से मॉडल बेहतर हुए

ग्लोबल डाटास्फेयर ग्रोथ एक चार्ट जो वैश्विक डाटास्फेयर की तेज़ होती वृद्धि दिखाता है: 2015 में 20 ज़ेटाबाइट से 2025 में 180 ज़ेटाबाइट तक।

¹ IDC's Global DataSphere, 2021

प्रतिस्पर्धी दबावों ने विकास तेज़ किया

कमर्शियल बड़ी टेक कंपनियों के लोगो

पॉलिटिकल कई अलग-अलग अंतरराष्ट्रीय झंडे

GANs ने उच्च-गुणवत्ता जनरेशन संभव किया

एक चित्र जहाँ जनरेटर एल्गोरिदम डिस्क्रिमिनेटर एल्गोरिदम को चुनौती देता है कि कई उलझाने वाली तस्वीरों में पपीज़ को पहचानें जो बैगेल जैसे दिखते हैं

Transformers ने संदर्भ और संगति जोड़ी

'it' का संदर्भ 'animal' से है

वाक्य: "The animal didn't cross the street because it was too tired." इसमें 'it' और 'animal' हाइलाइट हैं।

'it' का संदर्भ 'street' से है

वाक्य: "The animal didn't cross the street because it was too wide." इसमें 'it' और 'street' हाइलाइट हैं।

¹ https://ai.googleblog.com/2017/08/transformer-novel-neural-network.html

Transformers ने संदर्भ और संगति जोड़ी

Transformers:

दिए गए टेक्स्ट का संदर्भ समझते हैं
शब्दों के रिश्तों का विश्लेषण करते हैं
स्वाभाविक और सूचनात्मक जवाब जनरेट करते हैं

RLHF ने यूज़र फीडबैक जोड़ा

मानव फीडबैक के साथ रिइनफोर्समेंट लर्निंग (RLHF):

रिइनफोर्समेंट लर्निंग ट्रायल-एंड-एरर से मॉडल्स को ट्रेन करती है
मानव फीडबैक, यूज़र्स द्वारा मॉडल के जवाबों की रेटिंग से आता है

एक जनरेटिव AI फ्लो, जिसमें एक अतिरिक्त लूप है: response से feedback से model तक।

RLHF ने यूज़र फीडबैक जोड़ा

Midjourney यूज़र इंटरफेस का स्क्रीनशॉट, जिसमें इमेज़ रिज़ल्ट को रेट करने के विकल्प हैं।

¹ Midjourney

अभ्यास करते हैं!

जनरेटिव AI कॉन्सेप्ट्स