जेनरेटिव एआई की व्याख्या: मशीनें कैसे बनाना सीखती हैं

जेनरेटिव एआई 21वीं सदी के सबसे परिवर्तनकारी तकनीकी बदलावों में से एक है। वर्गीकृत करने, भविष्यवाणी करने या पता लगाने वाली पारंपरिक एआई प्रणालियों के विपरीत, जनरेटिव एआई बनाता है** - पाठ, चित्र, ऑडियो, वीडियो, कोड और यहां तक ​​कि त्रि-आयामी संरचनाएं। यह ChatGPT द्वारा लेख लिखने, मिडजॉर्नी पेंटिंग फोटोरियलिस्टिक आर्ट, और GitHub Copilot द्वारा एक टिप्पणी से संपूर्ण कार्यों को पूरा करने के पीछे की तकनीक है।

यह मार्गदर्शिका बताती है कि जेनरेटिव एआई क्या है, यह हुड के नीचे कैसे काम करता है, इसे शक्ति प्रदान करने वाले प्रमुख मॉडल आर्किटेक्चर और यह कहां जा रहा है।

1. जेनरेटिव एआई क्या है?

जेनरेटिव एआई कृत्रिम बुद्धिमत्ता मॉडल के एक वर्ग को संदर्भित करता है जो प्रशिक्षण डेटा के सांख्यिकीय वितरण को सीखता है और फिर उसी वितरण के बाद नई सामग्री उत्पन्न करता है।

सरल शब्दों में: यदि आप मानव चेहरों की लाखों तस्वीरों पर एक मॉडल को प्रशिक्षित करते हैं, तो यह चेहरे के स्वरूप को सीखता है - आंखों का स्थान, नाक का आकार, त्वचा की बनावट - और फिर एक पूरी तरह से नया चेहरा उत्पन्न कर सकता है जो पहले कभी अस्तित्व में नहीं था।

भेदभावपूर्ण और जनरेटिव मॉडल के बीच मुख्य अंतर:

2. जेनरेटिव एआई के पीछे मुख्य आर्किटेक्चर

आधुनिक जेनरेटिव एआई एक एकल तकनीक नहीं है - यह अलग-अलग आर्किटेक्चर का एक परिवार है, प्रत्येक अलग-अलग डोमेन के लिए उपयुक्त है।

2.1 ट्रांसफार्मर-आधारित भाषा मॉडल (एलएलएम)

वासवानी एट अल द्वारा ऐतिहासिक 2017 पेपर “अटेंशन इज़ ऑल यू नीड” में पेश किया गया ट्रांसफॉर्मर आर्किटेक्चर, आज जीपीटी-4, जेमिनी, क्लाउड और लामा सहित हर प्रमुख भाषा मॉडल की नींव है।

यह कैसे काम करता है:

1. टोकनीकरण: इनपुट टेक्स्ट को टोकन (उप-शब्द इकाइयों) में विभाजित किया गया है। “जनरेटिव AI” ["Genera", "tive", " AI"] बन सकता है।
2. एंबेडिंग: प्रत्येक टोकन को एक उच्च-आयामी संख्यात्मक वेक्टर में परिवर्तित किया जाता है जो इसके अर्थ को पकड़ लेता है।
3. स्व-ध्यान तंत्र: प्रत्येक टोकन अनुक्रम में प्रत्येक दूसरे टोकन के साथ संबंधों (ध्यान स्कोर) की गणना करता है। यह मॉडल को यह समझने की अनुमति देता है कि “नदी तट” में “बैंक” “बैंक खाते” में “बैंक” से भिन्न है।
4. फ़ीड-फ़ॉरवर्ड परतें: प्रत्येक स्थिति जटिल सुविधाओं को निकालने के लिए एक गैर-रेखीय फ़ीड-फ़ॉरवर्ड नेटवर्क से गुजरती है।
5. अगली-टोकन भविष्यवाणी: जीपीटी जैसे ऑटोरेग्रेसिव मॉडल को अगले सबसे संभावित टोकन की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है, आउटपुट पूरा होने तक इस प्रक्रिया को दोहराया जाता है।

आधुनिक एलएलएम का पैमाना चौंका देने वाला है:

• जीपीटी-4: अनुमानित ~1.8 ट्रिलियन पैरामीटर
• गूगल जेमिनी अल्ट्रा: मिक्सचर-ऑफ-एक्सपर्ट आर्किटेक्चर में खरबों पैरामीटर
• लामा 3.1 405बी: 405 बिलियन पैरामीटर, ओपन-सोर्स

2.2 प्रसार मॉडल (चित्र एवं ऑडियो)

डिफ्यूजन मॉडल पावर टूल्स जैसे स्टेबल डिफ्यूजन, DALL-E 3 और मिडजर्नी। वे दो चरण की प्रक्रिया के माध्यम से चित्र बनाना सीखते हैं:

आगे बढ़ने की प्रक्रिया (प्रशिक्षण):

• कई चरणों (उदाहरण के लिए, 1,000 कदम) में गॉसियन शोर जोड़कर एक वास्तविक छवि उत्तरोत्तर दूषित हो जाती है।
• अंतिम चरण में, छवि शुद्ध यादृच्छिक शोर है।
• मॉडल प्रत्येक चरण में जोड़े गए शोर की भविष्यवाणी करना सीखता है।

रिवर्स प्रक्रिया (पीढ़ी):

• शुद्ध यादृच्छिक शोर से प्रारंभ करें।
• भाषा मॉडल (जैसे सीएलआईपी) द्वारा एन्कोड किए गए टेक्स्ट प्रॉम्प्ट द्वारा निर्देशित, छवि को पुनरावृत्त रूप से निरूपित करें।
• 20-50 निरूपण चरणों के बाद, संकेत से मेल खाती एक फोटोयथार्थवादी छवि उभरती है।

टेक्स्ट कंडीशनिंग यू-नेट (या डीआईटी - डिफ्यूजन ट्रांसफार्मर) बैकबोन के अंदर क्रॉस-अटेंशन परतों के माध्यम से प्राप्त की जाती है, जो शोर-भविष्यवक्ता को संकेत के अर्थपूर्ण अर्थ द्वारा संचालित करने की अनुमति देती है।

2.3 जनरेटिव एडवरसैरियल नेटवर्क (जीएएन)

प्रसार मॉडल के प्रभुत्व में आने से पहले, GANs (2014 में इयान गुडफेलो द्वारा प्रस्तुत) छवि संश्लेषण के लिए स्वर्ण मानक थे।

GAN में एक साथ प्रशिक्षित दो प्रतिस्पर्धी तंत्रिका नेटवर्क शामिल हैं:

• जनरेटर (जी): यादृच्छिक शोर को इनपुट के रूप में लेता है और विवेचक को मूर्ख बनाने का प्रयास करते हुए एक नकली छवि तैयार करता है।
• विभेदक (डी): वास्तविक और नकली दोनों छवियां लेता है और उन्हें अलग करने का प्रयास करता है।

इस प्रतिकूल प्रशिक्षण लूप के माध्यम से, जेनरेटर उत्तरोत्तर अधिक यथार्थवादी छवियां बनाना सीखता है। प्रशिक्षण उद्देश्य एक मिनिमैक्स गेम है:

min_G max_D [E[log D(x)] + E[log(1 - D(G(z)))]]

जीएएन की सीमाएं: प्रशिक्षण अस्थिरता (मोड पतन, गायब ग्रेडिएंट्स) और अत्यधिक विविध आउटपुट उत्पन्न करने में कठिनाई ने उन्हें ओपन-डोमेन पीढ़ी के लिए प्रसार मॉडल की तुलना में कम उपयुक्त बना दिया।

2.4 वेरिएशनल ऑटोएन्कोडर्स (वीएई)

वीएई एक संपीड़ित अव्यक्त स्थान सीखने के लिए एक संभाव्य ढांचा प्रदान करता है जो डेटा की अंतर्निहित संरचना को पकड़ता है। इनमें शामिल हैं:

• एनकोडर: इनपुट डेटा को निम्न-आयामी अव्यक्त स्थान में माध्य (μ) और विचरण (σ) वेक्टर में संपीड़ित करता है।
• डिकोडर: अव्यक्त वितरण से नमूना किए गए बिंदु से डेटा का पुनर्निर्माण करता है।

वीएई का व्यापक रूप से बड़े सिस्टम के भीतर एक घटक के रूप में उपयोग किया जाता है - उदाहरण के लिए, स्टेबल डिफ्यूजन वीएई (जिसे लेटेंट डिफ्यूजन मॉडल कहा जाता है) के संपीड़ित अव्यक्त स्थान के अंदर अपनी प्रसार प्रक्रिया चलाता है, जो प्रक्रिया को नाटकीय रूप से तेज बनाता है।

3. एलएलएम को कैसे प्रशिक्षित किया जाता है: तीन चरणों वाली पाइपलाइन

आधुनिक बड़े भाषा मॉडल उपयोगकर्ताओं तक पहुंचने से पहले तीन अलग-अलग प्रशिक्षण चरणों से गुजरते हैं:

चरण 1: पूर्व-प्रशिक्षण (दुनिया से सीखना)

मॉडल को स्व-पर्यवेक्षित शिक्षा का उपयोग करके पाठ के विशाल संग्रह (किताबों, वेबसाइटों, कोड और वैज्ञानिक पत्रों से निकाले गए खरबों टोकन) पर प्रशिक्षित किया गया है। कार्य सरल है: अगले टोकन की भविष्यवाणी करें। किसी मानव लेबल की आवश्यकता नहीं है. यह मॉडल विश्व ज्ञान, व्याकरण, तर्क पैटर्न और कोडिंग क्षमता सिखाता है।

चरण 2: पर्यवेक्षित फाइन-ट्यूनिंग (एसएफटी)

मानव प्रशिक्षक आदर्श एआई व्यवहार का प्रदर्शन करते हुए हजारों उच्च-गुणवत्ता वाले त्वरित-प्रतिक्रिया जोड़े बनाते हैं। बातचीत में सहायता के लिए अपेक्षित प्रारूप और टोन सीखने के लिए पूर्व-प्रशिक्षित मॉडल को इस डेटा पर ठीक से ट्यून किया जाता है।

चरण 3: मानव प्रतिक्रिया से सुदृढीकरण सीखना (आरएलएचएफ)

• मानव मूल्यांकनकर्ता मॉडल प्रतिक्रियाओं और रैंक के जोड़े की तुलना करते हैं जो बेहतर है।
• ये रैंकिंग एक रिवॉर्ड मॉडल (आरएम) को प्रशिक्षित करती है जो प्रतिक्रिया गुणवत्ता का स्कोर करती है।
• इनाम मॉडल के स्कोर को अधिकतम करने वाली प्रतिक्रियाएं उत्पन्न करने के लिए भाषा मॉडल को प्रॉक्सिमल पॉलिसी ऑप्टिमाइज़ेशन (पीपीओ) का उपयोग करके अनुकूलित किया जाता है।
• यह चरण मॉडल के आउटपुट को मानवीय प्राथमिकताओं के साथ संरेखित करता है - इसे सहायक, हानिरहित और ईमानदार बनाता है।

4. प्रमुख उत्पादक एआई क्षमताएं

टेक्स्ट जेनरेशन

जीपीटी-4 और जेमिनी जैसे एलएलएम निबंध लिख सकते हैं, दस्तावेजों का सारांश दे सकते हैं, सवालों के जवाब दे सकते हैं, भाषाओं का अनुवाद कर सकते हैं, कोड लिख सकते हैं और जटिल बहु-चरणीय समस्याओं के माध्यम से तर्क कर सकते हैं। उन्नत मॉडल अपने तर्क दिखाने के लिए चेन-ऑफ-थॉट (सीओटी) का उपयोग करते हैं, जिससे तार्किक और गणितीय कार्यों पर सटीकता में उल्लेखनीय सुधार होता है।

छवि एवं वीडियो निर्माण

डिफ्यूज़न मॉडल फोटोरिअलिस्टिक छवियां, कलात्मक चित्र और अब पूर्ण वीडियो अनुक्रम (उदाहरण के लिए, Google Veo, OpenAI Sora) उत्पन्न कर सकते हैं। टेक्स्ट-टू-वीडियो मॉडल स्थानिक-लौकिक अव्यक्त स्थानों पर काम करते हैं, जो समय के साथ-साथ अंतरिक्ष में भी निरूपण प्रक्रिया का विस्तार करते हैं।

कोड जनरेशन

कोड पर फाइन-ट्यून किए गए मॉडल (उदाहरण के लिए, कोडेक्स द्वारा संचालित गिटहब कोपायलट, जेमिनी कोड असिस्ट) स्वचालित रूप से कार्यों को पूरा कर सकते हैं, प्राकृतिक भाषा विवरणों से संपूर्ण मॉड्यूल उत्पन्न कर सकते हैं, यूनिट परीक्षण लिख सकते हैं और मौजूदा कोड की व्याख्या कर सकते हैं।

ऑडियो एवं संगीत सृजन

ओपनएआई के व्हिस्पर (स्पीच-टू-टेक्स्ट) और म्यूजिकजेन (टेक्स्ट प्रॉम्प्ट से संगीत) जैसे मॉडल प्रदर्शित करते हैं कि जेनरेटिव प्रतिमान स्पेक्ट्रोग्राम या ऑडियो टोकन पर काम करते हुए, ऑडियो डोमेन तक तरल रूप से फैलता है।

मल्टीमॉडल जेनरेशन

जेनरेटिव एआई की सीमा मल्टीमॉडल मॉडल है - सिस्टम जो टेक्स्ट, छवियों, ऑडियो और वीडियो को एक साथ संसाधित और उत्पन्न कर सकते हैं। जेमिनी 1.5 प्रो जैसे मॉडल 1 मिलियन टोकन की एकल संदर्भ विंडो में 2 घंटे के वीडियो, एक कोडबेस और एक पीडीएफ दस्तावेज़ पर तर्क कर सकते हैं।

5. शीघ्र इंजीनियरिंग: मॉडल क्षमता को अनलॉक करना

जेनेरिक मॉडल के आउटपुट की गुणवत्ता इनपुट प्रॉम्प्ट की संरचना के प्रति अत्यधिक संवेदनशील होती है। प्रॉम्प्ट इंजीनियरिंग ऐसे इनपुट तैयार करने का अभ्यास है जो सर्वोत्तम प्रतिक्रियाएँ प्राप्त करते हैं:

• ज़ीरो-शॉट प्रॉम्प्टिंग: मॉडल को बिना किसी उदाहरण के सीधे कार्य करने के लिए कहें।
• कुछ-शॉट प्रॉम्प्टिंग*: प्रॉम्प्ट के अंदर वांछित इनपुट-आउटपुट प्रारूप के 2-5 उदाहरण प्रदान करें। मॉडल पैटर्न का अनुमान लगाता है और इसे एक नए इनपुट पर लागू करता है।
• चेन-ऑफ़-थॉट (सीओटी): मॉडल को उत्तर देने से पहले समस्या पर तर्क करने के लिए प्रोत्साहित करने के लिए “आइए चरण दर चरण सोचें” जोड़ें।
• सिस्टम निर्देश: मॉडल को व्यक्तित्व या व्यवहार संबंधी बाधा से भरें (उदाहरण के लिए, “आप एक वरिष्ठ सुरक्षा इंजीनियर हैं। सटीक और संक्षिप्त रहें।")।

6. जनरेटिव एआई बनाम पारंपरिक एआई: एक तुलना

7. चुनौतियाँ और सीमाएँ

उल्लेखनीय क्षमताओं के बावजूद, जेनेरेटिव एआई में महत्वपूर्ण सीमाएँ हैं जिन्हें इंजीनियरों को समझना चाहिए:

• मतिभ्रम: एलएलएम आत्मविश्वास से तथ्यात्मक रूप से गलत जानकारी उत्पन्न कर सकते हैं, क्योंकि वे सांकेतिक संभावना के लिए अनुकूलन करते हैं, तथ्यात्मक सत्य के लिए नहीं। समाधानों में आरएजी (रिट्रीवल-ऑगमेंटेड जेनरेशन) और सत्यापित स्रोतों के साथ ग्राउंडिंग शामिल हैं।
• संदर्भ विंडो सीमाएँ: हालाँकि जेमिनी 1.5 प्रो जैसे मॉडल अब 1M+ टोकन संदर्भों का समर्थन करते हैं, अधिकांश उत्पादन मॉडल में सीमाएँ होती हैं जिनके लिए लंबे दस्तावेज़ों को सावधानीपूर्वक विभाजित करने की आवश्यकता होती है।
• पूर्वाग्रह और सुरक्षा: मॉडल अपने प्रशिक्षण डेटा में मौजूद पूर्वाग्रहों को दर्शाते हैं। संरेखण तकनीक (आरएलएचएफ, संवैधानिक एआई) मदद करती है, लेकिन समस्या पूरी तरह से हल नहीं होती है।
• अनुमान लागत: ट्रिलियन-पैरामीटर मॉडल को चलाने के लिए महत्वपूर्ण GPU बुनियादी ढांचे की आवश्यकता होती है। परिमाणीकरण, सट्टा डिकोडिंग और मॉडल आसवन जैसी तकनीकें इस लागत को कम करती हैं।
• कॉपीराइट और आईपी: कॉपीराइट डेटा पर प्रशिक्षित होने पर, मॉडल संरक्षित सामग्री को पुन: पेश कर सकते हैं, जिससे बौद्धिक संपदा के आसपास अनसुलझे कानूनी प्रश्न खड़े हो सकते हैं।

8. जेनरेटिव एआई का भविष्य

जेनरेटिव एआई का प्रक्षेप पथ कई प्रमुख विकासों की ओर इशारा करता है:

• एजेंट एआई: टूल (वेब ​​खोज, कोड निष्पादन, फ़ाइल एक्सेस) से लैस एलएलएम स्वायत्त एजेंटों में विकसित हो रहे हैं जो विस्तारित अवधि में बहु-चरणीय कार्यों की योजना बनाते हैं और निष्पादित करते हैं। लैंगग्राफ, ऑटोजेन और गूगल के एजेंट डेवलपमेंट किट (एडीके) जैसे फ्रेमवर्क इसे सक्षम कर रहे हैं।
• विश्व मॉडल: अगली पीढ़ी के मॉडल जो भौतिक वास्तविकता का एक संपीड़ित, पूर्वानुमानित प्रतिनिधित्व सीखते हैं - रोबोट को भौतिक दुनिया के बारे में तर्क करने और उसके साथ बातचीत करने में सक्षम बनाते हैं।
• पैमाने पर वैयक्तिकरण: फोन और लैपटॉप पर चलने वाले ऑन-डिवाइस छोटे भाषा मॉडल (एसएलएम) क्लाउड निर्भरता के बिना निजी, वैयक्तिकृत एआई सहायकों को सक्षम करेंगे।
• वैज्ञानिक खोज: नए प्रोटीन (अल्फाफोल्ड 3) को डिजाइन करने, नए दवा अणुओं का प्रस्ताव देने और सामग्री विज्ञान अनुसंधान में तेजी लाने के लिए जेनरेटिव मॉडल का उपयोग पहले से ही किया जा रहा है।

निष्कर्ष

जेनरेटिव एआई कोई उत्पाद नहीं है - यह एक नया कंप्यूटिंग प्रतिमान है। मानव-निर्मित सामग्री के वितरण को मॉडल करना सीखकर, ये प्रणालियाँ रचनात्मक सहयोगियों, अथक कोडर्स, चिकित्सा शोधकर्ताओं और स्वायत्त समस्या-समाधानकर्ताओं के रूप में कार्य करने में सक्षम हो गई हैं। इन मॉडलों के पीछे की वास्तुकला और प्रशिक्षण पाइपलाइनों को समझना अब इंजीनियरों और प्रौद्योगिकीविदों के लिए वैकल्पिक नहीं है - यह अगली पीढ़ी के बुद्धिमान सॉफ्टवेयर के निर्माण के लिए आवश्यक ज्ञान है।

ग़ज़निक्स ब्लॉग पर अधिक AI अंतर्दृष्टि खोजें →