26 Feb 2026·Source: The Hindu

5 min

Science & TechnologyEXPLAINED

भारतीय कंपनियाँ एलएलएम को कैसे प्रशिक्षित कर रही हैं: चुनौतियाँ, समर्थन और वास्तुशिल्प नवाचार

Q: सरवम एआई (Sarvam AI) और इंडियाएआई मिशन (IndiaAI Mission) के बारे में कौन सी विशिष्ट जानकारी प्रारंभिक परीक्षा में संभावित एमसीक्यू (MCQ) जाल हो सकती है?

Here's a potential MCQ trap: Key points: जाल: एक प्रश्न जिसमें कहा गया है कि सरवम एआई (Sarvam AI) को सब्सिडी में ₹1,000 करोड़ मिले।. यह जाल क्यों है: वास्तविक सब्सिडी लगभग ₹100 करोड़ है।. परीक्षा टिप: संख्यात्मक डेटा पर ध्यान दें। परीक्षक अक्सर संख्याओं को थोड़ा बदलकर जाल बनाते हैं। हमेशा फंडिंग, पैरामीटर और तारीखों से संबंधित आंकड़ों की दोबारा जांच करें। Exam tip: सटीक संख्यात्मक डेटा पर ध्यान दें। परीक्षक अक्सर संख्याओं को थोड़ा बदलकर जाल बनाते हैं। हमेशा फंडिंग, पैरामीटर और तारीखों से संबंधित आंकड़ों की दोबारा जांच करें।

भारतीय कंपनियाँ किन चुनौतियों के बीच लार्ज लैंग्वेज मॉडल्स (एलएलएम) को प्रशिक्षित कर रही हैं, इसकी खोज।

भारतीय कंपनियाँ एलएलएम को कैसे प्रशिक्षित कर रही हैं: चुनौतियाँ, समर्थन और वास्तुशिल्प नवाचार

Photo by Raj Rana

पृष्ठभूमि संदर्भ

LLMs को Graphics Processing Units (GPUs) के क्लस्टर का उपयोग करके प्रशिक्षित किया जाता है, जो मशीन लर्निंग कार्यों को गति देने के लिए डिज़ाइन किए गए विशेष प्रोसेसर हैं।

प्रशिक्षण में मॉडल को बड़े पैमाने पर डेटासेट देना शामिल है, जिससे यह डेटा में पैटर्न और संबंधों को सीख सकता है। यह प्रक्रिया कंप्यूटिंग के मामले में बहुत महंगी है और GPUs और बिजली के खर्च के कारण लाखों डॉलर खर्च हो सकते हैं।

डेटा LLMs को प्रशिक्षित करने के लिए महत्वपूर्ण है। मॉडल का प्रदर्शन प्रशिक्षण डेटा की गुणवत्ता और विविधता पर निर्भर करता है। विशिष्ट भाषाओं या डोमेन में डेटा की कमी से उन क्षेत्रों में खराब प्रदर्शन हो सकता है।

Mixture of Experts (MoE) आर्किटेक्चर LLMs की दक्षता में सुधार के लिए एक महत्वपूर्ण इनोवेशन है। अनुमान के दौरान सभी पैरामीटर को सक्रिय करने के बजाय, MoE मॉडल केवल एक अंश को सक्रिय करते हैं, जिससे कंप्यूटिंग लागत कम होती है और गति में सुधार होता है।

वर्तमान प्रासंगिकता

भारत में LLMs का विकास महत्वपूर्ण है क्योंकि इन मॉडलों में भारतीय संदर्भ को बेहतर ढंग से समझने और सेवा करने की क्षमता है।

चुनौतियों में भारतीय भाषाओं में डेटा की कमी और प्रशिक्षण के लिए पूंजी की सीमित उपलब्धता शामिल है। IndiaAI Mission प्रशिक्षण प्रयासों को सब्सिडी देकर और GPUs तक पहुंच प्रदान करके इन चुनौतियों का समाधान कर रहा है।

भारतीय कंपनियां अधिक कुशल और लागत प्रभावी LLMs बनाने के लिए Mixture of Experts (MoE) जैसे विभिन्न आर्किटेक्चर की खोज कर रही हैं। यह भारतीय उपयोगकर्ताओं के लिए AI को सुलभ और किफायती बनाने के लिए महत्वपूर्ण है।

Ministry of Electronics and Information Technology (MeitY) घरेलू LLM विकास को प्रोत्साहित कर रहा है, यह मानते हुए कि विदेशों में विकसित LLMs भारतीय भाषाओं और संदर्भों को प्राथमिकता नहीं दे सकते हैं।

मुख्य बातें

•LLMs AI सिस्टम हैं जिन्हें बड़ी मात्रा में टेक्स्ट डेटा पर प्रशिक्षित किया जाता है।
•LLMs को प्रशिक्षित करने के लिए महत्वपूर्ण कंप्यूटिंग संसाधनों और पूंजी की आवश्यकता होती है।
•भारतीय भाषाओं में डेटा की कमी एक बड़ी चुनौती है।
•IndiaAI Mission भारत में LLM प्रशिक्षण प्रयासों को सब्सिडी दे रहा है।
•Mixture of Experts (MoE) आर्किटेक्चर LLM दक्षता में सुधार करता है।
•भारतीय संदर्भ की सेवा के लिए घरेलू LLM विकास महत्वपूर्ण है।
•सर्वम AI और BharatGen भारतीय कंपनियों के LLMs को प्रशिक्षित करने के उदाहरण हैं।

विभिन्न दृष्टिकोण

•Some argue that foreign-developed LLMs can be adapted to the Indian context through translation and fine-tuning.
•Others believe that training LLMs from scratch on Indian data is necessary for optimal performance.
•There are differing views on the role of government subsidies in promoting AI development.

मुख्य तथ्य

सर्वम AI ने 35 बिलियन और 105 बिलियन पैरामीटर पर प्रशिक्षित दो LLMs जारी किए।

LLMs को GPUs के क्लस्टर पर प्रशिक्षित किया जाता है, जिसकी लागत लाखों डॉलर होती है।

IndiaAI Mission ने डेटा सेंटरों में 36,000 से अधिक GPUs चालू किए हैं।

सर्वम को सरकार से 4,096 GPUs तक पहुंच मिली।

सर्वम के लिए सरकारी सब्सिडी लगभग ₹100 करोड़ अनुमानित है।

BharatGen, एक IIT Bombay-इनक्यूबेटेड फर्म, ने एक बहुभाषी 17 बिलियन पैरामीटर मॉडल को प्रशिक्षित किया।

UPSC परीक्षा के दृष्टिकोण

GS Paper III (Science and Technology): Developments in AI and their applications.

GS Paper II (Governance): Government policies and interventions for development of the technology sector.

Potential questions on the role of indigenous technology in achieving self-reliance and promoting inclusive growth.

आसान भाषा में समझें

LLMs को ऐसे कंप्यूटर प्रोग्राम के रूप में सोचें जो भाषाओं को समझ और बोल सकते हैं। भारतीय कंपनियां अब इन प्रोग्रामों का निर्माण कर रही हैं, लेकिन यह मुश्किल है क्योंकि उन्हें बहुत सारे डेटा और शक्तिशाली कंप्यूटरों की आवश्यकता होती है। सरकार इन AI मॉडलों को प्रशिक्षित करने के लिए संसाधन प्रदान करके मदद कर रही है।

भारत पर असर

इसका मतलब है कि भविष्य में, AI असिस्टेंट और चैटबॉट भारतीय भाषाओं में अधिक सटीक रूप से समझ और प्रतिक्रिया देने में सक्षम होंगे। इससे दुकानदारों को इन्वेंट्री का प्रबंधन करने, किसानों को मौसम की जानकारी प्राप्त करने और छात्रों को शैक्षिक संसाधनों तक पहुंचने में मदद मिल सकती है।

उदाहरण

एक किसान की कल्पना करें जो अपनी स्थानीय भाषा में फसल प्रबंधन पर रीयल-टाइम सलाह प्राप्त करने के लिए AI-पावर्ड ऐप का उपयोग कर रहा है। यह ऐप भारतीय कृषि डेटा पर प्रशिक्षित LLM द्वारा संचालित है, जो इसे अधिक प्रासंगिक और उपयोगी बनाता है।

यदि ये AI मॉडल भारत में बनाए जाते हैं, तो वे हमारी आवश्यकताओं और संस्कृति को बेहतर ढंग से समझ पाएंगे। इससे सभी के लिए अधिक उपयोगी और सुलभ तकनीक मिल सकती है।

भारत में बने AI भारतीय जरूरतों को बेहतर ढंग से समझ सकते हैं।

Bengaluru-based startup Sarvam AI released two Large Language Models (LLMs) trained on 35 billion and 105 billion parameters, respectively. LLMs are trained on clusters of Graphics Processing Units (GPUs), costing millions of dollars. Training LLMs on Indian soil with Indian capital faces challenges due to scarce data sources and limited capital.

The IndiaAI Mission has subsidized training efforts in India by commissioning over 36,000 GPUs in data centers. Sarvam received access to 4,096 GPUs, with an estimated subsidy of almost ₹100 crore. The Ministry of Electronics and Information Technology encourages domestic LLM development, believing foreign-developed LLMs may not prioritize Indian languages.

Sarvam's models signify progress in developing inexpensive LLMs. A key breakthrough for AI models is the Mixture of Experts (MoE) architecture, which activates only a fraction of parameters, reducing computing resources.

विशेषज्ञ विश्लेषण

The launch of Sarvam AI's LLMs highlights several key concepts in the field of artificial intelligence and India's technological landscape. The IndiaAI Mission, under which Sarvam AI was selected, is a government initiative aimed at fostering the development of indigenous AI capabilities. This mission reflects a strategic push towards technological sovereignty, ensuring that India has its own AI infrastructure tailored to its unique linguistic and cultural context. The mission provides funding, infrastructure support, and a framework for collaboration between startups, research institutions, and government agencies. The ₹99 crore subsidy for acquiring NVIDIA GPUs exemplifies the government's commitment to providing the necessary resources for AI development.

The architecture of Sarvam AI's models, particularly the Mixture of Experts (MoE) approach, is a crucial concept in understanding their efficiency. MoE involves activating only a fraction of the model's parameters at a time, reducing computational costs without sacrificing performance. This is particularly important for deploying AI models in resource-constrained environments, such as feature phones or edge devices. The 30B model's 19-layer depth with 128 experts and the 105B model's 32 layers with 128 experts demonstrate the scalability and complexity of this architecture.

Another significant concept is voice-first AI, which prioritizes voice interactions as the primary mode of communication with AI systems. Sarvam's models are optimized for voice-first applications across 22 Indian languages, addressing the needs of a large population that may not be literate or digitally savvy. This approach involves training models on high-quality datasets of Indian languages, accounting for linguistic nuances and cultural context. The development of multilingual AI chatbots like 'Vikram' showcases the potential of voice-first AI to bridge the digital divide and provide access to information and services for underserved communities.

For UPSC aspirants, understanding these concepts is crucial for both prelims and mains. Prelims may involve questions on the IndiaAI Mission, MoE architecture, or the applications of voice-first AI. Mains questions could explore the challenges and opportunities of developing indigenous AI capabilities, the role of government support in fostering innovation, or the ethical considerations of AI deployment in diverse cultural contexts.

दृश्य सामग्री

Key Statistics from India's LLM Development

Highlights key figures related to the IndiaAI mission and LLM development in India.

इंडियाएआई मिशन का बजट: ₹10,371.92 crore
इंडियाएआई मिशन द्वारा कमीशन किए गए जीपीयू: 36,000+
सर्वम एआई जीपीयू के लिए सब्सिडी: ₹100 crore

अक्सर पूछे जाने वाले सवाल

1. सरवम एआई (Sarvam AI) ने जो 30 बिलियन और 105 बिलियन पैरामीटर वाले एलएलएम (LLM) लॉन्च किए हैं, उनमें मुख्य अंतर क्या है, और यह क्यों महत्वपूर्ण है?

मुख्य अंतर यह है कि वे कितने मुश्किल काम कर सकते हैं। 30 बिलियन पैरामीटर वाला मॉडल 32,000 कॉन्टेक्स्ट विंडो का उपयोग करके रियल-टाइम बातचीत के लिए बनाया गया है, जबकि 105 बिलियन पैरामीटर वाला मॉडल, जिसमें 128,000 टोकन हैं, और भी मुश्किल कामों के लिए बनाया गया है। यह इसलिए ज़रूरी है क्योंकि इससे एक क्रमबद्ध तरीका मिलता है, जहाँ आसान काम कुशलता से किए जाते हैं, और मुश्किल समस्याओं को ज़्यादा शक्तिशाली मॉडल से हल किया जा सकता है।

परीक्षा युक्ति

पैरामीटर की संख्या (30B बनाम 105B) और उनके कॉन्टेक्स्ट विंडो/टोकन आकार को याद रखें। यूपीएससी (UPSC) प्रत्येक मॉडल की क्षमताओं के बारे में सवाल पूछ सकता है, जिससे आपकी ताकत की समझ का परीक्षण होगा।

2. इंडियाएआई मिशन (IndiaAI Mission) द्वारा 36,000 जीपीयू (GPU) कमीशन करने का सरवम एआई (Sarvam AI) को 4,096 जीपीयू (GPU) मिलने से क्या संबंध है?

इंडियाएआई मिशन (IndiaAI Mission) भारत में एआई (AI) इंफ्रास्ट्रक्चर को बढ़ावा देने की एक बड़ी पहल है। सरवम एआई (Sarvam AI) को 4,096 जीपीयू (GPU) मिलना इसी मिशन का नतीजा है। सरकार कंप्यूटेशनल संसाधनों का एक पूल बनाने में निवेश कर रही है जिसे भारतीय स्टार्टअप और शोधकर्ता स्वदेशी एआई (AI) मॉडल विकसित करने के लिए उपयोग कर सकते हैं। सरवम एआई (Sarvam AI) को इस मिशन के तहत भारत का पहला स्वदेशी फाउंडेशनल मॉडल विकसित करने के लिए पहले स्टार्टअप के रूप में चुना गया था।

परीक्षा युक्ति

यूपीएससी (UPSC), इंडियाएआई मिशन (IndiaAI Mission) के उद्देश्यों और यह स्वदेशी एआई (AI) के विकास का समर्थन कैसे करता है, इसके बारे में पूछ सकता है। याद रखें कि कंप्यूटेशनल संसाधन प्रदान करना इस मिशन का एक महत्वपूर्ण पहलू है।

3. भारत सरकार एआई (AI) विकास को सब्सिडी क्यों दे रही है, और इसके संभावित लाभ और जोखिम क्या हैं?

भारत सरकार एआई (AI) विकास को सब्सिडी इसलिए दे रही है ताकि भारतीय भाषाओं और सांस्कृतिक बारीकियों के अनुरूप स्वदेशी एआई (AI) क्षमताओं को बढ़ावा दिया जा सके। वैश्विक एलएलएम (LLM) अक्सर पूर्वाग्रह दिखाते हैं और भारत की बहुभाषी आबादी की प्रासंगिक वास्तविकताओं को संबोधित करने में विफल रहते हैं। संभावित लाभों में शामिल हैं:

•एआई (AI) संचालित नवाचार के माध्यम से आर्थिक विकास।
•स्वास्थ्य सेवा, शिक्षा और शासन में एआई (AI) अनुप्रयोगों के माध्यम से बेहतर सार्वजनिक सेवाएं।
•विदेशी एआई (AI) प्रौद्योगिकियों पर निर्भरता कम करना।
•एआई (AI) क्षेत्र में नौकरी सृजन।
•एआई (AI) सिस्टम में पूर्वाग्रह और निष्पक्षता के मुद्दों का समाधान।

परीक्षा युक्ति

सरकारी सब्सिडी पर चर्चा करते समय, हमेशा संभावित लाभों (आर्थिक विकास, बेहतर सेवाएं) और संभावित जोखिमों (अक्षमता, सब्सिडी पर निर्भरता) दोनों पर विचार करें।

4. सरवम एआई (Sarvam AI) का 'वॉयस-फर्स्ट इंटरेक्शन' पर ध्यान भारत में प्रौद्योगिकी और पहुंच में व्यापक रुझानों से कैसे जुड़ता है?

वॉयस-फर्स्ट इंटरेक्शन भारत में पहुंच के लिए महत्वपूर्ण हैं, जहाँ कई उपयोगकर्ता साक्षर नहीं हो सकते हैं या टेक्स्ट-आधारित इंटरफेस का उपयोग करने में सहज नहीं हो सकते हैं। आवाज के लिए अनुकूलन करके, सरवम एआई (Sarvam AI) एक महत्वपूर्ण उपयोगकर्ता आधार में टैप कर रहा है और डिजिटल विभाजन को संबोधित कर रहा है। यह प्रौद्योगिकी को अधिक समावेशी और विविध आबादी के लिए सुलभ बनाने की व्यापक प्रवृत्ति के अनुरूप है।

परीक्षा युक्ति

प्रौद्योगिकी के सामाजिक निहितार्थों पर विचार करें। वॉयस-फर्स्ट एआई (AI) समावेशन के लिए एक शक्तिशाली उपकरण हो सकता है, खासकर विविध भाषाओं और साक्षरता स्तर वाले देशों में।

5. सरवम एआई (Sarvam AI) और इंडियाएआई मिशन (IndiaAI Mission) के बारे में कौन सी विशिष्ट जानकारी प्रारंभिक परीक्षा में संभावित एमसीक्यू (MCQ) जाल हो सकती है?

Here's a potential MCQ trap:

•जाल: एक प्रश्न जिसमें कहा गया है कि सरवम एआई (Sarvam AI) को सब्सिडी में ₹1,000 करोड़ मिले।
•यह जाल क्यों है: वास्तविक सब्सिडी लगभग ₹100 करोड़ है।
•परीक्षा टिप: संख्यात्मक डेटा पर ध्यान दें। परीक्षक अक्सर संख्याओं को थोड़ा बदलकर जाल बनाते हैं। हमेशा फंडिंग, पैरामीटर और तारीखों से संबंधित आंकड़ों की दोबारा जांच करें।

परीक्षा युक्ति

सटीक संख्यात्मक डेटा पर ध्यान दें। परीक्षक अक्सर संख्याओं को थोड़ा बदलकर जाल बनाते हैं। हमेशा फंडिंग, पैरामीटर और तारीखों से संबंधित आंकड़ों की दोबारा जांच करें।

6. यदि मुख्य परीक्षा में मुझसे इंडियाएआई मिशन (IndiaAI Mission) की 'आलोचनात्मक जांच' करने के लिए कहा जाता है, तो मुझे कौन से संतुलित तर्क शामिल करने चाहिए?

When critically examining the IndiaAI Mission, consider these points:

•संभावित लाभ: स्वदेशी एआई (AI) को बढ़ावा देना, भाषा पूर्वाग्रहों को दूर करना, आर्थिक विकास को बढ़ावा देना और सार्वजनिक सेवाओं में सुधार करना।
•संभावित कमियां: अक्षमता का जोखिम, सरकारी सब्सिडी पर निर्भरता, एआई (AI) प्रौद्योगिकियों के दुरुपयोग की संभावना और नैतिक चिंताएं।
•संतुलित तर्क: जबकि इंडियाएआई मिशन (IndiaAI Mission) में भारत के लिए महत्वपूर्ण लाभ पैदा करने की क्षमता है, संभावित कमियों को दूर करना और यह सुनिश्चित करना महत्वपूर्ण है कि एआई (AI) विकास नैतिक सिद्धांतों और सामाजिक मूल्यों के साथ संरेखित हो।

परीक्षा युक्ति

'आलोचनात्मक जांच' प्रश्नों में, हमेशा विषय के सकारात्मक और नकारात्मक दोनों पहलुओं को प्रस्तुत करें। एकतरफा दृष्टिकोण लेने से बचें।

बहुविकल्पीय प्रश्न (MCQ)

1. इंडियाएआई मिशन के बारे में निम्नलिखित कथनों पर विचार करें: 1. इसका उद्देश्य भारत की भाषाई और सांस्कृतिक संदर्भ के अनुरूप स्वदेशी एआई क्षमताओं के विकास को बढ़ावा देना है। 2. यह मिशन स्टार्टअप, अनुसंधान संस्थानों और सरकारी एजेंसियों के बीच सहयोग के लिए धन, बुनियादी ढांचा सहायता और एक ढांचा प्रदान करता है। 3. मिशन अनिवार्य करता है कि इसके तहत विकसित सभी एआई मॉडल ओपन सोर्स होने चाहिए। उपरोक्त कथनों में से कौन सा/से सही है/हैं?

A.केवल 1 और 2
B.केवल 2 और 3
C.केवल 1 और 3
D.1, 2 और 3

उत्तर देखें

सही उत्तर: A

कथन 1 सही है: इंडियाएआई मिशन का उद्देश्य भारत की भाषाई और सांस्कृतिक संदर्भ के अनुरूप स्वदेशी एआई क्षमताओं के विकास को बढ़ावा देना है। कथन 2 सही है: यह मिशन स्टार्टअप, अनुसंधान संस्थानों और सरकारी एजेंसियों के बीच सहयोग के लिए धन, बुनियादी ढांचा सहायता और एक ढांचा प्रदान करता है। कथन 3 गलत है: जबकि ओपन सोर्सिंग को प्रोत्साहित किया जाता है, लेकिन मिशन के तहत विकसित सभी एआई मॉडल के लिए यह अनिवार्य नहीं है।

2. बड़े भाषा मॉडल (एलएलएम) के संदर्भ में, मिक्सचर ऑफ एक्सपर्ट्स (एमओई) आर्किटेक्चर का उपयोग करने का प्राथमिक लाभ क्या है?

A.यह मॉडल में मापदंडों की संख्या बढ़ाता है, जिससे उच्च सटीकता होती है।
B.यह एक समय में मापदंडों के केवल एक अंश को सक्रिय करके कम्प्यूटेशनल लागत को कम करता है।
C.यह मॉडल को एक साथ कई भाषाओं को संसाधित करने की अनुमति देता है।
D.यह प्रशिक्षण डेटा की आवश्यकता को समाप्त करता है, क्योंकि मॉडल मौजूदा ज्ञान से सीख सकता है।

उत्तर देखें

सही उत्तर: B

मिक्सचर ऑफ एक्सपर्ट्स (एमओई) आर्किटेक्चर एक समय में मॉडल के मापदंडों के केवल एक अंश को सक्रिय करके कम्प्यूटेशनल लागत को कम करता है। यह एलएलएम की कुशल तैनाती की अनुमति देता है, खासकर संसाधन-बाधित वातावरण में।

3. निम्नलिखित में से कौन सी पहल मुख्य रूप से एआई उपकरणों को अधिक सुलभ बनाने के लिए भारत की साक्षरता, डिजिटल और भाषाई बाधाओं को दूर करने के उद्देश्य से है?

A.डिजिटल इंडिया इनिशिएटिव
B.भाषिनी इनिशिएटिव
C.एआईकोश
D.राष्ट्रीय शिक्षा नीति

उत्तर देखें

सही उत्तर: B

भाषिनी इनिशिएटिव मुख्य रूप से एआई उपकरणों को अधिक सुलभ बनाने के लिए भारत की साक्षरता, डिजिटल और भाषाई बाधाओं को दूर करने के उद्देश्य से है। यह एआईकोश के साथ मिलकर काम करता है, जो एक उच्च गुणवत्ता वाला डेटा कैप्चर पहल और डेटासेट प्लेटफॉर्म है।