आपके पीसी पर चलने वाला एक नया AI chatbot: Nvidia’s Chat with RTX
पिछले कुछ वर्षों में Nvidia ने AI पर बहुत ध्यान केंद्रित किया है। और इसी क्रम में आप आया है आपके पीसी पर चलने वाला एक नया AI chatbot Nvidia Chat with RTX
Nvidia Chat with RTX क्या है?
Nvidia Chat with RTX एक नया ऐप है जो आपको अपने कंप्यूटर पर एक AI चैटबॉट बनाने की सुविधा देता है। यह चैटबॉट आपके द्वारा प्रदान किए गए डेटा, जैसे दस्तावेज़, ईमेल, यूट्यूब वीडियो, आदि से सीखता है। यह सीखने के बाद, यह आपके लिए एक ऐसा चैट पार्टनर बन जाता है जो आपकी भाषा और रुचियों के अनुरूप बातचीत कर सकता है।
चैटआरटीएक्स (ChatRTX) एक ऐसा नया ऐप है जिसे आप डाउनलोड कर सकते हैं। यह एनवीडिया (NVIDIA) का बनाया हुआ है और आपके लिए एक खास चैटबॉट बनाने में मदद करता है। इस चैटबॉट को आप अपनी पसंद के अनुसार सेटअप कर सकते हैं।
आसान शब्दों में कहें तो चैटबॉट एक ऐसा कंप्यूटर प्रोग्राम है जिससे आप चैट करके बातचीत कर सकते हैं। लेकिन यह कोई सामान्य चैटबॉट नहीं है! आप इसे अपने दस्तावेज़, ईमेल, नोट्स जैसी चीज़ें दे सकते हैं। यह इन चीज़ों को पढ़कर सीखता है कि आप किस बारे में बात करना पसंद करते हैं और किस तरह की भाषा का इस्तेमाल करते हैं। फिर यह आपके लिए एक ऐसा चैट पार्टनर बन जाता है जो आपकी ही तरह से बातचीत कर सकता है!
इस पोस्ट में आप चैटआरटीएक्स के बारे में और अधिक जानेंगे, जैसे यह कैसे काम करता है और इसको इस्तेमाल करने के लिए क्या-क्या चीज़ें ज़रूरी हैं।
Nvidia Chat with RTX कैसे काम करता है?
Nvidia Chat with RTX, आपके द्वारा प्रदान किए गए डेटा का उपयोग करके एक AI चैटबॉट बनाने के लिए, 3 मुख्य चरणों का उपयोग करता है:
1. Data Processing:
- सबसे पहले, आपको अपने दस्तावेज़, ईमेल, यूट्यूब वीडियो, आदि जैसे डेटा को ऐप में अपलोड करना होगा।
- ऐप तब इस डेटा को टोकन नामक छोटे भागों में विभाजित करता है।
- टोकन को फिर एक भाषा मॉडल में प्रशिक्षित किया जाता है, जो डेटा में पैटर्न और संबंधों को सीखता है।
2. Language Model:
- भाषा मॉडल एक AI एल्गोरिदम है जो डेटा में पैटर्न और संबंधों का उपयोग करके भविष्यवाणियां कर सकता है।
- Chat with RTX, TensorFlow Lite नामक एक लोकप्रिय AI ढांचे का उपयोग करके भाषा मॉडल को प्रशिक्षित करता है।
- प्रशिक्षित भाषा मॉडल तब आपके प्रश्नों और अनुरोधों को समझने और उनका जवाब देने में सक्षम होता है।
3. Conversation:
- एक बार जब भाषा मॉडल प्रशिक्षित हो जाता है, तो आप चैटबॉट के साथ बातचीत करना शुरू कर सकते हैं।
- आप चैटबॉट से प्रश्न पूछ सकते हैं, उसे निर्देश दे सकते हैं, या उसे जानकारी प्रदान कर सकते हैं।
- चैटबॉट आपके प्रश्नों का उत्तर देगा, आपके अनुरोधों को पूरा करेगा, और आपके द्वारा प्रदान किए गए जानकारी का उपयोग करके नई जानकारी उत्पन्न करेगा।
Nvidia Chat with RTX में कुछ प्रमुख विशेषताएं शामिल हैं:
- Realistic Conversations: चैटबॉट आपके साथ एक natural और realistic तरीके से बातचीत करने में सक्षम है।
- Personalized experience: चैटबॉट आपके द्वारा प्रदान किए गए डेटा के आधार पर आपके लिए अनुकूलित है।
- Various functions: चैटबॉट विभिन्न कार्यों को करने में सक्षम है, जैसे कि प्रश्नों का उत्तर देना, निर्देशों का पालन करना, और जानकारी उत्पन्न करना।
Nvidia Chat with RTX में ख़ास क्या है?
चैटआरटीएक्स की खास बात ये है कि आप इसे अपना बना सकते हैं! आप इसे अपने दस्तावेज़, ईमेल, नोट्स वगैरह देकर इसे सीखने में मदद कर सकते हैं. ये चीज़ें पढ़कर चैटआरटीएक्स आपकी पसंद, आपकी लिखने की स्टाइल और किन चीज़ों के बारे में आप जानते हैं, यह सब सीख लेता है. फिर यह आपसे उसी तरह से बातचीत कर सकता है जैसे आप किसी दोस्त से बात करते हैं – आम चैटबॉट्स से अलग!
चैटआरटीएक्स की दूसरी खास बात ये है कि यह आपके कंप्यूटर पर ही काम करता है, इंटरनेट की जरूरत नहीं! इससे दो फायदे होते हैं:
- तेज़ जवाब: क्योंकि सब कुछ आपके कंप्यूटर पर ही होता है, जवाब भी बहुत तेज़ मिलते हैं.
- सुरक्षित जानकारी: चैटआरटीएक्स आपके दस्तावेज़ों को कहीं बाहर नहीं भेजता, तो आपकी जानकारी पूरी तरह सुरक्षित रहती है!
Magic Behind Personalized Conversations
चैटआरटीएक्स तीन तकनीकों का इस्तेमाल करके इतना अच्छा चैट पार्टनर बन पाता है:
- Retrieval-Augmented Generation (RAG): यह तकनीक चैटआरटीएक्स को आपके दस्तावेज़ों और ईमेल जैसी चीज़ों से जानकारी ढूंढने में मदद करती है। फिर वही जानकारी इस्तेमाल करके आपके सवालों का जवाब देती है। मान लीजिये आपने इसे पूछा कि “भारत का राष्ट्रीय पक्षी कौन सा है?” तो RAG टेक्नोलॉजी आपके दस्तावेज़ों को ढूंढ कर उनमें से जवाब निकाल लेगी।
- TensorRT-LLM: यह एनवीडिया की खास तकनीक है जो RTX ग्राफिक्स कार्ड पर एलएलएम (लार्ज लैंग्वेज मॉडल) को चलाने के लिए बनाई गई है। आसान भाषा में समझें तो यह चैटआरटीएक्स को तेज़ी से सीखने में मदद करता है।
- ग्राफिक्स कार्ड की ताकत (RTX Acceleration): एनवीडिया के RTX ग्राफिक्स कार्ड बहुत ताकतवर होते हैं। चैटआरटीएक्स इन ग्राफिक्स कार्ड की ताकत का इस्तेमाल करके पेचीदा जानकारी को समझने और जवाब देने में सक्षम हो पाता है।
Beyond Personal Use: A Playground for Developers
चैटआरटीएक्स सिर्फ आपके लिए अपना खुद का चैट पार्टनर बनाने से कहीं ज्यादा है! यह भविष्य के AI चैटबॉट्स को बनाने में भी डेवलपर्स की मदद कर सकता है.
आपने देखा होगा कि चैटआरटीएक्स कैसे काम करता है, इसके पीछे कई तकनीकें हैं। इन तकनीकों में से सबसे महत्वपूर्ण है “टेन्सरआरटी-एलएलएम” फ्रेमवर्क (TensorRT-LLM framework)। डेवलपर्स इस फ्रेमवर्क का इस्तेमाल करके अपने खुद के खास चैटबॉट ऐप बना सकते हैं। ये नए चैटबॉट भी एनवीडिया के RTX ग्राफिक्स कार्ड की ताकत का इस्तेमाल करके तेज़ी से काम करेंगे।
अगर आप खुद के चैटबॉट बनाना चाहते हैं या सिर्फ यह देखना चाहते हैं कि भविष्य के चैटबॉट्स कैसे काम करेंगे, तो चैटआरटीएक्स एक अच्छा शुरुआती ऐप है। एनवीडिया ने इसे डाउनलोड के लिए उपलब्ध कराया है, साथ ही आपको इसे चलाने के लिए किन चीज़ों की ज़रूरत है और इसे इस्तेमाल करने के बारे में जानकारी भी दी है।
चैटआरटीएक्स चलाने के लिए क्या चाहिए (System Requirements)
- कंप्यूटर: आपको विंडोज ऑपरेटिंग सिस्टम वाला कंप्यूटर होना चाहिए।
- ग्राफिक्स कार्ड: आपके कंप्यूटर में एनवीडिया जियोफोर्स RTX 30 सीरीज या 40 सीरीज का ग्राफिक्स कार्ड होना चाहिए, या फिर कम से कम 8GB VRAM वाला एनवीडिया RTX™ Ampere या Ada Generation का ग्राफिक्स कार्ड होना चाहिए।
- रैम: आपके कंप्यूटर में 16GB या उससे ज्यादा रैम होनी चाहिए।
- ऑपरेटिंग सिस्टम: आपके कंप्यूटर पर विंडोज 11 ऑपरेटिंग सिस्टम होना चाहिए।
- ड्राइवर: आपके ग्राफिक्स कार्ड के लिए ड्राइवर का वर्जन 535.11 या उससे लेटेस्ट होना चाहिए।
- स्टोरेज स्पेस: चैटआरटीएक्स ऐप को इंस्टॉल करने के लिए आपके कंप्यूटर पर 35GB खाली जगह होनी चाहिए।
आप अपनी किन फाइल्स के साथ चैट कर सकते हैं (Chat With Your Files)
चैटआरटीएक्स कई तरह की फाइल फॉर्मेट को सपोर्ट करता है, जिनमें शामिल हैं: टेक्स्ट फाइल, पीडीएफ फाइल, DOC/DOCX फाइल और XML फाइल। आपको बस इतना करना है कि उस फोल्डर को चुनना है जहां ये फाइल्स रखी हैं और चैटआरटीएक्स कुछ ही सेकंड्स में उन्हें अपनी लाइब्रेरी में लोड कर लेगा।
डेवलपर्स के लिए चैटआरटीएक्स (Chat for Developers)
चैटआरटीएक्स एक टेक्नोलॉजी डेमो है जो गिटहब पर उपलब्ध टेन्सरआरटी-एलएलएम आरएजी डेवलपर रेफरेंस (TensorRT-LLM RAG developer) प्रोजेक्ट पर आधारित है। डेवलपर्स इस रेफरेंस प्रोजेक्ट की मदद से अपने खुद के आरएजी-आधारित एप्लिकेशन बना सकते हैं जो RTX हार्डवेयर पर चलते हैं और टेन्सरआरटी-एलएलएम द्वारा तेज गति से काम करते हैं।
Chat with RTX का रिव्यु
Chat with RTX का ये रिव्यु The Verge की ऑफिसियल वेबसाइट से लिए गया है। ये रिव्यु Tom Warren, जो The Verge में senior editor हैं, उनके द्वारा पब्लिश की गई है।
मैंने पिछले एक दिन से चैटआरटीएक्स की थोड़ी बहुत जांच की है, और हालांकि यह ऐप अभी पूरी तरह से परफेक्ट नहीं है, फिर भी मैं पहले से ही देख सकता हूं कि यह पत्रकारों या दस्तावेजों के संग्रह का विश्लेषण करने वाले किसी भी व्यक्ति के लिए डेटा रिसर्च का एक मूल्यवान हिस्सा बन सकता है।
यूट्यूब वीडियो खोजें:
- चैटआरटीएक्स यूट्यूब वीडियो को संभाल सकता है।
- आप यूआरएल डालकर विशिष्ट उल्लेखों के लिए ट्रांसक्रिप्ट खोज सकते हैं या पूरे वीडियो को सारांशित कर सकते हैं।
- मैंने इसे वीडियो पॉडकास्ट खोजने के लिए आदर्श पाया, खासकर पिछले हफ्ते माइक्रोसॉफ्ट की नई एक्सबॉक्स रणनीति में बदलाव की अफवाहों के बीच पॉडकास्ट में विशिष्ट उल्लेखों को खोजने के लिए।
- यह यूट्यूब वीडियो खोजने के लिए बिल्कुल सही नहीं है।
- मैंने The Verge के यूट्यूब वीडियो के ट्रांसक्रिप्ट को खोजने की कोशिश की, और चैटआरटीएक्स ने पूरी तरह से अलग वीडियो के लिए ट्रांसक्रिप्ट डाउनलोड कर लिया।
- यह वह वीडियो भी नहीं था जिसके बारे में मैंने पहले पूछा था, इसलिए स्पष्ट रूप से इस शुरुआती डेमो में बग्स हैं।
स्थानीय दस्तावेज़ों को जल्दी से खोजें:
- जब इसने ठीक से काम किया तो मैं सेकंडों के भीतर वीडियो में संदर्भ ढूंढने में सक्षम था।
- मैंने चैटआरटीएक्स के विश्लेषण के लिए FTC बनाम माइक्रोसॉफ्ट दस्तावेजों का एक डेटासेट भी बनाया।
- पिछले साल जब मैं अदालती मामले को कवर कर रहा था, तो दस्तावेजों को तेजी से खोजना अक्सर मुश्किल होता था, लेकिन चैटआरटीएक्स ने मुझे उन्हें मेरे पीसी पर लगभग तुरंत क्वेरी करने में मदद की।
- चैटबॉट ने परीक्षण में सामने आए आंतरिक दस्तावेजों से माइक्रोसॉफ्ट की पूरी Xbox गेम पास रणनीति को सारांशित करने में अच्छा काम किया।
पीडीएफ स्कैन करें और तथ्यों की जांच करें:
- मुझे यह पीडीएफ के माध्यम से स्कैन करने और डेटा के तथ्यों की जांच करने के लिए भी उपयोगी लगा।
- माइक्रोसॉफ्ट का अपना कोपिलोट सिस्टम वर्ड के भीतर पीडीएफ को अच्छी तरह से संभाल नहीं पाता है, लेकिन एनवीडिया के चैटआरटीएक्स को सभी महत्वपूर्ण जानकारी निकालने में कोई समस्या नहीं हुई।
- जवाब भी लगभग तुरंत आते हैं, न कि क्लाउड-आधारित चैटजीपीटी या कोपिलोट चैटबॉट्स का उपयोग करते समय आपको आमतौर पर देखने में मिलने वाली देरी के साथ।
कुछ कमियां:
- चैटआरटीएक्स के बारे में सबसे बड़ी कमी यह है कि यह वास्तव में एक शुरुआती डेवलपर डेमो जैसा लगता है।
- चैटआरटीएक्स अनिवार्य रूप से आपके पीसी पर एक वेब सर्वर और पायथन इंस्टेंस स्थापित करता है, जो तब आपके द्वारा इसे खिलाए गए डेटा को क्वेरी करने के लिए मिस्ट्रल या लामा 2 मॉडल का लाभ उठाता है।
- यह आपके प्रश्नों को गति देने के लिए एक RTX GPU पर एनवीडिया के टेन्सर कोर का उपयोग करता है।
स्थापित करने में समय लगता है और संसाधन लेता है:
- मेरे पीसी पर चैटआरटीएक्स को स्थापित करने में लगभग 30 मिनट का समय लगा, जो एक Intel Core i9-14900K प्रोसेसर और RTX 4090 GPU द्वारा संचालित है।
- ऐप लगभग 40GB आकार का है, और पायथन इंस्टेंस मेरे सिस्टम पर उपलब्ध 64GB RAM में से लगभग 3GB RAM का उपयोग करता है।
- जब चैटआरटीएक्स चल रहा होता है, तो यह पृष्ठभूमि में एक कमांड प्रॉम्प्ट चलाता है जो प्रक्रिया किए जा रहे डेटा और किसी भी त्रुटि कोड को प्रदर्शित करता है।
- यह एक शुरुआती डेमो है, इसलिए यह उम्मीद की जानी चाहिए कि स्थापना प्रक्रिया और सिस्टम आवश्यकताओं को भविष्य में अनुकूलित किया जाएगा।
अन्य कमियां:
- चैटआरटीएक्स हमेशा सटीक नहीं होता है।
- यह संदर्भ को याद नहीं रखता है, इसलिए अनुवर्ती प्रश्न पिछले प्रश्न के संदर्भ पर आधारित नहीं हो सकते हैं।
- यह आपके द्वारा इसे अनुक्रमित करने के लिए कहे गए फ़ोल्डरों के अंदर JSON फ़ाइलें बनाता है, इसलिए मैं इसे अपने संपूर्ण Windows दस्तावेज़ फ़ोल्डर पर उपयोग करने की अनुशंसा नहीं करूंगा।
निष्कर्ष:
चैटआरटीएक्स डेटा रिसर्च के लिए एक आशाजनक टूल है, खासकर यदि आप अपने व्यक्तिगत डेटा का विश्लेषण करने के लिए क्लाउड-आधारित सेवा का उपयोग नहीं करना चाहते हैं। यह अभी भी विकास के शुरुआती चरण में है, लेकिन यह पहले से ही कुछ उपयोगी सुविधाएँ प्रदान करता है।
यह उन लोगों के लिए उपयोगी हो सकता है:
- पत्रकार जो दस्तावेजों के संग्रह का विश्लेषण कर रहे हैं।
- छात्र जो शोध पत्र लिख रहे हैं।
- व्यवसायी जो बाजार अनुसंधान कर रहे हैं।
- कोई भी जो अपने डेटा को जल्दी और आसानी से खोजना चाहता है।
यह ध्यान रखना महत्वपूर्ण है कि चैटआरटीएक्स एक संपूर्ण समाधान नहीं है। यह अभी भी विकास के अधीन है, और यह हमेशा सटीक नहीं होता है। यदि आप डेटा रिसर्च के लिए एक विश्वसनीय टूल की तलाश में हैं, तो मैं चैटआरटीएक्स का उपयोग करने के साथ-साथ अन्य टूल का भी उपयोग करने की अनुशंसा करता हूँ।
अनुवाद:
यह समीक्षा https://www.theverge.com/ से ली गई है।
