Hermes Agent ने लोकल AI को हमेशा के लिए बदल दिया है: इसे खुद कैसे चलाएं, यहाँ जानें

यहाँ बताया गया है कि क्या बदला, यह क्यों मायने रखता है, और अपने कंप्यूटर पर लगभग 30 मिनट में Hermes Agent चलाने की पूरी स्टेप-बाय-स्टेप गाइड।

मई में NVIDIA ने एक ब्लॉग पोस्ट प्रकाशित किया जिसकी चर्चा जितनी होनी चाहिए, उससे कहीं कम हो रही है।

सुर्खियाँ RTX पीसी और नए DGX Spark वर्कस्टेशन पर चलने वाले हार्डवेयर Hermes Agent के बारे में हैं। लेकिन इसके पीछे की असली कहानी कहीं बड़ी है।

तीन चीजें अभी एक साथ आई हैं, जो मिलकर संभव की सीमाओं को बदल देती हैं:

1. Hermes Agent (Nous Research): एक ओपन-सोर्स एजेंट फ्रेमवर्क जो अनुभव से अपने स्वयं के कौशल बनाता और परिष्कृत करता है। तीन महीनों में GitHub पर 140,000 से अधिक स्टार। OpenRouter के अनुसार, अब दुनिया में सबसे अधिक उपयोग किया जाने वाला एजेंट।
2. Qwen 3.6 (Alibaba): एक नया ओपन-वेट मॉडल जिसमें 35B संस्करण पिछले साल के 120B मॉडल से बेहतर प्रदर्शन करता है, और 27B वह हासिल करता है जिसके लिए पहले 400B पैरामीटर्स की आवश्यकता होती थी। लगभग 20GB मेमोरी पर चलता है।
3. DGX Spark (NVIDIA): एक डेस्क के आकार का वर्कस्टेशन जिसमें 128GB यूनिफाइड मेमोरी और 1 पेटाफ्लॉप AI प्रदर्शन है। विशेष रूप से एजेंटों को लगातार, 24/7, स्थानीय रूप से चलाने के लिए बनाया गया है।

इन तीनों को एक साथ जोड़ें और आपको एक व्यक्तिगत AI एजेंट मिलता है जो आपके डेस्क पर रहता है (डेटा सेंटर में नहीं), लगातार चलता है (सत्र-दर-सत्र नहीं), आपके वर्कफ़्लो से सीखता है और क्षमता संचित करता है, आपका डेटा कहीं नहीं भेजता है, और हार्डवेयर के बाद संचालित करने पर लगभग $0/माह खर्च होता है।

"AI कहाँ जा रहा है" के बारे में बातचीत आमतौर पर यह मान लेती है कि इसका जवाब क्लाउड है। यह पहला विश्वसनीय प्रतिवाद है जो कहता है: असल में, शायद नहीं।

यह लेख दो चीजों को कवर करता है: (1) Hermes विशेष रूप से क्यों मायने रखता है - संरचनात्मक रूप से यह आपके द्वारा सुने गए हर दूसरे एजेंट फ्रेमवर्क से कैसे अलग है, और (2) इसे अपनी मशीन पर लगभग 30 मिनट में चलाने के लिए पूरी, वर्तमान स्टेप-बाय-स्टेप गाइड।

यदि आप केवल सेटअप चरण चाहते हैं, तो सीधे "How to actually run it" सेक्शन पर जाएँ। यदि आप पहले क्यों समझना चाहते हैं - वह हिस्सा जो सेटअप को सार्थक बनाता है - तो आगे पढ़ें।

Hermes वास्तव में क्या करता है (वह हिस्सा जो मायने रखता है)

आपके द्वारा सुने गए अधिकांश "AI एजेंट" एक LLM कॉल के चारों ओर रैपर हैं। आप उन्हें एक कार्य देते हैं, वे करते हैं, आप उन्हें दूसरा कार्य देते हैं, वे खरोंच से शुरू करते हैं। वे भूल जाते हैं कि कल क्या काम आया था। वे बेहतर नहीं होते। वे उपयोगी हैं, लेकिन वे किसी भी सार्थक अर्थ में वास्तव में एजेंट नहीं हैं - वे व्यक्तित्व वाले फंक्शन हैं।

Hermes एक विशिष्ट, तकनीकी तरीके से अलग है: यह अपने स्वयं के कौशल लिखता है।

जब Hermes कोई जटिल कार्य पूरा करता है - मान लीजिए, "पाँच प्रतिस्पर्धियों पर शोध करें और एक तुलना तैयार करें" - तो यह आपको केवल आउटपुट नहीं देता। यह प्रक्रिया को डिस्क पर एक स्किल फ़ाइल के रूप में सहेजता है। अगली बार जब आप कुछ समान माँगते हैं, तो यह फिर से शुरू नहीं करता। यह अपनी स्किल खोलता है, उसे चलाता है, और जो काम आया और जो नहीं आया, उसके आधार पर उसे बेहतर बनाता है।

यह कोई मार्केटिंग का दावा नहीं है। Nous Research एक इंफ्रास्ट्रक्चर भेजता है जो Hermes के अपने कौशल, टूल विवरण और सिस्टम प्रॉम्प्ट को स्वचालित रूप से अनुकूलित करने के लिए DSPy + GEPA (Genetic-Pareto Prompt Evolution) का उपयोग करता है। म्यूटेशन का मूल्यांकन किया जाता है। सर्वश्रेष्ठ को प्रमोट किया जाता है। सुधार मापने योग्य होते हैं।

स्वतंत्र बेंचमार्क इसका समर्थन करते हैं: स्व-निर्मित 20+ कौशलों के साथ Hermes पर चलने वाले एजेंट समान भविष्य के कार्यों को नए इंस्टेंसेस की तुलना में लगभग 40% तेजी पूरा करते हैं। यह "40% बेहतर आउटपुट" नहीं है। यह "समान परिणाम पाने के लिए 40% कम समय और टोकन" है।

आर्किटेक्चर में मुख्य शब्द सतत (persistent) है। Hermes आपके लैपटॉप, सर्वर, DGX Spark पर लगातार चलता है और इसकी मेमोरी और कौशल संचित होते रहते हैं। एक महीने के उपयोग के बाद, आपका Hermes किसी और से वास्तव में अलग होता है। यह आपका कोडबेस जानता है। यह आपकी परंपराओं को जानता है। यह जानता है कि आप चीजों को कैसे समझाया जाना पसंद करते हैं।

दृश्य रूप से, अंतर इस प्रकार दिखता है:

ऊपर: एक सामान्य चैटबॉट सत्रों के बीच सब कुछ खो देता है। नीचे: Hermes अनुभव से कौशल लिखता है और आपके पैटर्न की मेमोरी बनाता है। क्षमता संयोजित होती है।

एक मेमोरी आर्किटेक्चर भी है जिसका उल्लेख करना उचित है: Hermes तीन-स्तरीय प्रणाली का उपयोग करता है। स्थायी नोट्स (आपकी प्राथमिकताएँ, प्रोजेक्ट परंपराएँ, आपके कामकाजी जीवन में कौन क्या है), खोजने योग्य सत्र इतिहास (जो कुछ भी हुआ है, पुनर्प्राप्ति के लिए अनुक्रमित) और प्रक्रियात्मक कौशल (वास्तविक सीखे गए वर्कफ़्लो)। यह तीन-स्तरीय मॉडल वह है जिसे अन्य फ्रेमवर्क दो वर्षों से हासिल करने की कोशिश कर रहे थे। Hermes ने एक ऐसा भेजा जो काम करता है।

Hermes कैसे बनाया गया है

यहाँ एक चित्र में आर्किटेक्चर है:

आप Hermes से CLI या मैसेजिंग गेटवे के माध्यम से बात करते हैं। Hermes कार्य की योजना बनाने, टूल कॉल करने, कौशल लिखने का काम संभालता है और अनुमान के लिए स्थानीय मॉडल सर्वर को कॉल करता है। सब कुछ आपकी डिस्क पर ~/.hermes/ में संग्रहीत होता है।

आरेख में ध्यान देने योग्य तीन बातें:

एक: स्थानीय मॉडल सर्वर Hermes से अलग एक हिस्सा है। Hermes ऑर्केस्ट्रेशन लेयर है - प्लानर, टूल रनर और स्किल राइटर। मॉडल (अनुशंसित सेटअप में Qwen 3.6) वास्तविक सोच का काम करता है। वे लोकलहोस्ट पर OpenAI-संगत API के माध्यम से जुड़े होते हैं।

दो: कौशल और मेमोरी ~/.hermes/ में रहते हैं। डिस्क पर सादे मार्कडाउन फ़ाइलें। आप उन्हें पढ़ सकते हैं। आप उन्हें संपादित कर सकते हैं। आप उनका बैकअप ले सकते हैं। जब कल Anthropic, OpenAI, या कोई अन्य कंपनी अपनी शर्तें बदलती है, तो इनमें से कुछ भी नहीं बदलेगा - यह आपका है।

तीन: गेटवे वैकल्पिक हैं लेकिन परिवर्तनकारी हैं। एक बार जब आप Hermes को Telegram या Slack से जोड़ते हैं, तो आप इसे "अपने लैपटॉप पर एक CLI चीज़" के रूप में सोचना बंद कर देते हैं और इसे "मेरा व्यक्तिगत AI जिसे मैं कहीं से भी टेक्स्ट कर सकता हूँ" के रूप में सोचना शुरू कर देते हैं।

Qwen 3.6 इस संभव को क्यों बनाता है

यहाँ वह हिस्सा है जो घोषणा में खो जाता है: Hermes मॉडल-अज्ञेयवादी है। आप इसे GPT, Claude, या किसी भी स्थानीय मॉडल पर इंगित कर सकते हैं। लेकिन एक कारण है कि NVIDIA का ब्लॉग पोस्ट इसे विशेष रूप से Qwen 3.6 के साथ जोड़ता है।

हाल तक, गंभीर एजेंटिक वर्कफ़्लो को स्थानीय रूप से चलाने का मतलब दो समझौतों में से एक को स्वीकार करना था:

• एक छोटा तेज़ मॉडल उपयोग करें और एजेंट को बहु-चरणीय कार्यों में लड़खड़ाते देखें
• एक बड़ा स्मार्ट मॉडल उपयोग करें और स्वीकार करें कि एक अनुमान चक्र में 90 सेकंड लगते हैं

Qwen 3.6 ने गणित बदल दिया। 35B मॉडल पिछली पीढ़ी के 120B पैरामीटर मॉडल से लगभग एक-तिहाई मेमोरी फ़ुटप्रिंट पर बेहतर प्रदर्शन करता है। 27B डेंस मॉडल पुराने 400B पैरामीटर मॉडल की सटीकता से मेल खाता है। हम एक वर्ष से भी कम समय में प्रति बुद्धि इकाई दक्षता में 16x सुधार की बात कर रहे हैं।

व्यवहार में इसका क्या अर्थ है: योजना बनाने, कार्यों को विघटित करने, अपने स्वयं के कौशल लिखने और आत्म-सुधार करने के लिए पर्याप्त स्मार्ट मॉडल अब 20GB मेमोरी में फिट बैठता है। यह एक उच्च-स्तरीय उपभोक्ता GPU है। यह वही है जो एक एकल DGX Spark अपने पास रखता है, जिसमें एजेंट के लिए भी जगह बची रहती है।

यह वह अंतर है जो बंद हुआ। पिछले साल, "स्व-सुधार करने वाले स्थानीय एजेंट" के लिए डेटा सेंटर हार्डवेयर की आवश्यकता थी। इस साल, ऐसा नहीं है।

आम लोगों के लिए इसका क्या मतलब है

इस घोषणा की अधिकांश कवरेज इसे एंटरप्राइज़ समाचार के रूप में मान रही है। ऐसा नहीं है। यह उपभोक्ता अवसंरचना समाचार है। आप कौन हैं, इसके आधार पर इसका क्या अर्थ है।

यदि आप एक ज्ञान कार्यकर्ता हैं: 12 महीनों के भीतर, आप एक क्लाउड एजेंट सेवा ($30/माह?) की सदस्यता लेने और अपने स्वयं के हार्डवेयर पर एक तुलनीय स्थानीय एजेंट चलाने ($0 आवर्ती, सेटअप के बाद) के बीच चयन कर रहे होंगे। गोपनीयता-संवेदनशील कार्यों के लिए - परामर्श, स्वास्थ्य सेवा, वित्त, कानूनी - यह स्पष्ट विकल्प बनता जा रहा है।

यदि आप एक डेवलपर हैं: Hermes MIT लाइसेंस के तहत ओपन सोर्स है। आप इसे आज अपने मौजूदा लैपटॉप पर स्थापित कर सकते हैं और इसे LM Studio या Ollama के साथ जोड़ सकते हैं जो Qwen 3.6 चला रहे हैं। किसी DGX Spark की आवश्यकता नहीं है। हार्डवेयर का प्रश्न जीवन की गुणवत्ता के बारे में है, क्षमता के बारे में नहीं। आपके पास जो है उससे शुरू करें।

यदि आप एक संस्थापक या ऑपरेटर हैं: यह पूरे SaaS एजेंटिक बाजार पर दबाव डालता है। $20/माह पर "AI-संचालित X" बेचने वाले उपकरण अब एक स्थानीय एजेंट के साथ प्रतिस्पर्धा करते हैं जो वही काम मुफ्त में करता है। बचाव योग्य SaaS खेल वे हैं जिनके पास नेटवर्क, डेटा या वर्कफ़्लो हैं जिन्हें स्थानीय रूप से दोहराया नहीं जा सकता। कमजोर वे हैं जो केवल "पेंट की एक कोट वाला Claude हैं।"

यदि आप सुरक्षा या विनियमित उद्योगों में हैं: AI के लिए डेटा-संप्रभुता की कहानी अभी कहीं अधिक मजबूत हुई है। किसी को यह कहना कि "आप इस काम के लिए AI का उपयोग नहीं कर सकते क्योंकि यह डेटा OpenAI को भेजता है" एक बाधा नहीं रह जाती जब एक तुलनीय एजेंट पूरी तरह से ऑन-प्रिमाइसेस चलता है।

अब वह हिस्सा जो अधिकांश कवरेज छोड़ देता है। इसे वास्तव में स्वयं कैसे चलाएँ।

इसे वास्तव में कैसे चलाएँ (पूरा सेटअप)

NVIDIA का ब्लॉग पोस्ट कहता है "GitHub रेपो पर जाएँ, इसे स्थानीय मॉडल के साथ जोड़ें, आप जाने के लिए तैयार हैं।" वह वाक्य लगभग छह वास्तविक निर्णयों और तीन संभावित नुकसानों को छोड़ देता है। यहाँ वास्तविक सेटअप है, सादी अंग्रेजी में, जिसमें गड़बड़ियों का उल्लेख है।

आपको क्या चाहिए होगा

शुरू करने से पहले ईमानदार हार्डवेयर वास्तविकता। Hermes एक दूरस्थ API (Anthropic, OpenAI, OpenRouter, Nous Portal) के साथ चल सकता है, लेकिन यह अधिकांश बिंदु को विफल करता है। स्थानीय-केवल सेटअप के लिए जिस पर यह मार्गदर्शिका केंद्रित है:

आपका हार्डवेयर - यथार्थवादी अनुभव

8GB RAM, एकीकृत ग्राफिक्स - संघर्ष करेगा। इसके बजाय क्लाउड API का उपयोग करें।

16GB RAM, मिड-रेंज GPU (RTX 3060/4060) - छोटे मॉडलों के साथ काम करता है। धीमा लेकिन उपयोग करने योग्य।

MacBook Pro M3/M4, 32GB+ यूनिफाइड मेमोरी - Qwen 3.6 27B को सुचारू रूप से चलाता है। वास्तव में उत्पादक।

RTX 3090/4090 वाला डेस्कटॉप - सबसे अच्छा बिंदु। Qwen 3.6 35B को लगभग-क्लाउड गुणवत्ता पर चलाएँ।

NVIDIA DGX Spark या RTX PRO वर्कस्टेशन - NVIDIA पोस्ट जो बेच रहा है। अधिकांश के लिए ओवरकिल।

ईमानदार रेखा: यदि आप Qwen 3.6 27B या उससे बड़ा स्थानीय रूप से चला सकते हैं, तो आपके पास एक शानदार Hermes अनुभव होगा। यदि आप नहीं कर सकते, तो क्लाउड API पथ का उपयोग करें (जो काफी सरल है)। यदि आपका रास्ता यह है तो अंत में दिए गए Cloud API सेक्शन पर जाएँ।

आपको यह भी चाहिए:

• macOS, Linux, या WSL2 के साथ Windows 11 (Hermes को Unix वातावरण की आवश्यकता है; Windows उपयोगकर्ता इसे WSL2 के अंदर चलाते हैं)
• मॉडल के लिए कम से कम 20 GB खाली डिस्क स्थान
• 30 मिनट का निर्बाध समय

चरण 1. अपना स्थानीय मॉडल सर्वर स्थापित करें (15 मिनट)

सबसे कम तकनीकी पथ LM Studio है। सबसे अधिक तकनीकी पथ Ollama है। दोनों काम करते हैं। कोई एक चुनें।

विकल्प A LM Studio (गैर-डेवलपर्स के लिए अनुशंसित)

1. पर जाएँlmstudio.ai और अपने OS के लिए इंस्टॉलर डाउनलोड करें
2. इसे किसी भी अन्य ऐप की तरह स्थापित करें
3. LM Studio खोलें और Discover टैब पर जाएँ
4. Qwen 3.6 27B (या 35B यदि आपका हार्डवेयर इसे संभाल सकता है) खोजें
5. Q4 क्वांटाइज़ेशन संस्करण चुनें - यह आकार और गुणवत्ता का सबसे अच्छा संतुलन है
6. Download पर क्लिक करें। 10-15 मिनट प्रतीक्षा करें
7. डाउनलोड होने के बाद, Developer टैब पर स्विच करें (पुराने संस्करणों पर इसे "Local Server" कहा जाता है)
8. Load Model पर क्लिक करें और आपके द्वारा अभी डाउनलोड किया गया Qwen 3.6 मॉडल चुनें
9. महत्वपूर्ण: सेटिंग्स में, "Serve on Network" सक्षम करें (अन्यथा WSL2 उपयोगकर्ता इसे एक्सेस नहीं कर सकते)
10. Start Server पर क्लिक करें - डिफ़ॉल्ट रूप से यह पर चलता है

http://localhost:1234

सत्यापित करें कि यह काम कर रहा है: अपना ब्राउज़र खोलें, http://localhost:1234/v1/models पर जाएँ। आपको अपने लोड किए गए मॉडल को सूचीबद्ध करते हुए एक JSON प्रतिक्रिया देखनी चाहिए।

विकल्प B Ollama (डेवलपर्स के लिए अनुशंसित)

1. पर जाएँollama.com और इंस्टॉलर डाउनलोड करें
2. स्थापित करें
3. एक टर्मिनल खोलें और चलाएँ:

1ollama pull qwen3.6
2ollama serve

1. यह Ollama को पोर्ट 11434 पर शुरू करता है और Qwen 3.6 मॉडल को डाउनलोड करता है

महत्वपूर्ण Ollama सेटिंग जो सभी को फँसाती है: Ollama डिफ़ॉल्ट रूप से बहुत कम कॉन्टेक्स्ट विंडो (अक्सर 4K टोकन) पर सेट होता है। Hermes को कम से कम 64K चाहिए। चलाने से पहले इसे सेट करें:

1export OLLAMA_HOST=0.0.0.0
2ollama run qwen3.6 -c 65536

-c 65536 कॉन्टेक्स्ट को 64K पर सेट करता है। इसके बिना, Hermes स्टार्टअप पर मॉडल को अस्वीकार कर देगा क्योंकि सिस्टम प्रॉम्प्ट + टूल स्कीमा अकेले छोटी विंडो को भर देते हैं।

चरण 2. Hermes Agent स्थापित करें (5 मिनट)

Hermes एक-लाइन इंस्टॉल स्क्रिप्ट भेजता है। अपने टर्मिनल से:

1GitHub → NousResearch/hermes-agent → scripts/install.sh

यदि आप Windows पर हैं, तो इसे WSL2 के अंदर से चलाएँ (पहले अपने स्टार्ट मेनू से Ubuntu/Debian खोलें)।

स्क्रिप्ट:

• आपकी मशीन पर Hermes CLI डाउनलोड करती है
• एक स्थानीय डेटा निर्देशिका (आमतौर पर ~/.hermes/) सेट करती है
• यदि आपके पास नहीं हैं तो आवश्यक निर्भरताएँ (Node.js, आदि) स्थापित करती है

जब यह समाप्त हो जाए, तो अपने शेल को रीलोड करें:

1source ~/.bashrc   # या ~/.zshrc, आपके शेल पर निर्भर करता है

इंस्टॉल सत्यापित करें:

1hermes --version

यदि आपको एक वर्जन नंबर दिखाई देता है, तो आप तैयार हैं।

चरण 3. Hermes को अपने स्थानीय मॉडल से कनेक्ट करें (5 मिनट)

यह वह जगह है जहाँ कई सेटअप गाइड टालमटोल करते हैं। यहाँ सटीक प्रवाह है।

चलाएँ:

1hermes model

आपको प्रदाताओं का एक मेनू दिखाई देगा। नीचे तक स्क्रॉल करें और "Custom endpoint (self-hosted / vLLM / etc.)" चुनें।

फिर:

• URL: यदि आपने LM Studio का उपयोग किया है, तो http://localhost:1234/v1 दर्ज करें। यदि आपने Ollama का उपयोग किया है, तो http://localhost:11434/v1 दर्ज करें
• API Key: एंटर दबाएँ और छोड़ दें (स्थानीय सर्वरों को इसकी आवश्यकता नहीं है)
• Model name: LM Studio: आपके द्वारा लोड किए गए मॉडल का सटीक फ़ाइल नाम (LM Studio के "My Models" टैब में देखें) Ollama: qwen3.6 (या जो कुछ भी आपने खींचा है)

बस इतना ही। Hermes अब आपके स्थानीय मॉडल का उपयोग करने के लिए कॉन्फ़िगर किया गया है।

महत्वपूर्ण: 64K संदर्भ विंडो आवश्यकता

Hermes को कम से कम 64K टोकन के संदर्भ की आवश्यकता है। यह पहली बार सभी को पकड़ता है। यदि आपको स्टार्टअप पर "Model context too small" जैसा कोई त्रुटि संदेश दिखाई देता है, तो समाधान मॉडल सर्वर पक्ष पर है, Hermes पक्ष पर नहीं:

• LM Studio: मॉडल लोड करते समय, उन्नत सेटिंग्स का विस्तार करें और संदर्भ लंबाई 65536+ पर सेट करें
• Ollama: मॉडल चलाते समय -c 65536 पास करें
• llama.cpp: -ctx-size 65536 का उपयोग करें

इसके बिना, और कुछ भी काम नहीं करेगा। इसे न छोड़ें।

चरण 4. अपना पहला Hermes सत्र चलाएँ (5 मिनट)

अपने टर्मिनल में:

1hermes

यह इंटरैक्टिव Hermes सत्र शुरू करता है। पहली बार जब आप इसे चलाते हैं, तो Hermes कुछ ऑनबोर्डिंग प्रश्न पूछता है - अपने मॉडल चयन की पुष्टि करें, वैकल्पिक रूप से एक गेटवे (Telegram, Discord, Slack, आदि; आप अभी के लिए छोड़ सकते हैं) कनेक्ट करें, और आप अंदर हैं।

एक पहला कार्य आज़माएँ जो Hermes की वास्तविक क्षमताओं का प्रयोग करता है:

"2026 में एजेंटिक AI फ्रेमवर्क की वर्तमान स्थिति पर शोध करें, ओपन-सोर्स इकोसिस्टम पर ध्यान केंद्रित करें। आपने जो सीखा है उसे एक कौशल के रूप में सहेजें ताकि हम अगली बार उस पर निर्माण कर सकें।"

देखें कि क्या होता है। Hermes:

1. प्रश्न को उप-कार्यों में विघटित करेगा
2. जहाँ उपयोगी हो, समानांतर कार्य के लिए उप-एजेंट बनाएगा
3. वेब खोजेगा, स्रोत पढ़ेगा, संश्लेषित करेगा
4. एक संरचित प्रतिक्रिया तैयार करेगा
5. अंतर्निहित प्रक्रिया को डिस्क पर एक कौशल के रूप में सहेजेगा ~/.hermes/skills/ पर दृश्यमान

वह अंतिम चरण वह है जो Hermes को एक चैटबॉट से अलग बनाता है। अगली बार जब आप Hermes को कोई संबंधित शोध कार्य करने के लिए कहेंगे, तो वह उस कौशल को ढूँढ़ेगा और पुन: उपयोग करेगा जो उसने अभी बनाया है।

जब आप कर लें तो /exit टाइप करें।

चरण 5. सत्यापित करें कि जादू वास्तव में हुआ

Hermes का मूल्य प्रस्ताव आत्म-सुधार लूप है। सत्यापित करें कि यह काम कर रहा है:

1ls ~/.hermes/skills/

आपको एक या अधिक .md फ़ाइलें दिखनी चाहिए - ये Hermes की सीखी गई प्रक्रियाएँ हैं। किसी भी टेक्स्ट एडिटर में एक खोलें। आपको चरणों, उपयोग किए गए टूल और क्या काम आया, इस पर नोट्स के साथ एक संरचित वर्कफ़्लो दिखाई देगा।

यह सबसे बड़ी विशेषता है। एक महीने के उपयोग के बाद, इस निर्देशिका में 20-50 कौशल होंगे, जिनमें से प्रत्येक यह दर्ज करेगा कि Hermes ने आपके लिए एक विशिष्ट प्रकार का कार्य करना कैसे सीखा। वे कौशल प्रत्येक बाद के कार्य को तेज़ और अधिक सटीक बनाते हैं।

NVIDIA के पोस्ट में उल्लिखित "आपके बारे में एक गहन मॉडल" ~/.hermes/memory/ में रहता है - आपकी प्राथमिकताएँ, आपके प्रोजेक्ट, आपके आवर्ती पैटर्न। ये फ़ाइलें भी खोलें। वे सादे मार्कडाउन हैं। यदि आप चाहें तो आप उन्हें स्वयं पढ़ और संपादित कर सकते हैं।

वैकल्पिक: एक गेटवे कनेक्ट करें

कम उल्लेखित विशेषता: Hermes तक मैसेजिंग ऐप्स से पहुँचा जा सकता है। चलाएँ:

1hermes gateway

आपको Telegram, Discord, Slack, WhatsApp, Signal और ईमेल के विकल्प दिखाई देंगे।

सेट अप करने में सबसे आसान Telegram है:

1. Telegram में, @BotFather खोजें और एक नया बॉट बनाएँ। यह आपको एक टोकन देता है।
2. जब Hermes पूछे तो टोकन पेस्ट करें।
3. हो गया। अब आप Telegram से अपने बॉट को संदेश भेज सकते हैं और Hermes जवाब देगा - आपकी मशीन पर स्थानीय रूप से, आपके स्थानीय मॉडल का उपयोग करके चल रहा है।

यह वह क्षण है जब सेटअप "मेरे कंप्यूटर पर एक CLI चीज़" जैसा महसूस करना बंद कर देता है और "मेरा व्यक्तिगत AI" जैसा महसूस करने लगता है। आप इसे अपने फोन से टेक्स्ट कर सकते हैं जबकि आपका लैपटॉप घर पर काम कर रहा होता है।

क्या गलत हो सकता है (5 सबसे सामान्य सेटअप समस्याएँ)

समस्या 1: स्टार्टअप पर "Model context too small" त्रुटि। समाधान: अपने मॉडल सर्वर पर संदर्भ को कम से कम 64K सेट करें (चरण 3 देखें)। यह सबसे आम विफलता है।

समस्या 2: Hermes आपके स्थानीय मॉडल से कनेक्ट नहीं हो सकता। समाधान: पुष्टि करें कि आपका मॉडल सर्वर चल रहा है और सुलभ है। curl <http://localhost:1234/v1/models> (LM Studio) या curl <http://localhost:11434/v1/models> (Ollama) से परीक्षण करें। यदि आपको JSON वापस मिलता है, तो सर्वर ठीक है - अपने Hermes URL कॉन्फ़िगरेशन की पुनः जाँच करें।

समस्या 3: WSL2 Windows-होस्टेड मॉडल सर्वर तक नहीं पहुँच सकता। समाधान: Windows 11 22H2+ पर, WSL2 मिरर्ड नेटवर्किंग मोड सक्षम करें। या Windows होस्ट के बजाय WSL2 के अंदर अपना मॉडल सर्वर चलाएँ।

समस्या 4: Hermes धीमा है। समाधान: लगभग निश्चित रूप से मॉडल, Hermes नहीं। एक छोटा मॉडल (35B के बजाय Qwen 3.6 8B) या अधिक आक्रामक क्वांटाइज़ेशन (Q6 के बजाय Q4) आज़माएँ। यदि आप केवल CPU पर हैं, तो धीमेपन की उम्मीद करें - यह एक वर्कलोड है जिसे GPU चाहिए।

समस्या 5: Hermes सत्रों के बीच चीजें "भूल" जाता है। समाधान: जाँच करें कि ~/.hermes/ में वास्तव में फ़ाइलें हैं या नहीं। यदि यह खाली है, तो आपकी स्थापना ठीक से पूरी नहीं हुई। इंस्टॉल स्क्रिप्ट को फिर से चलाएँ।

क्लाउड API शॉर्टकट (यदि आपका हार्डवेयर स्थानीय नहीं संभाल सकता)

यदि आपकी मशीन वास्तव में 27B+ मॉडल नहीं चला सकती है और आप अभी भी Hermes आज़माना चाहते हैं:

1. चरण 1, 3, और "संदर्भ" नोट्स छोड़ें
2. Hermes स्थापित करने (चरण 2) के बाद, hermes model चलाएँ
3. एक क्लाउड प्रदाता चुनें - OpenRouter, Nous Portal, या Anthropic सबसे सहज हैं
4. अपना API कुंजी जोड़ें
5. बाकी सेटअप समान है - Hermes अभी भी आपकी मशीन पर स्थानीय रूप से चलता है, यह केवल सोचने के लिए क्लाउड मॉडल को कॉल करता है

इसकी लागत प्रति-टोकन $0 के बजाय आती है, लेकिन यह आपको एजेंट अनुभव (मेमोरी, कौशल, आत्म-सुधार) उस हार्डवेयर पर देता है जो मॉडल को स्थानीय रूप से नहीं चला सकता।

ईमानदार चिंताएँ

तीन चीजों के बारे में सोचने से पहले कि यह सब कुछ रातोंरात बदल देता है।

आत्म-सुधार में विफलता मोड हैं। वही लूप जो Hermes को बेहतर बनाता है, उसे अजीब बना सकता है। एक एजेंट जो अपने स्वयं के प्रॉम्प्ट को अनुकूलित करता है, वह चुपचाप आपके वास्तविक लक्ष्यों से दूर जा सकता है। Nous Research गार्डरेल भेजता है - रिग्रेशन टेस्ट, मूल्यांकन गेट, "खराब म्यूटेशन को ब्लॉक करें" वर्कफ़्लो - लेकिन उन गार्डरेल को सक्रिय रखरखाव की आवश्यकता होती है। यदि आप Hermes को तैनात करते हैं और देखना बंद कर देते हैं, तो हो सकता है कि आपको तब तक पता न चले जब तक यह सूक्ष्म रूप से गलत न होने लगे।

सुरक्षा एक वास्तविक प्रश्न है। एजेंट जो अपने स्वयं के कौशल लिखते हैं, MCP सर्वर स्थापित करते हैं, और आपकी मशीन पर कोड निष्पादित करते हैं, एक नया हमला सतह है। स्किल पॉइज़निंग, लाए गए कंटेंट के माध्यम से प्रॉम्प्ट इंजेक्शन, दुर्भावनापूर्ण उपकरण - ये सैद्धांतिक चिंताएँ नहीं हैं। एजेंट को एक मैत्रीपूर्ण सहायक के रूप में नहीं, बल्कि निष्पादन योग्य सॉफ़्टवेयर के रूप में मानें।

हार्डवेयर की कहानी अभी भी किनारों पर कच्ची है। DGX Spark एक वास्तविक उत्पाद है, लेकिन यह महंगा भी है, आपूर्ति-बाधित है, और अधिकांश समीक्षकों को अभी तक इस पर हाथ नहीं लगा है। Hermes-ऑन-लैपटॉप कहानी आज ठीक है; Hermes-ऑन-DGX-Spark कहानी को परिपक्व होने में एक तिमाही लगेगी।

इनमें से कोई भी बड़ी थीसिस को कमजोर नहीं करता। वे केवल वे तारांकन चिह्न हैं जो प्रत्येक ईमानदार व्यवसायी को पता होने चाहिए।

मैं वास्तव में इस सप्ताह के अंत में क्या करूँगा

यदि आप Hermes में नए हैं और आपके पास अच्छा हार्डवेयर है, तो यहाँ वह रास्ता है जो मैं अपनाऊँगा:

1. LM Studio + Qwen 3.6 27B स्थापित करें - 15 मिनट
2. Hermes स्थापित करें - 5 मिनट
3. Hermes को LM Studio के लिए कॉन्फ़िगर करें - 5 मिनट
4. कॉन्टेक्स्ट विंडो 65536 पर सेट करें (गड़बड़ी) - 1 मिनट
5. अपना पहला कार्य चलाएँ - 5 मिनट
6. फिर एक सप्ताह के लिए बाकी सब कुछ अनदेखा करें। Hermes का दैनिक रूप से वास्तविक कार्यों के लिए उपयोग करें। कौशल निर्देशिका को भरते हुए देखें।

अनुकूलित करने, अनुकूलित करने या अभी तक गेटवे जोड़ने का प्रयास न करें। Hermes का पूरा बिंदु आत्म-सुधार लूप है और यह तभी शुरू होता है जब आप वास्तव में समय के साथ वास्तविक कार्यों के लिए इसका उपयोग करते हैं। अपना पहला सप्ताह इसे ट्यून करने में नहीं, बल्कि इसका उपयोग करने में बिताएँ।

दूसरे सप्ताह तक, आपको पता चल जाएगा कि क्या यह एजेंट फ्रेमवर्क है जो आपके काम करने के तरीके को बदलता है, या क्या आपका हार्डवेयर/उपयोग का मामला खराब फिट है। दोनों परिणाम उपयोगी डेटा हैं।

बड़ी तस्वीर

दो वर्षों से, प्रमुख कथा यह रही है: AI बड़ा होकर बेहतर होता है, और बड़ा मतलब क्लाउड है। इसका तात्पर्य है कि गंभीर AI कहीं और रहता है, और आपका काम उसे कॉल करना है।

Hermes + Qwen 3.6 + DGX Spark पहली विश्वसनीय प्रति-कथा है। गंभीर AI आपके डेस्क पर रह सकता है। यह स्वयं में सुधार कर सकता है। यह लगातार चल सकता है। यह आपके बारे में ऐसी चीजें जान सकता है जिन्हें आप कभी क्लाउड सिस्टम में नहीं डालेंगे। वे समझौते जो स्थानीय AI को एक शौकिया परियोजना बनाते थे - धीमा, कम बुद्धिमान, अधिक पेचीदा - तिमाही दर तिमाही गायब हो रहे हैं।

यह क्लाउड AI को नहीं मारता है। फ्रंटियर मॉडल डेटा सेंटर में रहते रहेंगे। सबसे कठिन तर्क अभी भी पैमाने पर होगा। लेकिन एजेंटिक कार्य के 80% के लिए जो पैटर्न-फ़ॉलोइंग, वर्कफ़्लो निष्पादन और संदर्भ प्रतिधारण है - वह आपकी मशीन पर जा रहा है।

जिसका अर्थ है कि डाउनस्ट्रीम में बहुत सी चीजें बदलती हैं। "AI-संचालित SaaS" के लिए प्रतिस्पर्धी खाई पतली हो जाती है। उद्यमों के लिए डेटा-संप्रभुता की कहानी आसान हो जाती है। व्यक्तियों के लिए गोपनीयता का तल ऊँचा हो जाता है। एजेंट चलाने की लागत "प्रति अनुरोध" से "हार्डवेयर पर परिशोधित जो आपके पास पहले से है" तक जाती है।

यह घोषणा एक एकल डेटा बिंदु है। लेकिन जिस प्रक्षेप पथ पर यह बैठता है, वह अभी एजेंटिक AI में सबसे महत्वपूर्ण है - और Hacker News के बाहर लगभग कोई भी इसे उस तरह से नहीं पढ़ रहा है।

यह वह हिस्सा है जो कोई नहीं बता रहा है।

यदि यह उपयोगी था - मेरे टेलीग्राम चैनल को फॉलो करें:

https://t.me/+ygATQAt9sUM1N2U6**](https://t.me/+ygATQAt9sUM1N2U6)**