कई महीने पहले मैं रात भर AI एजेंट चलाने का खर्च नहीं उठा सकता था। हर लूप में टोकन खर्च होते थे। हर टोकन का मतलब पैसे थे। इसलिए मैं एक काम शुरू करता, उस पर नज़र रखता, और सोने जाते समय बंद कर देता।
अब मेरे पास छह एजेंट हैं जो एक ही मशीन पर चौबीसों घंटे काम कर रहे हैं, जो एक टोस्टर ओवन के आकार की है। वे रिसर्च करते हैं, सारांश बनाते हैं, निगरानी करते हैं, छाँटते हैं और लिखते हैं, जब मैं सोता हूँ, जब मैं खाता हूँ, जब मैं छुट्टी पर होता हूँ। बिजली का बिल ग्यारह डॉलर बढ़ गया। यही पूरी परिचालन लागत है।
यहाँ एक त्वरित समीक्षा है👇
यह है सेटअप, मशीन, और वह सब जो बदलता है जब AI एक सेवा नहीं रह जाती जिसे आप किराए पर लेते हैं, बल्कि एक बुनियादी ढाँचा बन जाती है जो आपका अपना है।
असली गहना जिसके बारे में कोई बात नहीं करता
हर कोई ऑनलाइन बहस कर रहा है कि कौन सा क्लाउड मॉडल ज़्यादा स्मार्ट है। इस बीच हार्डवेयर में एक शांत क्रांति हुई और लगभग किसी ने ध्यान नहीं दिया।
Minisforum MS-S1 Max एक मिनी वर्कस्टेशन है। एल्युमीनियम का शैसिस। एक शेल्फ पर फिट हो जाता है। इसमें 2TB SSD, एक बिल्ट-इन 320W पावर सप्लाई, और AMD का अब तक का सबसे दिलचस्प डेस्कटॉप चिप: Ryzen AI Max+ 395 शामिल है।
इस चिप में सबसे खास बात यह है: यह CPU और GPU के बीच 128GB मेमोरी साझा करता है। कोई अलग ग्राफिक्स कार्ड नहीं। कोई छोटा VRAM पूल नहीं। एक बड़ा यूनिफाइड पूल जिसे दोनों प्रोसेसर पढ़ते हैं। यह वही आर्किटेक्चरल ट्रिक है जो Apple Silicon को लोकल AI में बेहतरीन बनाती है, सिवाय इसके कि यह Linux को ठीक से चलाता है, इसमें डुअल 10-गीगाबिट इथरनेट, 80Gbps पर USB4 V2, विस्तार के लिए PCIe x16 स्लॉट है, और इसकी कीमत लगभग $3,000 है।
1Minisforum MS-S1 Max, अंदर क्या है:23चिप AMD Ryzen AI Max+ 395 (Strix Halo)45CPU 16 कोर / 32 थ्रेड, 5.1 GHz तक67GPU Radeon 8060S, 40 RDNA 3.5 CUs89NPU 50 TOPS1011कुल AI प्रदर्शन 126 TOPS1213मेमोरी 128GB LPDDR5x-8000, यूनिफाइड (CPU+GPU साझा करते हैं)1415VRAM के रूप में उपयोग योग्य Linux पर ~96GB तक1617स्टोरेज 2TB NVMe Gen4 + 1 मुफ्त M.2 स्लॉट1819नेटवर्किंग डुअल 10GbE + Wi-Fi 72021पोर्ट 2× USB4 V2 (80Gbps), HDMI, USB-A, USB-C2223विस्तार PCIe x16 स्लॉट (Gen4 x4 स्पीड)2425पावर 160W पीक / 130W निरंतर2627फॉर्म फैक्टर 2U रैक-माउंटेबल2829कीमत ~$3,000 (128GB/2TB कॉन्फ़िग)
यह कोई गेमिंग PC नहीं है। यह कोई NAS नहीं है। यह एक लोकल AI सर्वर है जो दिखने में मिनी PC जैसा लगता है। और वह स्पेक जो इसे हर दूसरे Strix Halo बॉक्स से अलग करता है: Minisforum चिप को 160W तक धकेलता है, जबकि प्रतियोगी 120–140W पर सीमित रहते हैं। अधिक वाट = निरंतर इन्फरेंस पर अधिक गति। जब आपके एजेंट घंटों चलते हैं तो यह मायने रखता है।
यह क्या चलाता है और कितनी तेज़ी से
Linux पर Ollama इंस्टॉल करें। एक मॉडल पुल करें। बस इतना ही। कोई ड्राइवर ड्रामा नहीं, कोई CUDA डिपेंडेंसी चेन नहीं, कोई कॉन्फ़िग फ़ाइल नहीं। यहाँ बॉक्स Q4-क्वांटाइज़्ड मॉडल के साथ वास्तव में क्या देता है:
1मॉडल VRAM स्पीड किसके लिए पर्याप्त2───────────────────────────────────────────────────────────────────────────────3Qwen3-Coder 30B ~18GB ~40-50 tok/s रोज़ाना कोडिंग, स्क्रिप्ट4Llama 3.3 70B ~42GB ~20-25 tok/s जटिल तर्क, विश्लेषण5DeepSeek-V3 0324 ~95GB ~10-12 tok/s गहन शोध, लंबे दस्तावेज़6Qwen3-235B (MoE) ~110GB ~6-8 tok/s फ्रंटियर-श्रेणी के कार्य
30B और 70B मॉडल काम के घोड़े हैं। इंटरैक्टिव उपयोग के लिए पर्याप्त तेज़। 235B कई बेंचमार्कों पर Claude Sonnet के समान स्तर पर बैठता है, धीमा है, लेकिन आप प्रति टोकन भुगतान नहीं कर रहे हैं, इसलिए आप इसे सोचने देते हैं।
और यहाँ पार्टी ट्रिक है: Minisforum ने इस बॉक्स को क्लस्टरिंग के लिए डिज़ाइन किया है। दो MS-S1 Max यूनिट एक साथ जुड़कर Qwen3-235B को ~11 टोकन/सेकंड पर चलाती हैं। चार यूनिटों ने DeepSeek-R1 671B (पूरा 380GB मॉडल) चलाया। स्थानीय स्तर पर। एक डेस्क पर। कोई डेटा सेंटर नहीं। कोई क्लाउड नहीं।
क्यों 'हमेशा चालू' सब कुछ बदल देता है
यहाँ वह बात है जो लोग लोकल AI के बारे में भूल जाते हैं। यह मॉडल के GPT-5 या Claude Opus जितना अच्छा होने के बारे में नहीं है। यह इस बारे में है कि जब इन्फरेंस मुफ्त है तो आपके व्यवहार में क्या बदलाव आता है।
जब आप प्रति टोकन भुगतान करते हैं, तो आप प्रॉम्प्ट करने से पहले सोचते हैं। आप अपने क्वेरी को ऑप्टिमाइज़ करते हैं। आप प्रयोग जल्दी बंद कर देते हैं। आप कभी किसी एजेंट को आठ घंटे तक लूप नहीं करने देते क्योंकि गणित समझ में नहीं आता।
जब इन्फरेंस की लागत केवल बिजली है और कुछ नहीं, तो आप उस तरह से सोचना बंद कर देते हैं। और वहीं असली मूल्य दिखाई देता है।
छह एजेंट जो मैं चौबीसों घंटे चलाता हूँ:
- इनबॉक्स सॉर्टर। हर 15 मिनट में मेरा ईमेल खींचता है। सब कुछ वर्गीकृत करता है। किसी भी नियमित चीज़ के लिए उत्तर का मसौदा तैयार करता है। मैं सुबह उठता हूँ तो इनबॉक्स सॉर्ट किया हुआ होता है और ड्राफ्ट जवाब तैयार होते हैं। बचाया गया समय: हर सुबह लगभग 40 मिनट।
- रिसर्च मॉनिटर। 30+ RSS फ़ीड, विशेष फ़ोरम, और विभिन्न प्लेटफार्मों पर विशिष्ट खातों पर नज़र रखता है। मेरे काम से संबंधित किसी भी चीज़ का सारांश एक दैनिक डाइजेस्ट में बनाता है जो सुबह 7 बजे Telegram पर पहुँचता है। क्लाउड API पर इसकी लागत टोकन में $15-20/दिन होगी। बॉक्स पर: मुफ्त।
- दस्तावेज़ प्रोसेसर। मैं जो कुछ भी एक विशिष्ट फ़ोल्डर में डालता हूँ, वह पढ़ा, सारांशित और टैग किया जाता है। अनुबंध, रिपोर्ट, PDF, शोध पत्र। सारांश और मुख्य बिंदु मिनटों में मेरे नोट्स ऐप में दिखाई देते हैं। मैंने महीनों में कोई 40-पेज की रिपोर्ट मैन्युअल रूप से नहीं पढ़ी है।
- कोड समीक्षक। मेरे git रिपॉजिटरी पर नज़र रखता है। हर पुश एक समीक्षा, स्टाइल, बग, सुरक्षा, टेस्ट कवरेज को ट्रिगर करता है। परिणाम टिप्पणियों के रूप में पोस्ट किए जाते हैं। 70B मॉडल चलाता है ताकि समीक्षाएँ वास्तव में अच्छी हों।
- मीटिंग प्रेप एजेंट। कल के कैलेंडर को देखता है, प्रत्येक व्यक्ति/विषय के बारे में मेरे नोट्स और हाल के ईमेल से संदर्भ खींचता है, प्रति मीटिंग एक-पेज का ब्रीफ तैयार करता है। सुबह 8 बजे तक तैयार।
- सीखने वाला एजेंट। मेरी रुचि के विषयों को लेता है, हाल के पेपर और लेख ढूँढता है, रात भर 235B मॉडल के साथ पढ़ता है, और मेरी समझ के स्तर के लिए लिखी गई व्याख्याओं के साथ एक साप्ताहिक 'क्या नया है' रिपोर्ट तैयार करता है।
इनमें से कोई भी अकेले क्रांतिकारी नहीं है। क्रांतिकारी बात यह है कि ये सभी छह एक साथ, चौबीसों घंटे चलते हैं, और लागत की परवाह नहीं करनी पड़ती। क्लाउड API पर, यह स्टैक $800-1,200 प्रति माह खर्च करेगा। MS-S1 Max पर, यह बिजली के बिल पर चलता है।
सेटअप। एक शाम, ज़्यादातर डाउनलोडिंग
1. Windows को Linux से बदलें
बॉक्स Windows 11 के साथ आता है, जो GPU-सुलभ मेमोरी को ~96GB तक सीमित करता है। Ubuntu 24.04 पूरा पूल अनलॉक करता है। USB से बूट करें, फ़ॉर्मेट करें, इंस्टॉल करें। 20 मिनट।
2. Ollama इंस्टॉल करें
1curl -fsSL https://ollama.com/install.sh | sh
3. अपने मॉडल पुल करें
1ollama pull qwen3-coder:30b2ollama pull llama3.3:70b
4. Open WebUI सेट करें (वैकल्पिक, आपको ChatGPT जैसा इंटरफ़ेस देता है)
1docker run -d -p 3000:8080 \2 -e OLLAMA_BASE_URL=http://localhost:11434 \3 -v open-webui:/app/backend/data \4 --name open-webui ghcr.io/open-webui/open-webui:main
अब आपके नेटवर्क पर हर डिवाइस, फोन, लैपटॉप, टैबलेट, आपके मॉडल से http://your-box:3000 पर बात कर सकता है।
5. Claude Code को लोकल एंडपॉइंट पर इंगित करें
1export ANTHROPIC_BASE_URL=http://your-box:114342export ANTHROPIC_API_KEY=ollama
वही Claude Code CLI। वही एजेंट लूप। हर अनुरोध आपके बॉक्स पर जाता है, Anthropic पर नहीं। आपका नेटवर्क कुछ नहीं छोड़ता।
6. अपने एजेंट बनाएँ
यह मजेदार हिस्सा है और वह हिस्सा जो हर किसी के लिए अलग है। मैं सरल क्रॉन स्क्रिप्ट, n8n वर्कफ़्लो और अधिक जटिल एजेंटों के लिए Claude Code के एजेंट मोड का मिश्रण उपयोग करता हूँ। मॉडल इंजन हैं। आप उन्हें कैसे जोड़ते हैं यह आप पर निर्भर है।
कुल सेटअप समय: 90 मिनट अगर आपने कभी Linux को नहीं छुआ है। अगर आपने छुआ है तो एक घंटा।
गणित। महत्वपूर्ण!
1एकमुश्त लागत2 Minisforum MS-S1 Max (128GB/2TB) $3,00034मासिक लागत5 बिजली (24/7, ~130W औसत) ~$116 बदले गए क्लाउड सब्सक्रिप्शन $078यह क्या बदलता है (मेरा पिछला स्टैक)9 Claude Code Max $200/माह10 ChatGPT Pro $200/माह11 एजेंटों के लिए विभिन्न API लागत $400–800/माह12 कुल बचत $800–1,200/माह1314ब्रेक-ईवन महीना 3–4
ब्रेक-ईवन के बाद, हर महीने वह पैसा है जो आपके खाते में रहता है। तीन वर्षों में यह $25,000 से $40,000 के बीच होता है जो AI कंपनियों को नहीं भेजा जाता, यह इस बात पर निर्भर करता है कि आप एजेंटों का कितना भारी उपयोग करते हैं।
लेकिन ईमानदारी से, बचत मुद्दा नहीं है। मुद्दा व्यवहार परिवर्तन है। मैंने उन एजेंटों को बनाना शुरू किया जो मैं कभी नहीं बनाता अगर हर टोकन की कीमत होती। मीटिंग प्रेप एजेंट? 'होना अच्छा है' के लिए API लागत कभी उचित नहीं ठहराता। सीखने वाला एजेंट जो रात भर पेपरों पर 235B मॉडल चलाता है? प्रति टोकन के आधार पर बेतुका। मुफ्त होने पर स्पष्ट।
यह बॉक्स क्या नहीं कर सकता
मैं यह दिखावा नहीं करूँगा कि लोकल क्लाउड को पूरी तरह से बदल देता है। ऐसा नहीं है। यहाँ आज की रेखा है:
क्लाउड की अभी भी आवश्यकता है:
- फ्रंटियर रीज़निंग (Claude Opus, GPT-5, वास्तव में कठिन 5% समस्याओं के लिए)
- रीयल-टाइम वेब एक्सेस और मॉडल में निर्मित टूल उपयोग
- मल्टीमॉडल कार्य जहाँ क्लाउड मॉडल पीढ़ियों आगे हैं
- एक साथ 5+ लोगों की टीम की सेवा करना
बॉक्स बाकी सब कुछ संभालता है:
- रोज़ाना कोडिंग और स्क्रिप्टिंग
- दस्तावेज़ विश्लेषण और सारांशीकरण
- लंबे समय तक चलने वाले एजेंट और बैकग्राउंड ऑटोमेशन
- निजी डेटा प्रोसेसिंग (आपका नेटवर्क कुछ नहीं छोड़ता)
- मसौदा तैयार करना, संपादन, विचार-मंथन
- आपके व्यक्तिगत ज्ञान आधार पर RAG
- बल्क प्रोसेसिंग (ट्रांसक्रिप्शन, वर्गीकरण, निष्कर्षण)
क्लाउड कार्यों के लिए, आप API के माध्यम से प्रति-उपयोग भुगतान करते हैं। यहाँ $5, वहाँ $10। $200/माह की सदस्यता नहीं जिसका आप 20% उपयोग करते हैं।
ईमानदार कमियाँ
बॉक्स लोड के तहत गर्म चलता है। खतरनाक रूप से नहीं, लेकिन पंखे सुनाई देते हैं। इसे अपने बेडरूम में न रखें। वायु-प्रवाह वाली कोठरी काम करती है। डेस्क के नीचे काम करता है।
ओपन-सोर्स मॉडल Claude Opus नहीं हैं। वे कई कार्यों पर करीब हैं, सबसे कठिन तर्क समस्याओं पर काफी पीछे हैं। यदि आपका काम 100% फ्रंटियर-कठिनाई वाले AI कार्य हैं, तो यह बॉक्स आपका उत्तर नहीं है। यदि आपका काम 80% नियमित और 20% कठिन है, तो 80% स्थानीय रूप से चलाएँ और 20% के लिए प्रति-उपयोग भुगतान करें।
आप हार्डवेयर खरीद रहे हैं। यदि AMD अगले साल कुछ दोगुना तेज़ जारी करता है, तो आपका $3,000 वापस नहीं आता। लेकिन महीने 3-4 पर ब्रेक-ईवन का मतलब है कि आपको इसे पाँच साल तक रखने की ज़रूरत नहीं है। एक साल का उपयोग भी गणित को काम करने के लिए पर्याप्त है।
Ollama AMD पर अब ठोस है, लेकिन CUDA-स्तर का परिपक्व नहीं है। कभी-कभी कोई नया मॉडल पहले Nvidia-ऑप्टिमाइज़ेशन के साथ आता है। आप एक-दो सप्ताह प्रतीक्षा करते हैं। यह अर्ली-अडॉप्टर टैक्स है।
और आपको Linux के साथ सहज होना होगा। ऊपर दिए गए कमांड सरल हैं। पहली बार जब कुछ टूटता है, तो आप एक फोरम पर एक घंटा बिताएँगे। यह आज स्थानीय होने की कीमत है, एक और साल इंतजार करने के बजाय।
यह विशिष्ट बॉक्स क्यों
बाजार में एक दर्जन Strix Halo मिनी PC हैं। MS-S1 Max तीन कारणों से अलग है:
160W निरंतर पावर। किसी भी प्रतियोगी से अधिक। बड़े मॉडलों पर इन्फरेंस स्पीड पावर के साथ बढ़ती है। जब एजेंट घंटों चलते हैं तो यह मायने रखता है।
डुअल 10GbE। अधिकांश प्रतिस्पर्धी बक्सों में 2.5GbE है। यदि आप बड़ी फ़ाइलें स्थानांतरित कर रहे हैं, कई यूनिट क्लस्टर कर रहे हैं, या इसे नेटवर्क AI सर्वर के रूप में चला रहे हैं, तो 10-गीगाबिट अनुभव बदल देता है।
2U रैक-माउंटेबल। यह एक विवरण है जो तब तक विशिष्ट लगता है जब तक आपको एहसास नहीं होता कि इसका मतलब है कि आप इनमें से दो या चार को एक मानक रैक में स्टैक कर सकते हैं और एक लोकल AI क्लस्टर बना सकते हैं जो 671B-पैरामीटर मॉडल चलाता है। अपनी डेस्क पर। एक पुरानी कार की कीमत पर।
असली बात
AI उद्योग चाहता है कि आप बुद्धिमत्ता को एक उपयोगिता के रूप में सोचें। कुछ जिसकी आप सदस्यता लेते हैं। कुछ जो मीटर किया जाता है। कुछ जो किसी और के डेटा सेंटर में रहता है, किसी और के शेड्यूल पर चलता है, और जब आप भुगतान करना बंद करते हैं तो रुक जाता है।
वह मॉडल तब समझ में आता था जब हार्डवेयर तालमेल नहीं रख सकता था। अब ऐसा नहीं है।
128 गीगाबाइट यूनिफाइड मेमोरी। AI इन्फरेंस के लिए डिज़ाइन की गई चिप। ओपन-सोर्स मॉडल जो आपकी ज़रूरत का 80% कवर करते हैं। एक ओपन-सोर्स स्टैक जो एक घंटे में इंस्टॉल होता है।
एक मशीन। आपकी डेस्क के नीचे। छह एजेंट चला रही है जो कभी नहीं सोते।
$3,000 एक बार। $11 प्रति माह। सब कुछ आपके नेटवर्क पर रहता है।
यह सेटअप है। काश मैंने पहले शुरू किया होता।
और अल्फ़ा चाहिए?
मुझे फ़ॉलो करें और मेरे प्राइवेट चैनल से जुड़ें जब तक आप कर सकते हैं: link







