जब Kioxia जापान की सबसे बड़ी कंपनी बन गई और Fujikura ने अचानक अपनी कमाई का अनुमान बढ़ा दिया, तो ध्यान और पूंजी 'सेमीकंडक्टर' में बाढ़ की तरह आ रही है। जबकि AI बूम और सेमीकंडक्टर जैसे शब्द हर जगह हैं, इस सबका असली केंद्र AI डेटा सेंटर है।
पहले, मैंने एक 'सेमीकंडक्टर कोर्स फॉर प्रिटेंडिंग टू नो इट ऑल' पोस्ट किया था।
यह बिना ज्यादा फैक्ट-चेकिंग के मैंने किताबों और YouTube वीडियो का सिर्फ एक सारांश बनाया था, और मुझे चिंता थी कि किसी को गुस्सा आ सकता है, लेकिन इसे काफी सकारात्मक रूप से प्राप्त किया गया। तो, दूसरे भाग के लिए, मैं डेटा सेंटर के बारे में लिखना चाहूंगा।
https://x.com/Kumakuring/status/1760605955845464527?s=20
उस सेमीकंडक्टर लेख के बाद से मैं काफी विकसित हो गया हूं। क्यों? क्योंकि अब मैं हर दिन ठीक से Nikkei Shimbun पढ़ता हूं।
इसके अलावा, मार्केटिंग में अपनी मुख्य नौकरी में, अधिकांश प्रोजेक्ट सेमीकंडक्टर और डेटा सेंटर से संबंधित होते हैं, इसलिए मेरे पास विशेषज्ञों से बात करने के अधिक अवसर हैं। मैंने इसे अपने सीखे हुए को आउटपुट करने के एक तरीके के रूप में लिखा है।
हालांकि, मैं कोई विशेषज्ञ नहीं हूं, और चूंकि मैं एक बार खुद टेक्स्ट लिखना चाहता था, इसलिए मैंने इस बार ज्यादा AI का उपयोग नहीं किया है। कृपया किसी भी अशुद्धि को क्षमा करें।
मानवता ने प्रतीक्षा करने की क्षमता खो दी है
मैं अपने मध्य-तीसवें दशक में हूं, और मुझे याद है जब हमें मोबाइल फोन पर एक ईमेल पढ़ने के लिए 'सेंटर से क्वेरी' करनी पड़ती थी। पीछे मुड़कर देखने पर, यह काफी सुखद था। आप मैन्युअल रूप से जांचते थे कि ईमेल आया है या नहीं और जवाब के लिए थोड़ा इंतजार करते थे।
लेकिन अब चीजें अलग हैं।
चाहे वह सर्च हो, वीडियो हो, भुगतान हो, सोशल मीडिया हो, या जनरेटिव AI का जवाब हो, अगर वे तुरंत वापस नहीं आते हैं तो हम निराश हो जाते हैं। यह सिर्फ निराशा नहीं है; कुछ लोग चिंतित भी हो जाते हैं।
संक्षेप में, मनुष्य तेजी से प्रतीक्षा करने में असमर्थ होता जा रहा है।
यहां कीवर्ड 'लेटेंसी' है। लेटेंसी का मतलब संचार में देरी है। डेटा भेजने और प्रोसेस्ड परिणाम प्राप्त करने के बीच का समय जितना कम होगा, उपयोगकर्ता इसे उतना ही 'तेज़' समझेगा।
हम ईमेल क्वेरी के लिए इंतजार करते थे, लेकिन अब हम नाराज हो जाते हैं अगर AI का जवाब एक फ्लैश में नहीं आता है। डेटा सेंटर ही इस 'प्रतीक्षा करने में असमर्थता' को पर्दे के पीछे से सपोर्ट करते हैं।
डेटा सेंटर एक समर्पित सुविधा है जिसे बड़ी संख्या में सर्वर को स्थिर रूप से चलाने के लिए डिज़ाइन किया गया है।
- सर्वर रखने के लिए भवन
- भारी मात्रा में बिजली
- गर्मी को खत्म करने के लिए कूलिंग उपकरण
- हाई-स्पीड संचार लाइनें
- भूकंप, आग, बिजली कटौती, साइबर हमलों और शारीरिक घुसपैठ से सुरक्षा
दूसरे शब्दों में, डेटा सेंटर सिर्फ एक 'सर्वर स्टोरेज रूम' नहीं है; यह बिजली, कूलिंग, संचार, निर्माण, रियल एस्टेट और संचालन को मिलाकर एक विशाल बुनियादी ढांचा है। यह देखते हुए कि मध्य पूर्वी संघर्षों में डेटा सेंटर को निशाना बनाया गया है, उनका महत्वपूर्ण राष्ट्रीय सुरक्षा महत्व भी है।
AI-संचालित डेटा सेंटर निर्माण की होड़
जनरेटिव AI भारी कम्प्यूटेशनल संसाधनों की खपत करता है। विशेष रूप से, AI ट्रेनिंग और इनफरेंस के लिए बड़ी संख्या में GPU की आवश्यकता होती है, और उन GPU को चलाने के लिए भारी मात्रा में बिजली और कूलिंग की आवश्यकता होती है।
मौजूदा डेटा सेंटर ने क्लाउड, ई-कॉमर्स, वीडियो स्ट्रीमिंग, फाइनेंस और दूरसंचार को सपोर्ट किया है। इसके ऊपर, जनरेटिव AI की मांग अचानक आ गई है, जिससे 'और बनाओ,' 'लेकिन पर्याप्त बिजली नहीं है,' 'कूलिंग मुश्किल है,' 'जमीन सीमित है,' और 'हमें पावर ग्रिड चाहिए' जैसी चीखें सुनाई दे रही हैं।
मैंने एक बार डेटा सेंटर क्षेत्र के किसी व्यक्ति से बात की थी जिसने कहा, 'डेटा सेंटर एक प्याज की तरह है; अगर आप परतों को छीलते हैं, तो आपके पास सेमीकंडक्टर बचते हैं।'
भवन की कल्पना करें → अंदर बिजली के उपकरण → कूलिंग उपकरण → संचार लाइनें → रैक → सर्वर → और उनके अंदर GPU, CPU, मेमोरी और SSD जैसे सेमीकंडक्टर हैं। यह संरचना इसमें शामिल विभिन्न खिलाड़ियों को व्यवस्थित करना आसान बनाती है।
जैसा कि मैंने सेमीकंडक्टर पोस्ट में उल्लेख किया है, AI सेमीकंडक्टर को बढ़ावा देने का कारण यह है कि जनरेटिव AI सिर्फ सॉफ्टवेयर नहीं है; इसके लिए भारी हार्डवेयर सपोर्ट की आवश्यकता है। हालांकि, सेमीकंडक्टर अकेले काम नहीं करते हैं।
भले ही आपके पास NVIDIA GPU हों, वे बिजली के बिना नहीं चलेंगे। अगर वे चलते हैं लेकिन गर्मी को खत्म नहीं कर सकते, तो वे रुक जाते हैं। अगर GPU हाई स्पीड से कनेक्ट नहीं हैं, तो वे प्रदर्शन नहीं करेंगे। उन्हें भारी मात्रा में डेटा पढ़ने की आवश्यकता है। और आपको शुरू करने के लिए एक इमारत की आवश्यकता है, हालांकि हाल ही में निर्माण विरोधी आंदोलन हुए हैं...
बिजली, कूलिंग, फाइबर ऑप्टिक्स, इलेक्ट्रिक तार, सर्वर, मेमोरी, SSD, निर्माण, रियल एस्टेट और डेटा सेंटर संचालन। यही कारण है कि AI बूम NVIDIA और सेमीकंडक्टर से इन सभी अन्य क्षेत्रों में फैलता है।
AI सिर्फ GPU से कहीं अधिक है
जब लोग AI के बारे में सोचते हैं, तो सबसे पहले NVIDIA GPU दिमाग में आता है। GPU गणना के लिए सेमीकंडक्टर हैं। इसलिए, कहानी आमतौर पर यह होती है: अगर AI बढ़ता है, तो NVIDIA लाभ कमाता है।
हालांकि, एक बार जब जनरेटिव AI वास्तविक उपयोग के चरण में पहुंच जाता है, तो कहानी GPU के साथ खत्म नहीं होती है।
- उपयोगकर्ता एक प्रश्न पूछता है
- डेटा पढ़ा जाता है
- गणना होती है
- मध्यवर्ती जानकारी अस्थायी रूप से रखी जाती है
- डेटा फिर से पढ़ा जाता है
- उत्तर वापस किया जाता है
यह प्रक्रिया दुनिया भर में एक साथ बड़े पैमाने पर होती है। एक अलग बात के रूप में, मैंने हाल ही में मजाक किया था कि अगर मैं पुनर्जन्म लेता हूं तो 'ChatGPT के अंदर का व्यक्ति' होना नरक होगा। लेकिन मैं भटक गया।
महत्वपूर्ण बात यह है कि GPU हवा से गणना नहीं करते हैं। हर बार जब GPU गणना करता है, तो वह भारी मात्रा में डेटा पढ़ता है।
यहां मायने रखता है GPU की गणना गति। GPU अविश्वसनीय गति से भारी गणना को प्रोसेस कर सकते हैं, लेकिन अगर आवश्यक डेटा नहीं आता है, तो 'प्रतीक्षा समय' होता है। GPU चाहे कितना भी तेज़ क्यों न हो, अगर डेटा डिलीवरी धीमी है, तो GPU के प्रदर्शन का पूरी तरह से उपयोग नहीं किया जा सकता है।
दूसरे शब्दों में, यह सिर्फ गणना करने की शक्ति नहीं है जो मायने रखती है, बल्कि यह है कि GPU तक डेटा कितनी तेज़ी से पहुंचाया जा सकता है।
यहीं पर मेमोरी आती है। मेमोरी वह जगह है जहां वर्तमान में उपयोग में आने वाला डेटा अस्थायी रूप से संग्रहीत किया जाता है। तेज़ मेमोरी GPU के जितनी करीब होगी, डेटा उतनी ही तेज़ी से पहुंचाया जा सकता है। यही कारण है कि HBM नामक हाई-स्पीड मेमोरी को AI GPU के पास रखा जाता है।
दूसरी ओर, आप सभी डेटा को हाई-स्पीड मेमोरी में नहीं रख सकते हैं। आपको भारी मात्रा में डेटा स्टोर करने के लिए एक जगह की भी आवश्यकता है। यहीं पर स्टोरेज आता है। डेटा सेंटर में, आमतौर पर SSD का उपयोग किया जाता है। और उन SSD के अंदर मेमोरी सेमीकंडक्टर NAND फ्लैश है। उस NAND को विकसित करने वाली अग्रणी कंपनी हमारी प्यारी Kioxia है।
जनरेटिव AI के प्रसार के साथ, 'भारी डेटा को जल्दी से पढ़ने, अस्थायी रूप से रखने और सहेजने' की क्षमता गणना शक्ति के समान ही महत्वपूर्ण होती जा रही है। यही कारण है कि NVIDIA के अलावा, SK Hynix, Micron और Samsung (मेमोरी के लिए), और Kioxia, Samsung और Micron (SSD और NAND के लिए) जैसी कंपनियां AI संदर्भ में ध्यान आकर्षित कर रही हैं।
लेटेंसी और एज डेटा सेंटर
डेटा सेंटर के बारे में सोचते समय लेटेंसी महत्वपूर्ण है। क्योंकि मनुष्य अब प्रतीक्षा नहीं कर सकता, डेटा सेंटर के लिए न केवल 'थोक में प्रोसेस करना' बल्कि 'जल्दी से जवाब देना' भी महत्वपूर्ण है।
जबकि AI ट्रेनिंग विशाल डेटा सेंटर में होती है, AI इनफरेंस—उपयोगकर्ता के प्रश्न का उत्तर देने की प्रक्रिया—उपयोगकर्ता के करीब प्रोसेस होने से लाभान्वित होती है। यहीं पर 'एज डेटा सेंटर' आते हैं।
यदि आप केवल दूर विशाल डेटा सेंटर बनाते हैं, तो चीजें धीमी हो जाती हैं। विचार यह है कि छोटे डेटा सेंटर को उपयोगकर्ताओं या उपकरणों के करीब रखा जाए। भले ही आंतरिक सर्वर कितने भी तेज़ हों, अगर डेटा को आने-जाने में समय लगता है, तो उपयोगकर्ता इसे धीमा समझेगा।
यह देरी वित्तीय लेन-देन, गेमिंग, वीडियो स्ट्रीमिंग, कारखानों, स्वायत्त ड्राइविंग और AI इनफरेंस के लिए एक समस्या है। इसलिए, भविष्य में, न केवल विशाल डेटा सेंटर बल्कि उपयोगकर्ताओं के पास स्थित एज डेटा सेंटर भी महत्वपूर्ण होंगे।
यह बातचीत को सिर्फ 'बड़े डेटा सेंटर कहां बनाएं' से 'प्रोसेसिंग कहां रखें' में बदल देता है। दूरसंचार वाहक, फाइबर ऑप्टिक्स, 5G, नेटवर्क उपकरण, एज सर्वर, एयर कंडीशनिंग, रिमोट मॉनिटरिंग और रखरखाव नेटवर्क सभी महत्वपूर्ण हो जाते हैं। जैसे-जैसे एज का विस्तार होता है, डेटा सेंटर आपूर्ति श्रृंखला कई छोटे, वितरित बुनियादी ढांचे के प्रबंधन की ओर बढ़ेगी।
डेटा सेंटर आपूर्ति श्रृंखला
अपनी मुख्य नौकरी में, मैं अपनी टीम से कहता हूं, 'B2B मार्केटिंग करने के लिए, आपको मूल्य श्रृंखला और आपूर्ति श्रृंखला को समझना होगा।' इतनी विशाल आपूर्ति श्रृंखला के साथ, कई खिलाड़ी शामिल हैं।
[हाइपरस्केलर्स]
पहले, हाइपरस्केलर्स मांग पैदा करते हैं। ये वे कंपनियां हैं जो अति-बड़े पैमाने पर क्लाउड या IT सेवाएं संचालित करती हैं। यह आमतौर पर AWS, Microsoft Azure, Google Cloud और Oracle Cloud जैसे क्लाउड प्रदाताओं, या Meta, Apple, Alibaba और Tencent जैसे विशाल प्लेटफॉर्मर्स को संदर्भित करता है। वे AI के लिए भारी मात्रा में GPU और सर्वर की आवश्यकता के द्वारा डेटा सेंटर की मांग पैदा करते हैं।
[डेटा सेंटर ऑपरेटर]
अगले वे ऑपरेटर हैं जो डेटा सेंटर के मालिक हैं और उन्हें चलाते हैं। हाइपरस्केलर्स कभी-कभी अपना खुद का निर्माण करते हैं, लेकिन वे 'कोलोकेटर' नामक बाहरी ऑपरेटरों का भी उपयोग करते हैं। कोलोकेटर स्थान, बिजली, कूलिंग, कनेक्टिविटी और सुरक्षा प्रदान करते हैं। प्रमुख खिलाड़ियों में Equinix, Digital Realty, शक्तिशाली NTT Data Group और कई अन्य शामिल हैं। KDDI Telehouse ब्रांड के तहत विदेशों में संचालित होता है।
[निर्माण]
इसके नीचे निर्माण/EPC परत है। EPC का मतलब Engineering, Procurement और Construction है। ये वे कंपनियां हैं जो डिजाइन करती हैं, उपकरण खरीदती हैं और सुविधाओं का निर्माण करती हैं, जिनमें जनरल कॉन्ट्रैक्टर शामिल हैं।
[बिजली का बुनियादी ढांचा]
चूंकि AI डेटा सेंटर भारी मात्रा में बिजली का उपयोग करते हैं, बिजली उत्पादन, ट्रांसमिशन, ट्रांसफॉर्मेशन, वितरण और बैकअप पावर महत्वपूर्ण हैं। बिजली उत्पादन और वितरित बिजली में, GE Vernova, Siemens और Mitsubishi Heavy Industries जैसी कंपनियां गैस टर्बाइन और जनरेटर के साथ मजबूत प्रदर्शन देख रही हैं। बिजली ट्रांसफॉर्मेशन, वितरण और UPS (अनइंटरप्टिबल पावर सप्लाई) भी यह सुनिश्चित करने के लिए महत्वपूर्ण हैं कि आउटेज के दौरान सर्वर क्रैश न हों। Schneider Electric इस क्षेत्र में प्रसिद्ध है।
[कूलिंग]
यहां तक कि घरेलू PC भी भारी कार्यों के दौरान गर्म हो जाते हैं, लेकिन AI डेटा सेंटर इसे खगोलीय पैमाने पर करते हैं। AI GPU इतनी गर्मी पैदा करते हैं कि अगर उन्हें ठंडा नहीं किया गया तो वे विफल हो जाएंगे या प्रदर्शन खो देंगे। जबकि 'एयर कूलिंग' (पूरे कमरे को ठंडा करना) मानक था, AI सर्वर प्रति रैक इतनी गर्मी पैदा करते हैं कि एयर कूलिंग अक्षम होती जा रही है। यह 'लिक्विड कूलिंग' की ओर ले जा रहा है, जो गर्मी को दूर ले जाने के लिए तरल का अधिक कुशलता से उपयोग करता है। 'डायरेक्ट-टू-चिप' नामक एक प्रवृत्ति में सीधे GPU या CPU पर कूलिंग प्लेट रखना शामिल है। Daikin, Mitsubishi Heavy Industries Thermal Systems और Mitsubishi Electric जैसी कंपनियां यहां प्रमुख खिलाड़ी हैं।
[संचार और नेटवर्किंग]
डेटा सेंटर बेकार हैं अगर वे बाहरी दुनिया से जुड़े नहीं हैं। इसमें दूरसंचार वाहक, नेटवर्क उपकरण, स्विच और राउटर शामिल हैं। AI में, डेटा सेंटर के अंदर GPU को एक दूसरे से हाई स्पीड पर जोड़ना बाहरी कनेक्टिविटी जितना ही महत्वपूर्ण है। इसके लिए बिजली के तारों और फाइबर ऑप्टिक्स दोनों की आवश्यकता होती है। यहीं पर जापान की 'बिग थ्री' तार कंपनियां—Fujikura, Sumitomo Electric और Furukawa Electric—आती हैं।
[IT उपकरण और सेमीकंडक्टर]
AI के लिए एक पूरा सेट चाहिए: सर्वर, GPU, CPU, मेमोरी, SSD और नेटवर्क उपकरण। जैसे-जैसे AI उपयोग के चरण में आगे बढ़ता है, डेटा को पढ़ने और लिखने की गति कच्ची गणना शक्ति जितनी ही महत्वपूर्ण हो जाती है।
वे रातों-रात नहीं उगते
जैसा कि आप देख सकते हैं, AI डेटा सेंटर ऐसी चीज नहीं है जहां आपूर्ति तुरंत मांग को पूरा कर सके। भले ही हाइपरस्केलर्स भारी निवेश कर रहे हों, इन सुविधाओं को बनने में समय लगता है। आपूर्ति श्रृंखला में कोई भी अड़चन—सामग्री से लेकर कुशल श्रम की वैश्विक कमी तक—संचालन में देरी करती है।
निर्माण में देरी और शुरुआत की तारीखों को पीछे धकेलने की रिपोर्ट आम हैं। विभिन्न साइटों पर बैकऑर्डर जमा हो रहे हैं। जबकि 'सेमीकंडक्टर' वर्तमान हॉट टॉपिक है, अगर आप इसे AI डेटा सेंटर के लेंस से देखते हैं, तो यह एक बहु-वर्षीय बुनियादी ढांचा निवेश विषय है।
(मांग और स्टॉक की कीमतें अलग-अलग चीजें हैं, इसलिए कृपया अपने जोखिम पर निवेश करें!)
