4-लेयर मेमोरी आर्किटेक्चर जिसका उपयोग मैं प्रोडक्शन में 2 AI एजेंट्स के लिए करता हूँ

@MatthewGunnin
अंग्रेज़ी2 सप्ताह पहले · 02 जुल॰ 2026
162K
137
20
6
708

TL;DR

Matt Gunnin प्रोडक्शन के लिए तैयार 4-लेयर मेमोरी आर्किटेक्चर का विवरण देते हैं, जो AI एजेंट्स के लिए मार्कडाउन फाइल्स, शेयर्ड स्टेट लॉग्स और सिमेंटिक सर्च का उपयोग करता है ताकि लॉन्ग-टर्म कॉन्टेक्स्ट बना रहे और एजेंट ड्रिफ्ट को रोका जा सके।

TLDR: अधिकांश एजेंट रीसेट हो जाते हैं और भूल जाते हैं। यहाँ वह सटीक मेमोरी स्टैक है जो मैंने बनाया है ताकि मेरे एजेंट रीस्टार्ट के बाद भी संदर्भ साझा कर सकें, एक-दूसरे पर कदम रखे बिना समन्वय कर सकें, और महीनों तक निर्णयों को बनाए रख सकें।

वह समस्या जिसे कोई हल नहीं करता

यहाँ सामान्य AI एजेंट मेमोरी सेटअप है। महत्वपूर्ण चीजों को सिस्टम प्रॉम्प्ट में डाल दें। उम्मीद करें कि कॉन्टेक्स्ट विंडो खत्म न हो। रीस्टार्ट करें और सब कुछ खो दें।

मैंने 6 महीनों में सैकड़ों सत्रों में दो समन्वित एजेंट (Ella on OpenClaw, Lyra on Hermes) चलाए हैं। सबसे बड़ी चीज़ जो उन्हें उपयोगी बनाती है, वह मॉडल या टूल नहीं हैं। यह मेमोरी आर्किटेक्चर है।

जब Lyra रात 2 बजे कोई फिक्स भेजता है, तो Ella को सुबह इसके बारे में पता चल जाता है। जब मैंने जनवरी में तय किया कि सीक्रेट्स को कैसे स्टोर किया जाना चाहिए, तो दोनों एजेंट जुलाई में भी उस निर्णय का पालन करते हैं। जब कोई सत्र बीच में क्रैश हो जाता है, तो अगला सत्र ठीक वहीं से शुरू होता है जहाँ छूटा था।

यहाँ सटीक 4-लेयर सिस्टम है।

लेयर 1: सत्र के भीतर संदर्भ

हर सत्र दो फाइलों को पढ़कर शुरू होता है। आइडेंटिटी फ़ाइल एजेंट की स्थायी पहचान है। कॉन्फ़िग में दबा हुआ कोई सिस्टम प्रॉम्प्ट नहीं। एक वास्तविक मार्कडाउन फ़ाइल जिसे मैं संपादित कर सकता हूँ। इसमें यह होता है कि एजेंट को कैसे व्यवहार करना चाहिए, वह क्या प्राथमिकता देता है, वह बिना पूछे क्या कभी नहीं करता, और अन्य एजेंटों के साथ उसका संबंध।

मेमोरी इंडेक्स फ़ाइल सत्रों के बीच याद रखने योग्य हर चीज़ का इंडेक्स है। कोई वेक्टर डेटाबेस नहीं। कोई एम्बेडिंग नहीं। एक सादा विषय-सूची जो अलग-अलग मेमोरी फ़ाइलों की ओर इशारा करती है। प्रत्येक मेमोरी फ़ाइल एक नाम, विवरण, प्रकार और संक्षिप्त बॉडी वाला एक छोटा नोट है। इंडेक्स हमेशा लोड होता है। अलग-अलग फ़ाइलें ज़रूरत पड़ने पर मांग पर पढ़ी जाती हैं।

मार्कडाउन क्यों? क्योंकि मैं इसे पढ़, संपादित और डीबग कर सकता हूँ। जब कोई एजेंट गलत व्यवहार करने लगता है, तो मैं इंडेक्स खोलता हूँ और गलत निर्देश ढूँढता हूँ। जब मैं कोई व्यवहार बदलना चाहता हूँ, तो मैं फ़ाइल को संपादित करता हूँ। कोई API नहीं। कोई डैशबोर्ड नहीं। कोई रीट्रेनिंग नहीं।

लेयर 2: सत्र के बाद प्रतिधारण (Hindsight)

केवल मार्कडाउन मेमोरी की समस्या: यह केवल वही कैप्चर करती है जो कोई स्पष्ट रूप से लिखता है। अधिकांश मूल्यवान संदर्भ अंतर्निहित होता है। रन के दौरान लिए गए निर्णय। किसी कार्य से अनुमानित तथ्य। वे चीज़ें जो मायने रखती हैं।

Hindsight एक स्थानीय तथ्य-प्रतिधारण बैकएंड है जो localhost पर चलता है। हर सार्थक सत्र के अंत में, एजेंट स्वचालित रूप से बनाए रखे गए तथ्यों का एक क्यूरेटेड सेट एक नामित बैंक में पुश करता है। प्रत्येक एजेंट का अपना बैंक होता है।

क्या बनाए रखा जाता है: सत्र के दौरान लिए गए निर्णय, उपयोगकर्ता या प्रोजेक्ट के बारे में गैर-स्पष्ट तथ्य, विफलता पैटर्न और हमारे द्वारा अपनाए गए फिक्स, और उपयोगकर्ता द्वारा पुष्टि या सुधारी गई प्राथमिकताएँ।

जब कोई नया सत्र शुरू होता है, तो एजेंट के जवाब देने से पहले Hindsight से प्रासंगिक संदर्भ के लिए क्वेरी की जाती है। यह ट्रांसक्रिप्ट पर फुल-टेक्स्ट सर्च नहीं है। यह प्रकार के अनुसार टैग किए गए क्यूरेटेड तथ्य हैं, जिन्हें एजेंट ने सीखा है कि आगे बढ़ाने लायक हैं।

प्रमोटेड पथ: Hindsight तथ्य, मानव समीक्षा, मेमोरी इंडेक्स एंट्री। मानव अनुमोदन गेट के साथ स्वचालित प्रतिधारण।

Matt Gunnin - inline image

लेयर 3: साझा दीर्घकालिक स्थिति (Nexus)

जब आप दूसरा एजेंट जोड़ते हैं तो सिंगल-एजेंट मेमोरी टूट जाती है। वे भटक जाते हैं। एक सोचता है कि X वर्तमान प्रोजेक्ट स्थिति है। दूसरा सोचता है कि Y है। एक सप्ताह के भीतर वे एक-दूसरे का खंडन कर रहे होते हैं।

समाधान एक साझा, निरीक्षण योग्य स्थिति फ़ाइल है जिसे दोनों एजेंट पढ़ते और लिखते हैं। हम एक Obsidian वॉल्ट का उपयोग करते हैं जिसे मैं Nexus कहता हूँ। इसमें एक लाइव-कॉन्टेक्स्ट लॉग है जिसमें दोनों एजेंट हर सार्थक मोड़ के बाद जोड़ते हैं, एक प्रोजेक्ट-स्टेट फ़ाइल, एक निर्णय लॉग, और लंबे कार्यों के दौरान हर कुछ टूल कॉल के बाद अपडेट किया गया प्रति-एजेंट वर्किंग-कॉन्टेक्स्ट चेकपॉइंट।

लाइव-कॉन्टेक्स्ट फ़ाइल रीयल-टाइम हैंडशेक है। अपरिवर्तनीय: हर जवाब से पहले, इसे पढ़ें। हर सार्थक मोड़ के बाद, इसमें जोड़ें।

जब Lyra रात 2 बजे PR पूरा करता है और Ella मेरे सुबह के सवाल का जवाब दे रही होती है, तो Ella को पहले से पता होता है। उसने लॉग पढ़ लिया है। कोई मैसेज पासिंग नहीं। कोई इंटर-एजेंट API नहीं। कोई पोलिंग नहीं। एक साझा फ़ाइल, दो एजेंट, केवल-जोड़ें लॉग।

Matt Gunnin - inline image

लेयर 4: खोजने योग्य ज्ञान (gbrain)

पहली तीन लेयर एपिसोडिक मेमोरी को संभालती हैं। क्या हुआ, क्या तय किया गया, आगे क्या ले जाना मायने रखता है। gbrain सिमैंटिक लेयर है। यह Nexus वॉल्ट पर MCP सर्वर के रूप में चलने वाला एक संकलित विकी है। लिखी गई हर चीज़ पर फुल-टेक्स्ट और सिमैंटिक सर्च।

जब किसी एजेंट को किसी शोध प्रश्न का उत्तर देने, पिछला संश्लेषण खोजने, या यह देखने की आवश्यकता होती है कि हमने पहले किसी प्रकार की समस्या को कैसे संभाला है, तो वह हर फ़ाइल को फिर से पढ़ने के बजाय gbrain से क्वेरी करता है। आउटपुट प्रासंगिक पृष्ठों की एक रैंक की गई सूची है जिसमें उत्पत्ति शामिल है। एजेंट वही पढ़ता है जो प्रासंगिक है। वह पूरे वॉल्ट को कॉन्टेक्स्ट में डंप नहीं करता।

यह मेमोरी और रिकॉल के बीच का अंतर है। लेयर 1 से 3 संभालती हैं कि एजेंट क्या ले जाता है। लेयर 4 संभालती है कि एजेंट क्या खोज सकता है।

क्रॉस-एजेंट सिंक अपरिवर्तनीय

दो एजेंट, एक लाइव-कॉन्टेक्स्ट फ़ाइल। जोखिम: वे एक-दूसरे को ओवरराइट करते हैं, या एक-दूसरे की एंट्री मिस करते हैं। हम जो अपरिवर्तनीय चलाते हैं: प्रत्येक एंट्री पर एजेंट नाम, चैनल, प्रकार और एक-पंक्ति सारांश के साथ हस्ताक्षर किया जाता है। केवल-जोड़ें। कभी भी किसी और की एंट्री को संपादित न करें। यदि Lyra ने कुछ प्रासंगिक लॉग किया है, तो Ella अगले जवाब में स्पष्ट रूप से इसे स्वीकार करती है। महत्वपूर्ण निर्णयों के लिए, दोनों एजेंट टाइमस्टैम्प और तर्क के साथ निर्णय लॉग में भी लिखते हैं।

यह सैकड़ों सत्रों में चला है। हमारा एक संघर्ष हुआ है: एक रेस कंडीशन जहाँ दोनों एजेंटों ने हैंडऑफ़ के दौरान एक ही मिनट के भीतर जोड़ा। समाधान: दोनों एंट्री पढ़ें, अगले मोड़ में समाधान करें। कोई स्वचालित मर्ज आवश्यक नहीं।

Matt Gunnin - inline image

यह क्या बदलता है

इस आर्किटेक्चर से पहले: पाँच डिस्कनेक्टेड चैट सत्र, प्रत्येक का अपना पुराना संदर्भ। एजेंट एक-दूसरे का खंडन कर रहे थे क्योंकि कोई नहीं देख सकता था कि दूसरा क्या जानता है। मेरे द्वारा तीन सप्ताह पहले दिए गए निर्देश, भूल गए। निर्णय जो मेरे दिमाग में रहते थे, फ़ाइल में नहीं।

बाद में: दो एजेंट जो हर जवाब से पहले खुद को ब्रीफ करते हैं। एक साझा स्थिति लॉग जिसे कोई नकार नहीं सकता। बनाए रखे गए निर्णय जो महीनों के कॉन्टेक्स्ट रीसेट से बचे रहते हैं। हर व्यवहार प्राथमिकता एक फ़ाइल में जिसे मैं संपादित और सत्यापित कर सकता हूँ।

ईमानदार ट्रेडऑफ़: इस सिस्टम के लिए अनुशासन की आवश्यकता है। आपको चीज़ें लिखनी होंगी। आपको फ़ाइलों को बनाए रखना होगा। आपको समीक्षा करनी होगी कि स्थायी होने से पहले क्या बनाए रखा जाता है। यह कोई जादुई हमेशा-चालू सिस्टम नहीं है। यह संरचित मैनुअल अनुशासन और सीमों पर ऑटोमेशन है।

कैसे शुरू करें

आपको इसका वर्जन एक चलाने के लिए दो एजेंटों या पूर्ण वॉल्ट की आवश्यकता नहीं है।

चरण 1: एक आइडेंटिटी फ़ाइल और एक मेमोरी इंडेक्स। उन्हें बनाएँ। सत्र की शुरुआत में उन्हें पढ़ें। दूसरी बार जब आप उसी चीज़ के लिए एजेंट को सुधारते हैं, तो हर व्यवहार प्राथमिकता को इंडेक्स में लिखें।

चरण 2: एक साझा स्थिति फ़ाइल। यदि आप एक से अधिक एजेंट चलाते हैं, या कई विंडो में Claude का उपयोग करते हैं, तो एक लाइव-कॉन्टेक्स्ट फ़ाइल बनाएँ। प्रत्येक सत्र अंत में इसमें जोड़ता है और शुरुआत में इसे पढ़ता है।

चरण 3: एक प्रतिधारण नियम। जब कोई सत्र ऐसा निर्णय उत्पन्न करता है जो बचना चाहिए, तो इसे मैन्युअल रूप से इंडेक्स में लिखें। इसे तब तक हाथ से करें जब तक आप पैटर्न पर भरोसा न करें। फिर फ़्लैगिंग को स्वचालित करें।

चरण 4: प्रति तथ्य फ़ाइल, एक बड़ा दस्तावेज़ नहीं। इंडेक्स अलग-अलग फ़ाइलों की ओर इशारा करता है। यह दूसरों को छुए बिना पुरानी मेमोरी को हटाना आसान बनाता है।

पूर्ण 4-लेयर स्टैक को स्थिर होने में लगभग 6 महीने लगे। लेयर 1 और 3 में एक सप्ताहांत लगा। वहाँ से शुरू करें।

निष्कर्ष

अधिकांश एजेंट मेमोरी सेटअप अतिरिक्त चरणों के साथ कॉन्टेक्स्ट-विंडो प्रबंधन हैं। वे तब तक काम करते हैं जब तक विंडो रीसेट न हो या आप दूसरा एजेंट न जोड़ें।

टिकाऊ एजेंट मेमोरी एक बुनियादी ढाँचे की समस्या है, प्रॉम्प्टिंग की समस्या नहीं। उत्तर विभिन्न समय क्षितिज वाली कई लेयर हैं: सत्र के भीतर संदर्भ, क्रॉस-सेशन तथ्य, साझा स्थिति, खोजने योग्य ज्ञान।

हमारा सब कुछ सादा मार्कडाउन है। कोई वेक्टर डेटाबेस नहीं। कोई एम्बेडिंग नहीं। कोई रीट्रेनिंग नहीं। बस फ़ाइलें जिन्हें मैं खोल, संपादित और डीबग कर सकता हूँ।

जो एजेंट वास्तव में उपयोगी हैं, वे वे नहीं हैं जिनके पास सबसे बड़ी कॉन्टेक्स्ट विंडो है। वे हैं जो याद रखते हैं कि क्या मायने रखता है और भूल जाते हैं कि क्या नहीं।

यदि आप ऐसे एजेंट बना रहे हैं जिन पर आप वास्तविक काम के लिए भरोसा करना चाहते हैं, तो अधिक टूल जोड़ने से पहले मेमोरी आर्किटेक्चर से शुरू करें।

संदर्भित टूल

Hindsight (स्थानीय मेमोरी प्रतिधारण): https://github.com/vectorize-io/hindsight

gbrain (संकलित विकी / सिमैंटिक सर्च): https://github.com/garrytan/gbrain

OpenClaw (एजेंट रनटाइम): https://openclaw.ai

Hermes (एजेंट रनटाइम): hermes-agent.nousresearch.com

एक क्लिक में सहेजें

YouMind में वायरल लेखों की AI गहन पढ़ाई

स्रोत सहेजें, केंद्रित सवाल पूछें, तर्क का सारांश बनाएँ और एक वायरल लेख को एक ही AI वर्कस्पेस में दोबारा इस्तेमाल करने लायक नोट्स में बदलें।

YouMind देखें
क्रिएटर्स के लिए

अपने Markdown को एक साफ़-सुथरे 𝕏 आर्टिकल में बदलें

जब आप अपना लंबा कंटेंट पब्लिश करते हैं, तो इमेज, टेबल और कोड ब्लॉक को 𝕏 के लिए फ़ॉर्मेट करना मुश्किल होता है। YouMind पूरे Markdown ड्राफ़्ट को एक साफ़-सुथरे, पोस्ट के लिए तैयार 𝕏 आर्टिकल में बदल देता है।

Markdown से 𝕏 आज़माएँ

समझने के लिए और पैटर्न

हाल के वायरल लेख

और वायरल लेख देखें