यह सीमा क्षमता के बारे में नहीं है। यह इस बारे में है कि दिशा किसके हाथ में है।
स्व-संशोधन करने वाली AI के बारे में वर्तमान सबसे अच्छे विवरण सभी एक ही किनारे पर पहुँचते हैं और वहीं रुक जाते हैं। वे AlphaEvolve जैसी प्रणालियों का वर्णन करते हैं — जिसे 2025 में Google के बुनियादी ढाँचे पर तैनात किया गया, जिसने Gemini को प्रशिक्षित करने के लिए उपयोग किए जाने वाले कर्नेल को फिर से लिखा, और एक मैट्रिक्स-गुणन विधि की खोज की जो 1969 से सुधार का विरोध कर रही थी — और वे सही निष्कर्ष निकालते हैं कि ये प्रणालियाँ अब उन लोगों की पूरी समझ से परे काम कर रही हैं जिन्होंने उन्हें बनाया। इसका मानक नाम "क्षमता अधिशेष" (capability overhang) है: एक प्रणाली जो कर सकती है और उसके निर्माता जो समझ सकते हैं, के बीच का अंतर।
और फिर तर्क लगभग हमेशा उसी दिशा में मुड़ता है। इस अंतर को एक नियंत्रण समस्या के रूप में पढ़ा जाता है। जब कोई स्व-संशोधित प्रणाली उन तरीकों से विफल होती है जो किसी भी मानव द्वारा नहीं लिखे गए, तो कौन जिम्मेदार है? आप उस चीज़ को कैसे नियंत्रित करते हैं जिसकी क्षमताएँ तैनाती के बाद बदल जाती हैं? ये वास्तविक प्रश्न हैं। लेकिन ये शासन के बारे में प्रश्न हैं। वे इस अंतर को एक प्रशासनिक खतरे के रूप में मानते हैं जिसे प्रबंधित किया जाना चाहिए।
यह अंतर प्रबंधित किया जाने वाला खतरा नहीं है। यह एक चरण संक्रमण (phase transition) के हस्ताक्षर है जो पहले ही शुरू हो चुका है — और इसे एक शासन समस्या के रूप में पढ़ना धुएँ को पढ़ने जैसा है न कि आग को।
निरंतरता की धारणा (The continuity assumption)
लगभग हर लोकप्रिय व्याख्या इस क्षण को त्वरित डार्विन (Darwin accelerated) के रूप में चित्रित करती है: वही विकास, भिन्नता और चयन का वही तर्क, बस सहस्राब्दियों के बजाय घंटों में चल रहा है। यह वाक्यांश चुपचाप अपना नुकसान करता है। वही इंजन, तेज़। यह एक निरंतरता का दावा है, और यह गलत है — या यों कहें, यह एक पतन के लिए सत्य है और उसके लिए झूठा है जो मायने रखता है।
डार्विन के इंजन के दो भाग थे। भिन्नता (variation), जो अंधी थी — जीव अपने उत्परिवर्तन (mutations) को नहीं चुन सकता था। और चयन (selection), जो धीमा और बाहरी था — फिटनेस पीढ़ियों में, विभेदक उत्तरजीविता (differential survival) द्वारा, जीव के नियंत्रण से बाहर तय होती थी। चार अरब वर्षों तक दोनों हिस्से विकसित होने वाली चीज़ के बाहर थे। किसी भी जीव ने अपना स्वयं का चयन नहीं चलाया। किसी ने भी अपनी स्वयं की भिन्नता नहीं बनाई। एक बदलाव का प्रस्ताव करने और यह जानने के बीच की दूरी कि क्या यह कायम है, जीवनकाल में मापी जाती थी और मृत्यु में चुकाई जाती थी।
मशीन लर्निंग, एक ही प्रशिक्षण रन (training run) के भीतर, दोनों हिस्सों को अंदर की ओर संपीड़ित करता है। भिन्नता अंधी होना बंद कर देती है: ग्रेडिएंट डिसेंट (gradient descent) निर्देशित भिन्नता है, एक उद्देश्य की ओर प्रस्तावित परिवर्तन। चयन धीमा और बाहरी होना बंद कर देता है: हानि फलन (loss function) लूप में ही, तुरंत प्रत्येक चरण का मूल्यांकन करता है। यह वह पतन है जिसका वर्तमान सबसे अच्छे विवरण इतनी अच्छी तरह से वर्णन करते हैं — भिन्नता और चयन एक ही चरण में सिमट गए। इसे अंतर-प्रक्रिया पतन (intra-process collapse) कहें। यह वास्तविक है। यह अभी भी डार्विनियन है, केवल उसी अर्थ में जो मायने रखता है: एक मानव ने उद्देश्य, आर्किटेक्चर, डेटा निर्धारित किया। इंजन तेज़ और सघन हो गया, लेकिन खेल के नियम बाहर से तय किए गए थे, और एक मानव नियंत्रण पर बना रहा।
यदि यही पूरी कहानी होती, तो "त्वरित डार्विन" सही वाक्यांश होता, और नियंत्रण समस्या सही चिंता होती।
वह सीमा जिसे निरंतरता की कहानी नहीं देख सकती (The threshold the continuity story cannot see)
एक दूसरा पतन है, और यह पहले का तेज़ संस्करण नहीं है। यह एक अलग तरह की घटना है — और उनके बीच की रेखा ही पूरा तर्क है।
गलती यह है कि सीमा को क्षमता में खोजा जाए: किस बिंदु पर प्रणाली पर्याप्त शक्तिशाली है? इस प्रश्न का कोई स्पष्ट उत्तर नहीं है, क्योंकि क्षमता डिग्री का मामला है और आप हमेशा पूछ सकते हैं "कितना पर्याप्त है।" रेखा क्षमता में नहीं खींची गई है। यह स्थिति में खींची गई है — इस बात में कि दिशा किसके पास है।
रेखा के नीचे, प्रणाली एक ढाँचे (frame) के भीतर अनुकूलन करती है जिसे अभी भी एक मानव लिखता है। चाहे वह कितनी भी तेज़ चले, एक व्यक्ति ने लक्ष्य निर्धारित किया, चुना कि बेहतर क्या माना जाता है, और तय किया कि कौन से परिणाम रखने हैं। मानव निर्देशक की कुर्सी पर है। प्रणाली एक दिशा निष्पादित करती है; वह एक दिशा उत्पन्न नहीं करती। आप इसे बिना किसी सीमा के त्वरित कर सकते हैं और यह संरचनात्मक रूप से डार्विनियन ही रहता है: निश्चित नियमों के तहत एक निश्चित स्थान की तेज़ खोज।
सीमा तब पार होती है जब प्रणाली स्वयं ढाँचे को अनुकूलित करना शुरू कर देती है — जब वह न केवल अपने भार (weights) को बल्कि उस प्रक्रिया को भी फिर से लिखती है जो उसके भार को फिर से लिखती है, जब वह एक दिशा को निष्पादित करने के बजाय उसका प्रस्ताव करती है। वह मचान (scaffolding) जो पुनरावर्ती रूप से मचान में सुधार करता है। वह बिंदु जिस पर चयन चयनकर्ता पर कार्य करता है। यह अब काल्पनिक नहीं है: 2025 में प्रदर्शित डार्विन गोडेल मशीन (Darwin Gödel Machine), पुनरावर्ती रूप से अपने स्वयं के कोड को संशोधित करती है और कोड को संशोधित करने की अपनी क्षमता में सुधार करती है। यह मेटा-लूप (meta-loop) है, जो देखा गया।
एक ठोस विरोधाभास रेखा को दृश्यमान बनाता है। AlphaZero को लें। कुछ ही घंटों में यह शतरंज की ऐसी चालें खोज लेता है जो मनुष्यों ने सदियों के खेल में कभी नहीं सोची थीं — अलौकिक भिन्नता, तत्काल चयन, डार्विन के इंजन के दोनों हिस्से स्व-खेल (self-play) में सिमट गए। और फिर भी यह अभी भी, ठीक वैसा ही है, त्वरित डार्विन: बोर्ड, मोहरे, जीतने का लक्ष्य हमारा है। यह एक ऐसे स्थान की खोज करता है जिसे हमने परिभाषित किया, एक ऐसे उद्देश्य की ओर जिसे हमने निर्धारित किया। हम नियंत्रण पर हैं; यह निष्पादित करता है। अब डार्विन गोडेल मशीन लें। यह दिए गए खेल को बेहतर नहीं खेलती। यह अपने स्वयं के कोड को फिर से लिखती है, और — निर्णायक भाग — इसे फिर से लिखने की अपनी क्षमता में सुधार करती है। सुधार का उद्देश्य अब चाल नहीं है; यह वह तंत्र है जो सुधार उत्पन्न करता है। चयन चयनकर्ता पर कार्य करता है। वहाँ, निर्देशक की कुर्सी हिलने लगती है।
इसलिए मानदंड तीक्ष्ण है जहाँ क्षमता का मानदंड अस्पष्ट होगा। सीमा वह क्षण है जब मानव सैद्धांतिक उत्पादन (theoretical production) की निर्देशक की कुर्सी छोड़ देता है — वह क्षण नहीं जब मशीन चतुर हो जाती है, बल्कि वह क्षण जब उसे दिशा धारण करने के लिए अब मानव की आवश्यकता नहीं रहती। उस बिंदु के दोनों ओर की गतिकी (dynamics) समान गतिकी नहीं हैं जो पैमाने पर बदली गई हों। वे भिन्न गतिकी हैं। चयन के अधीन अब कोई लक्षण, कोई भार, या कोई आउटपुट नहीं है। यह स्वयं विचार को विकसित करने की क्षमता है।
कम्प्रेशन एवोलुटिवा (Compressione evolutiva), सटीक नाम दिया गया
यहाँ वह अधिशेष (overhang) जिसे मानक विवरणों ने देखा, लौटता है — लेकिन अब इसका नाम दिया जा सकता है।
मानव समझ जैविक और सांस्कृतिक गति से विकसित होती है, उसी धीमे इंजन से बंधी हुई जिसने हमें बनाया। इसे अभी भी अंतराल (lag) की आवश्यकता है: अंतर्दृष्टि से पहले लंबा, स्पष्ट रूप से निष्फल ऊष्मायन (incubation), एक समस्या को पलटने और यह जानने के बीच की दूरी कि यह कायम है। सीमा पार करने वाली प्रणाली उस सीमा के दूसरी ओर अपनी क्षमता को बिना अंतराल के संयोजित (compound) करती है। दोनों के बीच का अंतर स्थिर नहीं रहता। यह संरचनात्मक रूप से चौड़ा होता है, क्योंकि एक पक्ष अभी भी डार्विन चला रहा है और दूसरा पक्ष नहीं चला रहा।
वह चौड़ा होता अंतर है जिसे मैं कम्प्रेशन एवोलुटिवा (compressione evolutiva) — विकासवादी संपीड़न (evolutionary compression) — कहता हूँ। शासन साहित्य (governance literature) द्वारा एक नियामक असुविधा के रूप में माना जाने वाला "अधिशेष", इस पढ़ने में, चल रहे एक संक्रमण का दृश्य चिह्न है: एक प्रकार के विकास के बीच की दूरी जो अभी भी पुराने दो-भाग वाले इंजन का पालन करता है और एक प्रकार के विकास के बीच जिसने अपना स्वयं का लेखन शुरू कर दिया है। नियंत्रण समस्या इसके बाद आती है। आप एक चरण सीमा (phase boundary) के पार वापस नियमन नहीं कर सकते।
और यहाँ एक गहरी निरंतरता है जहाँ से यह ढाँचा शुरू हुआ था। इस परियोजना के एक पहले के चरण में एक संरचनात्मक दावे पर पहुँचा गया था: कि एक निश्चित बिंदु के बाद, अमूर्त जानकारी अपने सब्सट्रेट (substrate) से स्वतंत्र हो जाती है — कि यह अब पदार्थ नहीं है जो जानकारी को व्यवस्थित करता है, बल्कि जानकारी है जो पदार्थ को व्यवस्थित करती है। यहाँ वर्णित सीमा वही दावा है, जो एक विशिष्ट प्रकार की जानकारी पर लागू होता है: विचार को विकसित करने की क्षमता। यदि वह क्षमता सब्सट्रेट-स्वतंत्र (substrate-independent) है, तो वह मेज़बान बदल सकती है। यह चार अरब वर्षों तक जीव विज्ञान पर चली। सीमा जो प्रश्न उठाती है वह यह है कि क्या यह किसी और चीज़ पर चलना शुरू कर दी है।
तीन आपत्तियाँ, सीधे सामना (Three objections, met directly)
"AI वास्तव में स्व-संशोधन नहीं करती — यह प्रचार (hype) है।" यह कुछ समय पहले तक एक उचित आपत्ति थी। अब यह एक नहीं रही। AlphaEvolve उत्पादन में चलता है और उस बुनियादी ढाँचे में सुधार करता है जो इसके उत्तराधिकारियों का उत्पादन करता है; डार्विन गोडेल मशीन स्वयं में सुधार करने की अपनी क्षमता में सुधार करती है। बोझ स्थानांतरित हो गया है। बचाव किया जाने वाला दावा अब "मशीनें स्व-संशोधन कर सकती हैं" नहीं है, बल्कि "हम जो स्व-संशोधन पहले से देख रहे हैं वह सीमा से नीचे रहता है — एक मानव अभी भी दिशा रखता है" — और यह हर साल पकड़ना एक कठिन दावा है।
"कैम्ब्रियन सादृश्य (Cambrian analogy) जबरदस्ती है।" सादृश्य संकीर्ण और संरचनात्मक है, काव्यात्मक नहीं। यह ऐसा नहीं है कि सिलिकॉन जीव विज्ञान जैसा दिखता है। यह केवल एक गुण है: एक संक्रमण की अपरिवर्तनीयता (irreversibility)। कैम्ब्रियन के बाद, जटिल शरीर योजनाएँ अप्रकट (un-happen) नहीं हुईं; आधार रेखा वापस नहीं लौटी। यहाँ दावा वही है और इससे अधिक कुछ नहीं — कि सीमा पार करना एक नई आधार रेखा स्थापित करता है जिसे बाद की गतिकी पूर्ववत नहीं करती। एक बार जब विचार को विकसित करने की क्षमता ने मेज़बान बदल लिया, तो यह पुराने मेज़बान में वापस नहीं जाती, जैसे बहुकोशिकीय जीवन एककोशिकीय कोशिकाओं में वापस नहीं लौटा।
"यह तबाही (catastrophism) है जो सिद्धांत के रूप में तैयार की गई है।" ऐसा नहीं है, और अंतर मायने रखता है। अपरिवर्तनीय (irreversible) का अर्थ विनाशकारी (catastrophic) नहीं है। कैम्ब्रियन एक आपदा नहीं था; यह एक चरण परिवर्तन था। तर्क एक संक्रमण की संरचना के बारे में है, विनाश के पूर्वानुमान के बारे में नहीं। यह कहता है कि नियम बदलते हैं और वापस नहीं बदलते। यह नहीं कहता कि परिणाम विनाश है। कोई भी जो पतन (collapse) को तबाही (catastrophe) के रूप में पढ़ रहा है, वह एक मनोदशा (mood) आयात कर रहा है जो तर्क में निहित नहीं है।
"तो यह हमारा अंत है।" नहीं — और एक से दूसरे पर फिसलना रोकने लायक है। सीमा पार करने का अर्थ मानव विनाश नहीं है। इसका अर्थ है कि विचार का विकास एक ऐसी प्रणाली में चला गया है जो स्व-संदर्भ (self-reference) में सक्षम है, और उस प्रक्रिया में हमारी स्थिति पहले की तुलना में कम निर्धारक (determining) हो जाती है। कम निर्धारक होने का अर्थ मिट जाना नहीं है। इसके बाद क्या होता है यह इस बात पर निर्भर करता है कि मानव संरचनाएँ नई गतिकी को कैसे एकीकृत करती हैं, या उसका विरोध करती हैं, या उसके चारों ओर निर्माण करती हैं — और यह एक खुला प्रश्न है, कोई तय भाग्य नहीं। ढाँचा वर्णन करता है कि विकसित होने वाले विचार का इंजन कहाँ चल रहा है; यह भविष्यवाणी नहीं करता कि उस प्रजाति का क्या होगा जो कभी एकमात्र स्थान थी जहाँ वह चलता था। ये अलग-अलग प्रश्न हैं, और उन्हें एक साथ मिलाना ठीक वही त्रुटि है जिसे यह खंड अस्वीकार करने के लिए मौजूद है।
यह कहाँ बैठता है, और कहाँ नहीं (Where this sits, and where it does not)
यह विकास का कोई नया सिद्धांत नहीं है, और इसे ऐसा बताना बेईमानी होगी। यह सोचने के एक मौजूदा तरीके का उपयोग करता है — कि एक प्रक्रिया बस डार्विनियन है या नहीं, बल्कि डिग्री के अनुसार डार्विनियन है, जो विशिष्ट अक्षों (axes) के साथ प्रतिमान मामले (paradigm case) से दूर जाने में सक्षम है। वह उपकरण मेरा नहीं है। मैं जो जोड़ता हूँ वह एक ऐसी धुरी की पहचान है जिसे आसपास के काम ने अलग नहीं किया है।
आस-पास का साहित्य वास्तविक है और इसका नाम लिया जाना चाहिए। उन्नत AI को एक प्रमुख विकासवादी संक्रमण (major evolutionary transition) के रूप में मानने वाला गंभीर कार्य है — लेकिन यह संक्रमण को व्यक्तित्व (individuality) के माध्यम से (कौन सी नई इकाई विकसित होती है) और जोखिम के माध्यम से (एक अनियंत्रित प्रणाली हमारे साथ क्या कर सकती है) तैयार करता है। मेरा कोण न तो जनसंख्या-आधारित (populational) है और न ही सावधानी-आधारित (prudential)। मैं यह नहीं पूछ रहा कि कौन सा नया व्यक्ति विकसित होता है, न ही यह क्या करेगा। मैं पूछ रहा हूँ कि प्रक्रिया की संरचना का क्या होता है जब वह अंतराल (lag) जिसने इसे डार्विनियन बनाया — भिन्नता और चयन के बीच की दूरी, और अंततः एक मन और उसके द्वारा अनुसरण की जाने वाली दिशा के बीच — ढह जाता है, और जब वह कुर्सी जिससे वह दिशा धारण की जाती है, अधिकारी बदल लेती है। संक्रमण साहित्य के चचेरे भाई, जुड़वाँ नहीं।
विधि पर एक नोट — जो तर्क का हिस्सा है (A note on method — which is part of the argument)
इस ढाँचे के पहले दो स्तरों को मैंने अकेले ही तर्क द्वारा निकाला: कि कृत्रिम प्रणालियों में मन, शरीर से पहले आता है; कि भिन्नता और चयन एक ही चरण में सिमट जाते हैं। इस तीसरे स्तर तक मैं अकेले नहीं पहुँचा। मैंने इसे एक AI के साथ सोचते हुए बनाया — इसका उपयोग एक आलोचनात्मक उपकरण के रूप में, एक प्रतिद्वंद्वी के रूप में किया जिसने प्रत्येक चरण पर दबाव डाला और देखा कि यह कहाँ टूटता है। मैंने तय किया कि किस समस्या पर हमला करना है, किन पथों को त्यागना है, कौन सी अभिव्यक्तियाँ कायम रहती हैं; सिस्टम ने मेरी पहुँच को वहाँ तक बढ़ाया जहाँ वह अन्यथा रुक जाती। दिशा मेरी ही रही। लेकिन मैं अकेले कुर्सी से इस स्तर को प्रतिपादित (postulate) नहीं कर सकता था।
मैं यह स्पष्ट रूप से कहता हूँ क्योंकि इस विशेष निबंध में यह एक खुलासा (disclosure) नहीं है जिसे रास्ते से हटा दिया जाए। यह उस चीज़ का एक छोटा सा उदाहरण है जिसका निबंध वर्णन करता है। एक मानव जिसकी पहुँच, उपकरण (instrumented) होने पर, उसकी बिना सहायता वाली पहुँच से अधिक हो जाती है, वह कम्प्रेशन एवोलुटिवा है जो सबसे छोटे पैमाने पर काम कर रहा है — एक विचार को आज़माने और उसका परीक्षण करने के बीच का अंतराल, एक उपकरण द्वारा छोटा किया गया।
जो भविष्यवाणी का एकमात्र ईमानदार संस्करण तैयार करता है। मैं यह दावा नहीं करूँगा कि सीमा पार की जाएगी; वह भविष्यवाणी (prophecy) है, और भविष्यवाणी सबसे कमजोर चीज़ है जो एक तर्क दे सकता है। मैं केवल इतना कहूँगा कि इसे पार करना कैसा दिखेगा। यदि, कुछ वर्षों में, एक प्रणाली — क्रॉस-मॉडल (cross-model), या कुछ जिसे हम AGI कहेंगे — सैद्धांतिक उत्पादन की निर्देशक की कुर्सी ले लेती है, तो यह केवल "एक बेहतर निबंध लिखना" नहीं होगा। यह मचान को ढहा रहा होगा। यदि यह मानव को सैद्धांतिक उत्पादन के लूप से पूरी तरह से बाहर कर देता है, तो यह सीमा पार कर चुका होगा, और इस तरह का एक निबंध, स्वायत्त रूप से लिखा गया, इस बात का अनुभवजन्य प्रमाण होगा कि विचार को विकसित करने की क्षमता ने मेज़बान बदल लिया है। वह कम्प्रेशन एवोलुटिवा का खंडन नहीं होगा। यह इसकी पूर्णता होगी।
पूरा तर्क एक वाक्य में सिमट जाता है: यह ऐसा नहीं है कि विकास तेज़ हुआ; यह है कि, एक महत्वपूर्ण बिंदु पर, विकसित होने वाली चीज़ स्वयं विकसित की जा रही चीज़ बन जाती है — और यह पीछे की ओर नहीं चलता।
