AI लगभग किसी को भी लगभग कुछ भी सिखा सकता है, और वह भी विशेषज्ञता के साथ। खतरा जानकारी में नहीं है। संश्लेषण का मार्ग पाठ्यपुस्तकों में है और शोषण सुरक्षा पाठ्यक्रम में है, और वह जानकारी दशकों पहले लीक हो चुकी है। खतरा क्षमता में है, कार्रवाई करने की योग्यता में, जो किसी ऐसे व्यक्ति को दी जा रही है जो पहले कार्रवाई नहीं कर सकता था। एक किताब आपको वही बताती है जो वह सभी को बताती है और यह नहीं देख सकती कि आप कहाँ अटके हैं। एक मॉडल आपको असफल होते देखता है और आपके छूटे हुए कदम को ठीक करता है, और जब यह एक एजेंट के रूप में चलता है तो यह कार्य का वर्णन करना बंद कर देता है और उसे कर देता है। वह ट्यूटर जो पहले दुर्लभ, महंगा और आपको मना करने के लिए स्वतंत्र था, अब मुफ्त, अथक और उदासीन है।
किसी को यह तय करना होगा कि वह ट्यूटर क्या सिखा सकता है, और किसे सिखा सकता है। उस पैमाने पर जो मायने रखता है, वह कोई संप्रभु होता है, एक प्रिंसिपल जिसके पास सीमा निर्धारित करने और उसे लागू करने की शक्ति होती है। एक प्रयोगशाला घरेलू नियम निर्धारित कर सकती है। केवल एक राज्य एक बाध्यकारी नियम निर्धारित कर सकता है, और जून 2026 में एक राज्य ने ऐसा किया।
सीमा को अच्छी तरह से निर्धारित करने के लिए आपको यह जानना होगा कि कोई दी गई क्षमता कितनी खतरनाक है। आप नहीं जान सकते। जो संख्या मायने रखती है वह है उत्थान (uplift), मॉडल उस व्यक्ति में क्या जोड़ता है जिसके पास इसकी कमी थी, जो उस व्यक्ति पहले से सर्च इंजन और अपने स्वयं के प्रशिक्षण से कर सकता था, उसके सापेक्ष मापा जाता है। ज्ञान परीक्षण में उच्च अंक उत्थान नहीं है यदि वास्तविक बाधा कभी ज्ञान नहीं थी। और जो मामले हमें सबसे अधिक डराते हैं, वे दुर्लभ विनाशकारी मामले, लगभग कोई डेटा नहीं रखते हैं। निर्णय के लिए जिस संख्या की आवश्यकता है, वह वह संख्या है जो कोई प्राप्त नहीं कर सकता।
जब आप किसी चीज़ को माप नहीं सकते, तो उसकी सबसे जोरदार रीडिंग जीतती है। संयुक्त राज्य अमेरिका ने एन्थ्रोपिक (Anthropic) को अपने दो सबसे सक्षम मॉडलों को हटाने का आदेश दिया, और कंपनी ने उन्हें घंटों के भीतर दुनिया भर में बंद कर दिया। आधार एक प्रदर्शित जेलब्रेक और एक रिपोर्ट थी जो एक प्रतिस्पर्धी हित वाले एकल स्रोत से आई थी। मॉडल ने एक हजार घंटे की रेड टीमिंग और कंपनी के अपने सुरक्षा मानकों को पार कर लिया था। एक प्रतियोगी के फोन कॉल और एक नियामक के आदेश ने इसे पांच दिनों में हटा दिया। इसे सावधानी कहें यदि आप चाहते हैं। यह सावधानी का चेहरा पहने हुए लीवरेज था।
इसके नीचे का दोष अधिकांश क्षेत्र में चलता है। लोग किसी खतरे के आकार को इस बात का कारण मानते हैं कि खतरा वास्तविक है। दोनों अलग हैं। यह कितना बुरा होगा यदि यह सच है, यह आपको इस बारे में कुछ नहीं बताता कि यह सच है या नहीं। एक विनाशकारी नुकसान कार्रवाई करने से पहले अधिक सबूत की मांग करने का एक कारण है, कम का नहीं। गंभीरता बार को ऊपर उठाती है। यह इसे साफ नहीं करती। फेबल आदेश (Fable order) ने एक भयावह नुकसान को पतले सबूत पर कार्रवाई करने की अनुमति के रूप में लिया, और वह कदम जिम्मेदारी के रूप में गुजरता है, यही कारण है कि आप इस पर नजर रखते हैं।
एक प्रिंसिपल जो लीवरेज से बेहतर करना चाहता है, उसके पास दो उपकरण हैं, और वे अलग-अलग काम करते हैं।
पहला विश्वास को मापता है, क्योंकि जोखिम को मापा नहीं जाएगा। आप सबसे मजबूत मामला बनाते हैं कि क्षमता वास्तविक नुकसान को सक्षम करती है, और सबसे मजबूत मामला कि यह नहीं करती, और आप उस पर कार्य करते हैं जो प्रतियोगिता में बचता है। जहां सबूत पतला है, वहां आपका विश्वास पतला रहता है, और आप ऐसा कहते हैं। जहां यह ठोस है, वहां आप उस आत्मविश्वास के साथ आगे बढ़ते हैं जो आपने अर्जित किया है। नुकसान का आकार यह निर्धारित करता है कि कार्रवाई करने से पहले आपको कितना देखना होगा। यह कभी भी उसे देखने के स्थान पर खड़ा नहीं होता।
दूसरा उस चीज़ से बाध्य करता है जो बांधती है। अधिकांश सुरक्षा ढाँचे जोखिम को डोमेन द्वारा क्रमबद्ध करते हैं, रसायन विज्ञान एक बॉक्स में, साइबर दूसरे में, जीव विज्ञान तीसरे में, और खतरे सीमाओं से गिर जाते हैं। इस तरह एक साइबर समस्या एक ढाँचे के पास से चली गई जो रासायनिक और जैविक हथियारों के लिए बनाया गया था। इसके बजाय प्रत्येक क्षमता को उस चीज़ से स्थान दें जो इसे रोकता है: ज्ञान, व्यावहारिक कौशल, सामग्री, या जो पहुँच को नियंत्रित करता है। एक क्षमता जो केवल ज्ञान द्वारा रोकी जाती है वह ढीली है, और मॉडल उस ब्रेक को हटा देता है, इसलिए यह अब सक्रिय है। एक क्षमता जो सामग्री और प्रयोगशाला कौशल द्वारा रोकी जाती है वह अभी भी बंधी हुई है, चाहे उसका डोमेन कुछ भी हो। सीमा को उस चीज़ से मेल करने के लिए निर्धारित करें जो खतरे को बांधता है, और कुछ भी अंतराल से नहीं फिसलता।
दो उपकरण एक प्रिंसिपल को यह भी बताते हैं कि सीमा कहाँ लगानी है। क्षमता को मॉडल में रखें और उपयोग के बिंदु पर इसे गेट करें जब किसी के पास इसे रखने का वैध कारण हो, जो कि ज्यादातर समय होता है, क्योंकि जो क्षमता एक हमलावर को दोष खोजने देती है, वही एक रक्षक को उसे ठीक करने देती है। मॉडल से इसे हटा दें केवल तब जब प्रिंसिपल ने तय कर लिया हो कि किसी को भी इसे कभी नहीं रखना चाहिए, क्योंकि हटाने से हमलावर के साथ-साथ रक्षक का उपकरण भी चला जाता है। पहला इस प्रश्न को जीवित रखता है कि किसको। दूसरा इसका उत्तर किसी को नहीं के साथ देता है।
इनमें से कोई भी एक मुक्त क्षमता को सुरक्षित नहीं बनाता। क्षमता वेट्स में रहती है और मॉडल को अपने साथ लिए बिना नहीं जा सकती, इसलिए सीमाएँ पहुँच को गेट करती हैं, विश्वास को तौलती हैं, और स्थान को बांधती हैं, और उनमें से हर एक लीक होता है। विधि सुरक्षा नहीं खरीदती। यह एक निर्णय खरीदता है जो सबूत और संरचना पर आधारित है, न कि उस पर जो कमरे में सबसे जोरदार है जब प्रश्न तत्काल हो जाता है।
क्षमता मुफ्त है। वह हिस्सा तय है। खुला प्रश्न यह है कि कौन तय करता है कि यह क्या सिखाती है, और किसे, और क्या वे उस चीज़ को तौलकर निर्णय लेते हैं जिसे वे विश्वास करने के अधिकार अर्जित कर चुके हैं या निकटतम लीवर तक पहुँचकर। प्रिंसिपल का नाम बताएँ। प्रिंसिपल को एक विधि पर बाध्य करें।
