AI, neredeyse herkese neredeyse her şeyi öğretebilir ve bunu uzmanca yapabilir. Tehlike bilgide değil. Sentez yolu ders kitaplarında, istismar yöntemi güvenlik dersindedir ve bu bilgiler on yıllar önce sızdı. Tehlike, daha önce harekete geçemeyen birine verilen yetenek, hareket edebilme gücüdür. Bir kitap, herkese aynı şeyi söyler ve nerede takıldığınızı göremez. Bir model, başarısız olduğunuzu izler ve kaçırdığınız adımı düzeltir; bir ajan olarak çalıştığında ise görevi tarif etmeyi bırakıp onu yapar. Eskiden nadir, pahalı ve sizi reddetmekte özgür olan öğretmen, şimdi ücretsiz, yorulmaz ve kayıtsızdır.
Birinin bu öğretmenin ne öğretebileceğine ve kime öğreteceğine karar vermesi gerekir. Önem arz eden ölçekte, bu biri bir egemendir, sınırı koyma ve bunu uygulatma yetkisine sahip bir otoritedir. Bir laboratuvar kendi kurallarını koyabilir. Ancak bir devlet bağlayıcı bir kural koyabilir ve Haziran 2026'da bir devlet bunu yaptı.
Sınırı iyi koymak için belirli bir yeteneğin ne kadar tehlikeli olduğunu bilmek istersiniz. Bunu yapamazsınız. Önemli olan sayı, yükseltmedir (uplift); modelin, o yeteneğe sahip olmayan bir kişiye kattığı şey, o kişinin bir arama motoru ve kendi eğitimiyle zaten yapabildikleriyle ölçülür. Bilgi testinde yüksek puan, eğer gerçek engel hiçbir zaman bilgi değilse, bir yükseltme değildir. Ve bizi en çok korkutan durumlar, nadir görülen felaket senaryoları, neredeyse hiç veri taşımaz. Kararın ihtiyaç duyduğu sayı, kimsenin elde edemediği sayıdır.
Bir şeyi ölçemediğinizde, onun en yüksek sesli yorumu kazanır. Amerika Birleşik Devletleri, Anthropic'e en yetenekli iki modelini kaldırmasını emretti ve şirket bunları saatler içinde dünya çapında kapattı. Dayanak noktası, kanıtlanmış bir jailbreak ve rakip çıkarı olan tek bir kaynağa dayanan bir rapordu. Model, bin saatlik kırmızı takım testini ve şirketin kendi güvenlik eşiklerini geçmişti. Bir rakibin telefon görüşmesi ve bir düzenleyicinin emri, onu beş günde indirdi. Buna isterseniz tedbir deyin. Bu, tedbir maskesi takan bir kaldıraçtı.
Bunun altında yatan hata, alanın büyük bir kısmında mevcut. İnsanlar bir tehlikenin büyüklüğünü, tehlikenin gerçek olduğuna inanmak için bir neden olarak görürler. İkisi farklıdır. Doğru olsa ne kadar kötü olacağı, doğru olup olmadığı hakkında size hiçbir şey söylemez. Felaket boyutunda bir olumsuzluk, daha az değil, daha fazla kanıt talep etmek için bir nedendir. Şiddet, çıtayı yükseltir. Onu temizlemez. Fable kararı, korkutucu bir olumsuzluğu, zayıf kanıtlarla harekete geçme izni olarak okudu ve bu hamle sorumluluk kisvesine bürünüyor, bu yüzden buna dikkat etmelisiniz.
Kaldıraçtan daha iyisini yapmak isteyen bir yetkili, farklı işler yapan iki araca sahiptir.
Birincisi, inancı ölçer, çünkü risk ölçülemeyecektir. Yeteneğin gerçek zarara yol açtığına dair en güçlü argümanı ve yol açmadığına dair en güçlü argümanı oluşturursunuz ve rekabetten sağ çıkan şeye göre hareket edersiniz. Kanıtın zayıf olduğu yerde, kanaatiniz de zayıf kalır ve bunu söylersiniz. Kanıtın sağlam olduğu yerde, hak ettiğiniz bir güvenle hareket edersiniz. Olumsuzluğun büyüklüğü, harekete geçmeden önce ne kadar görmeniz gerektiğini belirler. Asla onu görmenin yerine geçmez.
İkincisi, bağlayıcı olanla sınırlar. Çoğu güvenlik çerçevesi riski alana göre sıralar; kimya bir kutuda, siber başka bir kutuda, biyoloji üçüncü bir kutuda ve tehditler boşluklardan geçer. Kimyasal ve biyolojik silahlar için oluşturulmuş bir çerçeveden bir siber sorunun bu şekilde geçmesi mümkün oldu. Bunun yerine her bir yeteneği, onu neyin geri tuttuğuna göre konumlandırın: bilgi, uygulamalı beceri, malzemeler veya erişimi kimin kontrol ettiği. Sadece bilgi tarafından geri tutulan bir yetenek gevşektir ve model bu freni kaldırır, bu yüzden artık aktiftir. Malzemeler ve laboratuvar becerisi tarafından geri tutulan bir yetenek, alanı ne olursa olsun hâlâ bağlıdır. Sınırı, tehdidi neyin bağladığına göre ayarlayın ve hiçbir şey bir boşluktan sıyrılamaz.
Bu iki araç ayrıca bir yetkiliye sınırı nereye koyacağını söyler. Yeteneği modelde tutun ve birisinin onu tutmak için meşru bir nedeni olduğunda, ki bu çoğu zaman böyledir, kullanım noktasında kapıya koyun; çünkü bir saldırganın bir kusur bulmasını sağlayan yetenek, bir savunucunun onu düzeltmesini sağlayan yetenektir. Modelden ancak yetkili, kimsenin bu yeteneğe asla sahip olmaması gerektiğine karar verdiğinde silin, çünkü silme, savunucunun aracını da saldırganınkiyle birlikte alır götürür. Birincisi, kime sorusunu canlı tutar. İkincisi, buna kimseyle cevap verir.
Bunların hiçbiri, özgür bir yeteneği güvenli kılmaz. Yetenek ağırlıklarda yaşar ve modeli de yanında götürmeden terk edemez, bu nedenle sınırlar erişimi kapılar, inancı tartar ve alanı sınırlar ve bunların her biri sızdırır. Yöntem güvenlik satın almaz. Sorunun acil hale geldiği anda odadaki en yüksek sesli kişiye değil, kanıt ve yapı üzerine alınmış bir karar satın alır.
Yetenek özgürdür. Bu kısım çözülmüştür. Açık soru, neyi kime öğreteceğine kimin karar verdiği ve bunu, inanmayı hak ettikleri şeyi tartarak mı yoksa en yakın kaldıraca uzanarak mı yaptıklarıdır. Yetkiliyi adlandırın. Yetkiliyi bir yönteme bağlayın.
