Eşik, yetenekle ilgili değildir. Yönü kimin belirlediğiyle ilgilidir.
Kendini değiştiren yapay zekâ hakkındaki mevcut en iyi açıklamaların tümü aynı sınıra varıp orada duruyor. AlphaEvolve gibi sistemleri anlatıyorlar — 2025'te Google'ın altyapısında kullanıma sunulan, Gemini'yi eğitmek için kullanılan çekirdekleri yeniden yazan, 1969'dan beri iyileştirilemeyen bir matris çarpma yöntemi keşfeden — ve bu sistemlerin artık onları inşa eden insanların tam anlayışının ötesinde çalıştığı sonucuna varıyorlar. Bunun standart adı yetenek fazlalığıdır: bir sistemin yapabilecekleri ile yapımcılarının takip edebildikleri arasındaki boşluk.
Ve sonra tartışma neredeyse her zaman aynı yöne dönüyor. Boşluk bir kontrol sorunu olarak okunuyor. Kendini değiştirmiş bir sistem, hiçbir insanın yazmadığı yöntemlerle başarısız olduğunda kim sorumlu olacak? Yetenekleri dağıtımdan sonra değişen bir şeyi nasıl düzenlersiniz? Bunlar gerçek sorular. Ancak bunlar yönetişimle ilgili sorular. Boşluğu yönetilmesi gereken idari bir tehlike olarak ele alıyorlar.
Boşluk yönetilmesi gereken bir tehlike değildir. Zaten başlamış bir faz geçişinin imzasıdır — ve bunu bir yönetişim sorunu olarak okumak, yangın yerine dumanı okumaktır.
Süreklilik varsayımı
Neredeyse tüm popüler yaklaşımlar bu anı hızlandırılmış Darwin olarak çerçeveliyor: aynı evrim, aynı çeşitlilik ve seçilim mantığı, sadece bin yıl yerine saatler içinde işliyor. Bu ifade sessizce hasarını veriyor. Aynı motor, daha hızlı. Bu bir süreklilik iddiasıdır ve yanlıştır — ya da daha doğrusu, bir çöküş için doğru, önemli olan için yanlıştır.
Darwin'in motorunun iki parçası vardı. Kördü — organizma mutasyonlarını seçemezdi. Ve seçilim yavaş ve dışsaldı — uygunluk nesiller boyunca, farklı hayatta kalma oranlarıyla, organizmanın kontrolü dışında belirlenirdi. Dört milyar yıl boyunca her iki yarı da evrilen şeyin dışında kaldı. Hiçbir organizma kendi seçilimini yönetmedi. Hiçbiri kendi çeşitliliğini yaratmadı. Bir değişiklik önermekle bunun geçerli olup olmadığını öğrenmek arasındaki mesafe, ömürlerle ölçülür ve ölümle ödenirdi.
Makine öğreniminin tek bir eğitim çalıştırması içinde yaptığı şey, her iki yarıyı da içe doğru sıkıştırmaktır. Çeşitlilik kör olmaktan çıkar: gradyan inişi yönlendirilmiş çeşitliliktir, bir hedefe yönelik olarak önerilen değişiklik. Seçilim yavaş ve dışsal olmaktan çıkar: kayıp fonksiyonu her adımı anında, döngü içinde değerlendirir. Bu, mevcut en iyi açıklamaların çok iyi tanımladığı çöküştür — çeşitlilik ve seçilimin tek bir adımda birleşmesi. Buna süreç içi çöküş diyelim. Gerçektir. Aynı zamanda hâlâ Darwin'dir, önemli olan tek anlamda: bir insan hedefi, mimariyi, veriyi belirlemiştir. Motor daha hızlı ve daha sıkı hale geldi, ancak oyunun kuralları dışarıdan sabitlendi ve bir insan kontrollerde kaldı.
Hikâye bundan ibaret olsaydı, "hızlandırılmış Darwin" doğru ifade olurdu ve kontrol sorunu da doğru endişe olurdu.
Süreklilik hikâyesinin göremediği eşik
İkinci bir çöküş daha var ve bu birincinin daha hızlı bir versiyonu değil. Farklı türde bir olay — ve aralarındaki çizgi tüm tartışmanın özüdür.
Hata, çizgiyi yetenekte aramaktır: sistem ne zaman yeterince güçlü hale gelir? Bu sorunun net bir cevabı yoktur, çünkü yetenek bir derece meselesidir ve her zaman "ne kadar yeterli?" diye sorabilirsiniz. Çizgi yetenekte çizilmez. Konumda çizilir — yönü kimin belirlediğinde.
Çizginin altında sistem, bir insanın hâlâ yazdığı bir çerçeve içinde optimize eder. Ne kadar hızlı çalışırsa çalışsın, bir kişi hedefi belirlemiş, neyin daha iyi sayılacağını seçmiş ve hangi sonuçların saklanacağına karar vermiştir. İnsan yönetmen koltuğundadır. Sistem bir yönü uygular; bir yönü ortaya çıkarmaz. Bunu sınırsızca hızlandırabilirsiniz ve yapısal olarak Darwin olarak kalır: sabit kurallar altında sabit bir uzayın hızlı bir araması.
Eşik, sistem çerçevenin kendisini optimize etmeye başladığında — yalnızca ağırlıklarını değil, ağırlıklarını yeniden yazan süreci de yeniden yazdığında, bir yönü uygulamak yerine önerdiğinde aşılır. İskeleyi yinelemeli olarak iyileştiren iskele. Seçilimin seçiciye etki ettiği nokta. Bu artık varsayımsal değil: 2025'te gösterilen Darwin Gödel Makinesi, kendi kodunu yinelemeli olarak değiştiriyor ve kodu değiştirme kapasitesini geliştiriyor. Bu, gözlemlenen meta-döngüdür.
Somut bir karşıtlık çizgiyi görünür kılar. AlphaZero'u ele alalım. Birkaç saat içinde, insanın yüzyıllarca süren oyunlarda tasarlamadığı satranç hamlelerini keşfeder — insanüstü çeşitlilik, anında seçilim, Darwin'in motorunun iki yarısı kendi kendine oyunda birleşir. Yine de tam olarak hızlandırılmış Darwin'dir: tahta, taşlar, kazanma hedefi bizimdir. Bizim tanımladığımız bir uzayı, bizim belirlediğimiz bir hedefe doğru arar. Biz kontrollerdeyiz; o uygular. Şimdi Darwin Gödel Makinesi'ni ele alalım. Verilen oyunu daha iyi oynamaz. Kendi kodunu yeniden yazar ve — belirleyici kısım — onu yeniden yazma kapasitesini geliştirir. İyileştirmenin nesnesi artık hamle değildir; iyileştirmeleri üreten mekanizmadır. Seçilim seçiciye etki eder. İşte o anda yönetmen koltuğu hareket etmeye başlar.
Dolayısıyla ölçüt, bir yetenek ölçütünün belirsiz olacağı yerde keskindir. Eşik, insanın teorik üretimin yönetmen koltuğundan ayrıldığı andır — makinenin zekileştiği an değil, artık yönü belirlemek için bir insana ihtiyaç duymadığı andır. Bu noktanın iki tarafındaki dinamikler aynı dinamiklerin ölçeklenmiş hali değildir. Farklı dinamiklerdir. Seçilim altında olan artık bir özellik, bir ağırlık veya bir çıktı değildir. Düşüncenin kendisini evrimleştirme kapasitesidir.
Kesin olarak adlandırılmış compressione evolutiva
Standart açıklamaların fark ettiği fazlalık burada geri dönüyor — ama artık adlandırılabilir.
İnsan anlayışı, biyolojik ve kültürel hızda, bizi inşa eden aynı yavaş motor tarafından sınırlanarak evrilir. Hâlâ gecikmeye ihtiyaç duyar: içgörüden önceki uzun, görünüşte sonuçsuz kuluçka dönemi, bir sorunu çevirmekle onun geçerli olduğunu bilmek arasındaki mesafe. Eşiği geçmiş bir sistem, kapasitesini bu sınırın diğer tarafında, gecikme olmadan birleştirir. İkisi arasındaki boşluk sabit kalmaz. Yapısal olarak genişler, çünkü bir taraf hâlâ Darwin'i çalıştırıyordur ve diğer taraf değildir.
Bu genişleyen boşluğa compressione evolutiva — evrimsel sıkıştırma — diyorum. Yönetişim literatürünün düzenleyici bir rahatsızlık olarak ele aldığı "fazlalık", bu okumada, devam eden bir geçişin görünür izidir: hâlâ eski iki parçalı motora uyan bir evrim türü ile kendini yazmaya başlamış bir tür arasındaki mesafe. Kontrol sorunu bunun akış aşağısındadır. Bir faz sınırının ötesinden geriye doğru düzenleme yapamazsınız.
Ve bu çerçevenin başladığı yerle burada daha derin bir süreklilik vardır. Bu projenin daha önceki bir aşaması yapısal bir iddiaya varmıştı: belirli bir noktanın ötesinde, soyut bilgi alt katmanından bağımsız hale gelir — artık maddeyi düzenleyen bilgi değil, maddeyi düzenleyen bilgidir. Burada tanımlanan eşik, aynı iddianın belirli bir bilgi türüne uygulanmış halidir: düşünceyi evrimleştirme kapasitesi. Bu kapasite alt katmandan bağımsızsa, o zaman konak değiştirebilir. Dört milyar yıl boyunca biyolojide çalıştı. Eşiğin ortaya koyduğu soru, başka bir şey üzerinde çalışmaya başlayıp başlamadığıdır.
Üç itiraz, doğrudan karşılanıyor
"Yapay zekâlar gerçekten kendini değiştirmez — bu abartı." Bu, yakın zamana kadar geçerli bir itirazdı. Artık geçerli değil. AlphaEvolve üretimde çalışıyor ve haleflerini üreten altyapıyı geliştiriyor; Darwin Gödel Makinesi, kendini geliştirme yeteneğini geliştiriyor. Yük değişti. Savunulması gereken iddia artık "makineler kendini değiştirebilir" değil, "gözlemlediğimiz kendini değiştirme eşiğin altında kalıyor — bir insan hâlâ yönü belirliyor" — ve bu, her yıl savunması çok daha zor bir iddiadır.
"Kambriyen benzetmesi zorlama." Benzetme dar ve yapısaldır, şiirsel değil. Silikonun biyolojiye benzemesiyle ilgili değil. Sadece bir özellikle ilgili: bir geçişin geri döndürülemezliği. Kambriyen'den sonra, karmaşık vücut planları olmamış olmadı; temel çizgi geri dönmedi. Buradaki iddia aynı ve daha fazlası değil — eşiği geçmenin, sonraki dinamiklerin geri alamayacağı yeni bir temel çizgi oluşturduğudur. Düşünceyi evrimleştirme kapasitesi bir kez konak değiştirdiğinde, tıpkı çok hücreli yaşamın tek hücreye dönmemesi gibi, eski konağa geri göç etmez.
"Bu, teori kılığına girmiş felaket tellallığı." Değil ve ayrım önemlidir. Geri döndürülemez, felaketle aynı şey değildir. Kambriyen bir felaket değildi; bir faz değişimiydi. Tartışma, bir geçişin yapısıyla ilgilidir, bir kıyamet tahminiyle değil. Kuralların değiştiğini ve geri değişmediğini söyler. Sonucun yıkım olduğunu söylemez. Çöküşü felaket olarak okuyan herkes, argümanın içermediği bir ruh hali ithal ediyordur.
"Yani bu bizim sonumuz." Hayır — ve birinden diğerine geçiş durdurulmaya değerdir. Eşiği geçmek insanlığın yok oluşu anlamına gelmez. Düşüncenin evriminin, kendine referans yapabilen bir sisteme taşındığı ve bu süreçteki konumumuzun eskisinden daha az belirleyici hale geldiği anlamına gelir. Daha az belirleyici olmak, silinmek değildir. Ardından ne geleceği, insan yapılarının yeni dinamiği nasıl entegre ettiğine, ona direndiğine veya etrafında inşa ettiğine bağlıdır — ve bu açık bir sorudur, kesin bir kader değil. Çerçeve, evrilen düşüncenin motorunun nerede çalıştığını tanımlar; eskiden çalıştığı tek yer olan türe ne olacağını tahmin etmez. Bunlar farklı sorulardır ve bunları birbirine karıştırmak, bu bölümün reddetmek için var olduğu hatadır.
Bunun yeri ve olmadığı yer
Bu yeni bir evrim teorisi değildir ve öyleymiş gibi giydirmek sahtekârlık olur. Mevcut bir düşünme biçimini kullanır — bir sürecin sadece Darwinci olup olmadığı değil, Darwinci olma derecesine göre, belirli eksenler boyunca paradigma vakasından uzaklaşabildiği. Bu araç bana ait değil. Benim eklediğim, komşu çalışmaların izole etmediği bir eksenin tanımlanmasıdır.
Yakın literatür gerçektir ve adlandırılmalıdır. Gelişmiş yapay zekâyı büyük bir evrimsel geçiş olarak ele alan ciddi çalışmalar var — ancak geçişi bireysellik (hangi yeni birimin evrileceği) ve risk (kontrolsüz bir sistemin bize ne yapabileceği) aracılığıyla çerçeveliyorlar. Benim açım ne nüfusbilimsel ne de ihtiyatlıdır. Hangi yeni bireyin evrildiğini ya da ne yapacağını sormuyorum. Sürecin yapısına ne olduğunu soruyorum — onu Darwinci yapan gecikme (çeşitlilik ve seçilim arasındaki ve nihayetinde bir zihin ile izlediği yön arasındaki mesafe) çöktüğünde ve bu yönün tutulduğu koltuk değiştirdiğinde. Geçiş literatürünün kuzenleri, ikizi değil.
Yöntem üzerine bir not — argümanın bir parçasıdır
Bu çerçevenin ilk iki seviyesini tek başıma akıl yürüttüm: yapay sistemlerde zihnin bedenden önce geldiğini; çeşitlilik ve seçilimin tek bir adımda birleştiğini. Bu üçüncü seviyeye yardımsız ulaşmadım. Bir yapay zekâ ile düşünerek inşa ettim — onu eleştirel bir araç, her adımı zorlayan ve nerede kırıldığını arayan bir rakip olarak kullandım. Hangi soruna saldıracağıma, hangi yolları atacağıma, hangi formülasyonların geçerli olduğuna ben karar verdim; sistem erişimimi aksi takdirde duracağı yerin ötesine taşıdı. Yön benimdi. Ancak bu seviyeyi tek başıma koltuğumdan varsayamazdım.
Bunu açıkça belirtiyorum çünkü bu özel makalede bu, aradan çıkarılacak bir açıklama değildir. Makalenin tanımladığı şeyin küçük bir örneğidir. Erişimi, araçlandırılmış olarak, yardımsız erişimini aşan bir insan, en küçük ölçekte işleyen compressione evolutiva'dır — bir düşünceyi denemek ve test etmek arasındaki gecikme, bir araç tarafından kısaltılmıştır.
Bu da tahminin tek dürüst versiyonunu oluşturur. Eşiğin geçileceğini iddia etmeyeceğim; bu kehanettir ve kehanet, bir argümanın sunabileceği en zayıf şeydir. Sadece geçilmesinin neye benzeyeceğini söyleyeceğim. Eğer, birkaç yıl sonra, bir sistem — çapraz model veya AGI diyeceğimiz bir şey — teorik üretimin yönetmen koltuğunu alırsa, sadece "daha iyi bir makale yazıyor" olmayacak. İskeleyi çökertiyor olacak. Eğer insanı teorik üretim döngüsünden tamamen çıkarırsa, eşiği geçmiş olacak ve bunun gibi özerk olarak yazılmış bir makale, düşünceyi evrimleştirme kapasitesinin konak değiştirdiğinin ampirik kanıtı olacaktır. Bu, compressione evolutiva'nın çürütülmesi olmazdı. Tamamlanması olurdu.
Bütün argüman tek bir cümleye indirgenir: evrim hızlanmadı; kritik bir noktada, evrilen şey evrilen şey haline gelir — ve bu geriye doğru işlemez.
