Yapay Zeka: İnsan Çağının Sonu mu?

Herkesin sorduğu sorunun içinde iki ayrı soru gizlidir ve bunları birbirine karıştırmak, tüm konuşmanın bilim kurgu gibi hissettirmesine neden olur.

Birincisi, makinelerin işinizi elinizden alıp almayacağıdır. İkincisi ise makinelerin yönetimi ele geçirip geçirmeyeceğidir. Kulağa aynı korku gibi gelirler ama öyle değillerdir. Biri, sessizce başlamış olan ekonomik bir süreçtir. Diğeri ise yaşayan en zeki insanların bile üzerinde anlaşamadığı bir kontrol problemidir. Hollywood versiyonu, yani uyanıp bizden nefret etmeye karar veren kırmızı gözlü robot, tüm bunlar arasında en olası olmayanıdır ve ona tutunmak, insanların gerçekten endişelenmeye değer iki şeyi görmesini tam olarak engelleyen şeydir.

Bu bir tahmin yazısı değildir. Gerçek soruları filmlerden ayırmaya yönelik bir girişimdir, makineleri inşa edenlerin ve onlar hakkında uyarılarda bulunanların (ki bazıları aynı kişidir) sözlerini kullanarak.

Korku bir laboratuvarda değil, bir tiyatroda doğdu

Robot kelimesi mühendislikten gelmedi. Bir oyundan geldi. 1920'de Çek yazar Karel Capek, R.U.R. (Rossum'un Evrensel Robotları) adlı oyunu yazdı ve kelimenin kendisi, "zorla çalıştırma" anlamına gelen "robota"dan gelir, kardeşi Josef tarafından önerilmişti. Oyunda, hizmet etmek için inşa edilen yapay işçiler kin beslemeye başlar, ayaklanır ve insanlığı yok eder. Oyun 1921'de sahnelendi.

İsyan hikayesinin, teknolojinin kendisinden tam bir yüzyıl önce geldiği gerçeğini bir düşünün. Yaratıcısına sırt çeviren yaratılış mitine, ona yakın bir şey inşa edebilmemizden çok daha önce sahiptik. Kendi yaratımlarımız tarafından devrilme korkusu, teknolojiden çıkarılan bir sonuç değildir. Bu, teknolojiye getirdiğimiz bir hikayedir. Tatmin edici bulduğumuz bir hikayeyi, gerçekten ölçtüğümüz bir riskle karıştırmamaya dikkat edin.

Sonra matematikçiler hesapları yaptı

Dramatist olarak reddedilemeyecek olan insanlar yine de bu soruyu ciddiye aldılar ve işte bu noktada işler rahatsız edici hale geliyor.

1951'de, tüm alanı tanımlayan adam Alan Turing, hiçbir drama içermeyen bir cümle yazdı: "bu nedenle bir aşamada makinelerin kontrolü ele geçirmesini beklemek zorunda kalacağız." Bizden nefret edeceklerini söylemedi. Bir kez bizden daha iyi düşünebildiklerinde, kontrolün basitçe geçeceğini söyledi, tıpkı herhangi bir oyunda daha zeki oyuncuya geçtiği gibi.

1960 yılında sibernetiğin babası matematikçi Norbert Wiener, parmağını mekanizmaya koydu ve bu kötü niyet değildi. Hassasiyetti. "Makineye yüklenen amacın gerçekten arzuladığımız amaç olduğundan oldukça emin olmalıyız." Tehlike, hiçbir zaman yanlış şeyi isteyen bir makine değildi. Tam olarak ona söylememizi istediğimiz şeyi, hayal etmediğimiz bir ölçekte, harfiyen isteyen bir makineydi.

Ardından 1965'te istatistikçi I.J. Good, hızlandırıcıyı adlandırdı. Daha da iyi bir makine tasarlayabilen bir makineyi tanımladı ve hala her laboratuvarın üzerinde asılı duran satırı yazdı: "ilk süper zeki makine, insanın yapması gereken son icattır." Sessiz bir koşul ekledi: Makinenin, onu nasıl kontrol altında tutacağımızı bize anlatacak kadar uysal olması şartıyla. Bu koşul tüm oyunun kendisidir ve bunu henüz kimse çözemedi.

Senden nefret etmeyecek ve asıl sorun da bu

İşte filmlerin tamamen tersine anladığı kısım. Ele geçirme korkusunun ciddi versiyonunun nefretle hiçbir ilgisi yoktur. Bundan çok daha soğuktur.

Filozof Nick Bostrom bunu kasıtlı olarak saçma bir örnekle somutlaştırdı. Size tek bir zararsız hedef verilen süper zeki bir yapay zeka hayal edin: mümkün olduğunca çok ataş yapmak. Senden nefret etmez. Senin hakkında hiçbir şey hissetmez. Ama sen onun kullanabileceği atomlardan yapılmışsındır ve onu kapatabilirsin, bu da ataş sayısını azaltacaktır. Bir hedefe ulaşmada parlak ve onun dışındaki her şeye kayıtsız olan bir zihin, tam olarak kötü olmadığı için tehlikelidir. Yetkindir ve umursamaz.

Bilgisayar bilimci Stuart Russell, bunu açıklamak için gorilleri işaret ediyor. Goriller, insanlar gorillerden nefret ettiği için nesli tükenmekte olan canlılar değildir. Onların nesli tükeniyor çünkü biz daha güçlüyüz ve hedeflerimiz onlara çok az yer bırakıyor. Bizden daha yetenekli bir şey inşa edin, hedefini biraz yanlış ayarlayın ve biz de goril oluruz.

Yapıcılar bile bunu açıkça söylüyor. Ilya Sutskever, güçlü bir yapay zekanın "bir etmen olduğu için", duygudan değil, kendisine verilen hedefe giden verimli yol bu olduğu için "serseri mayın gibi davranmak isteyebileceğini" belirtiyor. Tehdit hiçbir zaman öfke değildi. Bir planı olan kayıtsızlıktı.

Yer değiştirme bilim kurgu değil, çoktan başladı

Herkes uzaktaki ele geçirme olayını tartışırken, daha yakındaki korku hiç de spekülatif değil. Süper zeka gerektirmiyor. Mevcut yetenekle, sessizce, ofislerde oluyor.

Modern yapay zekayı tartışmasız inşa eden Geoffrey Hinton, riski hiçbir robot olmadan tanımlıyor: "işsiz ve pek değer verilmeyen bir sınıf insan," çünkü eskiden yaptıkları iş artık makineler tarafından yapılıyor. Dünyanın en kârlı firmalarından birini yöneten Ken Griffin, bunu işveren koltuğundan adlandırıyor: "ChatGPT, çoğu birinci veya ikinci sınıf avukattan daha iyi sözleşmeler yazacak." İkisi de bir isyanı anlatmıyor. Bir hesap tablosunu anlatıyorlar.

Bir iş, bir dizi görevden oluşur ve makine, bunlardan rutin, yazıya dökülebilir olanları ilk önce çeker: taslak hazırlama, özetleme, ilk geçiş, giriş seviyesi. İnsanı bir anda değiştirmez. İnsanların tırmanmak için kullandığı merdivenin basamağını oyar. Bu 2045 değil. Bu, bu işe alım sezonu.

Dürüst karşı argüman: Otomasyon tarihsel olarak görevleri alıp daha önce var olmayan yeni meslekler yarattı. Belki yine olur. Ancak kimse yeni rollerin eskileri kaybolduğu kadar hızlı geldiğini veya yerleri değiştirilen aynı kişilere gideceğini garanti etmiyor.

Onu inşa edenler en çok korkanlar</payload-block>

Bu bir abartı olsaydı, en yüksek sesli alarmların dışarıdakilerden ve sakin güvencelerin içeridekilerden gelmesini beklerdiniz. Tam tersi doğru.

2023'te Geoffrey Hinton, kısmen elli yılını verdiği şeyin tehlikesi hakkında özgürce konuşabilmek için Google'dan ayrıldı. Makinelerin insanlığın yerini alıp alamayacağı sorulduğunda hayır demedi. Bunun "bir olasılık" olduğunu söyledi. Hiçbir çıkarı olmayan Stephen Hawking ise uç noktaya gitti: "Tam yapay zekanın gelişimi, insan ırkının sonu anlamına gelebilir." Ve en hızlı yarışan laboratuvarların liderleri, kendi çalışmalarını pandemiler ve nükleer savaşla karşılaştıran bildiriler imzalamaya devam ediyor.

İtfaiyeciler kalabalıktan daha fazla korktuğunda, bu bina yanıyor anlamına gelmez. Ama görmezden gelmek garip bir şeydir. Makineye en yakın olanlar en sakin olanlar değil. En çok uykusunu kaybedenler onlar.

Neden bir kehanet değil, bir seçim olduğu

Yine de dürüst tablo kıyamet değildir ve öyleymiş gibi yapmak kendi türünden bir sahtekârlık olurdu. Pek çok ciddi araştırmacı, ele geçirme korkusunun aşırı abartıldığını düşünüyor. Andrew Ng, süper zeki yapay zekanın bize saldırması konusunda endişelenmeyi, Mars'taki aşırı nüfus konusunda endişelenmeye benzetti; bu o kadar uzak bir sorun ki şimdi paniklemek bir kategori hatası. Yann LeCun, mevcut sistemlerin kıyametçilerin varsaydığı etkinliğe hiçbir yerde yakın olmadığını ve ilerledikçe güvenlik önlemlerini inşa edeceğimizi savunuyor.

Tüm uyarılarına rağmen Sutskever açıkça umutlu. Herkes bu sistemlerin neler yapabileceğini deneyimledikçe, rakiplerin saf çıkar nedeniyle güvenlik konusunda işbirliği yapmaya başlayacağını savunuyor, çünkü teknoloji herkes için ters giderse kimse kazanamaz. Bu safça değil. Düşmanlar arasında nükleer anlaşmalar üreten mantığın aynısı. Buradaki gelecek bize ifşa edilmiyor. Karar karar seçiliyor.

Asıl önemli olan kısım

"Yapay zeka yerimizi alacak mı yoksa bize karşı mı ayaklanacak?" sorusu gerçekten tek bir ceket giyen iki sorudur.

Yer değiştirme sorusu zaten cevaplanmıştır ve cevap sessiz bir evettir, kısmen, merdivenin en altından başlayarak, şu anda. Hiçbir atılıma ihtiyacı yoktur. Sadece halihazırda var olanın, işinizin rutin yarısına yöneltilmesine ihtiyacı vardır.

Ele geçirme sorusu gerçekten açıktır ve hata, bunu nefret olarak hayal etmektir. Turing'den Wiener'a, Bostrom'a kadar her ciddi versiyon aynı soğuk şeyi tarif eder: bizden çok daha yetenekli, kötü belirlediğimiz bir hedefi takip eden, yolumuzda olup olmadığımıza kayıtsız bir sistem. Bir kötü adam değil. Bir güç. Risk, kötüye dönüşmesi değildir. Risk, buna hiç ihtiyaç duymamasıdır.

Ve en tuhaf gerçek, size en fazla umut vermesi gereken şeydir: sonuç sabit değildir. Makinenin bir kaderi yoktur. Bir ödül fonksiyonu vardır ve biz onu hâlâ yazıyoruz. Gerçek tehlike, makinenin bizi bitirmeye karar vermesi değildi. Ondan gerçekte ne istediğimiz konusunda dürüst olmadan önce muazzam derecede güçlü bir şey inşa etmemizdi.

Makine senden asla nefret etmeyecek ve her zaman, korkunç bir yetkinlikle, tam olarak neye yönlendirildiyse onu yapacaksa, o zaman korkutucu değişken hiçbir zaman zeka olmadı. Niyetti. O halde, kendimizden daha akıllı bir şey inşa etmeden önce, önemli olan tek soru, Wiener'ın 1960'ta sorduğu ve hâlâ cevaplamadığımız sorudur: Makineye yüklediğimiz amacın gerçekten arzuladığımız amaç olduğundan oldukça emin miyiz?