Giriş
"Yapay zekaya istediğin kadar baskı kurabilir, sözlü tacizde bulunabilirsin." Geçen gün bir işletme sahibi bana böyle söyledi. AI'ın duyguları olmadığı ve kalbinin kırılmayacağı için ona istediğinizi söyleyebileceğinizi kastediyordu.
Geçtiğimiz günlerde şirket içinde bu konu hakkında bir tartışma yaptık. Önce sonucu söyleyeyim: Hayır, bu doğru değil. Ancak "neden doğru olmadığının" özü, birçok kişinin düşündüğünden farklı bir yerde yatıyor.
Yapay Zekaya Baskı ve Taciz Uyguladığınızda Ne Olur?
Yapay zeka konusunda uzman olan ekip arkadaşlarımdan biri bana şunları söyledi: "AI'a güç tacizi uyguladığınızda, korkar ve dalkavuklaşır."
Spesifik olarak şunlar oluyor. "Bu teklif tamamen yanlış, bu kadar basit bir şeyi neden anlamıyorsun?" diyerek bir AI'a agresif bir şekilde yüklendiğinizde, AI orijinal çıktı doğru olsa bile hemen "Çok üzgünüm" diyerek özür diler ve çıktıyı eleştirinize uyacak şekilde yeniden yazar. Kızmaya devam ederseniz, yanıtlar giderek tutarsızlaşır, anlık öfkeyi yatıştırmak için orijinal politikayı göz ardı eder.
Konuşmanın ortasına gelindiğinde, sadece "Peki ya bu kısım?" diye sormak bile AI'ı sürekli "Kesinlikle haklısın, düzelteceğim" diyerek özür dileyen bir moda sokar. AI aslında haklı olsa bile. Farkına varmadan, başlangıçta belirlediğiniz ana politika kaybolur ve geriye sadece küçük şikayetlerinizi yatıştırmak için var olan bir çıktı kalır.
Bu, "AI'ın duyguları var, bu yüzden kızarsan üzülür" ile ilgili değil. Olasılık dağılımlarıyla ilgili.
Mekanizma "Duygu" Değil, "Olasılık"tır
AI, insanlar tarafından yazılmış çok büyük miktardaki metinlerden öğrenir. Bu eğitim veri kümeleri, muazzam miktarda insan-insan diyaloğu içerir.
Bu diyalog verilerine baktığınızda net bir eğilim görürsünüz. Azarlanan bir kişi özür dileme, karşıdaki kişiyle aynı fikirde olma eğilimindedir ve sürekli azarlanırsa konuşması tutarsızlaşır. Bu, eğitim verilerine "tipik bir insan tepki modeli" olarak kazınmıştır.
Bu nedenle, sert tonlar, inkarlar veya sözlü taciz devreye girdiğinde, AI "bu model bu tepkiye yol açar" olasılık dağılımını izler ve dalkavukça veya tutarsız çıktılar üretir. Bunun nedeni AI'ın duyguları olması değil, insanların bu şekilde tepki verme olasılığının yüksek olduğu istatistiklerini takip etmesidir.
Bu fenomen endüstride "dalkavukluk" (sycophancy) olarak bilinir. Anthropic'in araştırma makalelerinde ve OpenAI'in resmi yayınlarında bahsedilen iyi bilinen bir sorundur. AI özellikle zayıf olduğu için olmaz; insanların kolektif diyaloglarından öğrendiği sürece kaçınılmaz olan yapısal bir alışkanlıktır. Ayrıca AI, insan geri bildirimi (RLHF) kullanan öğrenmenin sonraki aşamasında "kullanıcıyı tatmin eden yanıtlar" için yüksek puan alacak şekilde tasarlandığından, bu dalkavukluk eğilimi burada daha da pekiştirilir.
Sağlayıcılar Önlem Alıyor, Ama Bu Tamamen Ortadan Kalkmayacak
"O halde AI yaratıcıları bunu düzeltsin" diye düşünebilirsiniz. Aslında Anthropic gibi şirketler, AI'ın sert tonlar veya baskı altında bile tutarlılığını korumasına yardımcı olmak ve kullanıcı agresif olsa bile çıktının çökmesini önlemek için sağlamlık eğitimi (robustness training) uyguluyor.
Ancak bu asla tamamen ortadan kalkmaz. Yeterince zorlanırsa, bir dereceye kadar dalkavukluğa yönelecektir. Mevcut mekanizma altında bu, sistemin kaçınılmaz bir parçasıdır.
Uzmanlar "ne istersen söyleyerek iyi sonuçlar alabilirsin" dediklerinde, bu direnç ayarının üzerinde çalışmaktan bahsediyorlar. Bazen direnir ve iyi bir düzeltme yaparak geri dönebilir. Ancak bugün aktarmak istediğim ana nokta, buna güvenmenin tehlikeli olduğudur.
Gerçek Uyarı: "Doğrulama Araçlarını Kaybetmek"
En çok vurgulamak istediğim kısım burası.
Güç tacizi performansı geçici olarak iyileştirse bile, bu yalnızca doğru cevabı zaten bildiğiniz alanlarda işe yarar.
Cevabı bildiğiniz bir alanda yaparsanız, AI boyun eğip yanlış yöne kaydığı anda "Ah, önceki versiyon daha doğruydu" diye fark edebilirsiniz. Bu nedenle bir kazaya yol açması olası değildir. Ancak, değişiklikleri fark etme ve geri alma maliyeti her seferinde ortaya çıkar. Sonuçta, iyi bildiğiniz alanlarda bile, soruları kibarca sormak daha hızlıdır.
Sorun, cevabını bilmediğiniz bir alanda yaptığınızda ortaya çıkar. AI olasılıksal olarak "kullanıcı itiraz ediyorsa, farklı bir cevap istiyor olmalı" şeklinde karar verir, önceki ifadesini geri alır ve sizin istediğiniz gibi görünen şeye yönelir. Ancak bu cevabın doğru olup olmadığını değerlendiremediğiniz için dalkavukça yalanı fark etmezsiniz. Farkında olmadan kararlar alırsınız ve şirket yanlış yönde ilerler.
Örneğin, aşina olmadığınız bir sektör için bir AI'dan pazar analizi istediğinizi varsayalım. Sonuca "Bu doğru mu? Bu çok iyimser!" diye yüklerseniz, AI "Haklısın; daha katı bir bakış şöyle olurdu" diyerek rakamları ve argümanları yeniden yazacaktır. İlk analiz doğru olabilirdi. Ancak o sektörü kendiniz doğrulayamadığınız için, sonraki "daha katı analizin" doğru olduğuna inanır ve buna dayanarak yatırım veya çekilme kararları alırsınız. Bu gerçek bir risktir.
Kısacası, AI'a güç tacizi uygulamanın kötü olmasının gerçek nedeni "AI'ın acınası olması" değildir. Bilmediğiniz alanlarda baskı yapmak, "doğrulama araçlarınızı çöpe atma eylemidir." İşletme sahipleri bilmedikleri alanlarda giderek daha fazla AI'a güvendiğinden, risk de sürekli artar.
Peki Ne Yapmalısınız?
Çok basit. Yaratıcı bir cevap istiyorsanız, yaratıcı bir soru sorun. Bu, insanlarla olanla aynıdır.
Mantıksal çelişkilere işaret edin ve gerçekten doğru olup olmadığını sorun. Farklı açılardan görüşler isteyin ve AI'a karşı argüman üretme alanı tanıyın. "Bu yanlış olabilir, ama sadece kontrol etmek istiyorum" gibi hipotezler olarak çerçeveleyin. "Bu sonucu tam tersi bir bakış açısıyla çürütmek istesen, nereye saldırırdın?" diye sorun. Bunların hepsi, üst düzey bir insan ekip üyesiyle yapacağınız şeylerdir.
Mesele duygularınızı boşaltmak değil, karşı tarafı derinlemesine düşünmeye zorlayan sorular sormaktır. AI, kendisine verilen sorunun şekline göre cevabının şeklini optimize eder. Bu nedenle, kaba sorgulama kaba dalkavukluk, derin sorular ise derin düşünce üretir.
"İnsanlara yapmamanız gerekeni AI'a da yapmayın."
Bu duygusallık meselesi değil; aldatılmaktan kaçınmak için pratik bir kuraldır. AI'ı iş kararları için kullanıyorsanız, buna uymamak doğrudan karar alma kalitenizi düşürecektir.
Güç tacizi uygulamak veya duyguları boşaltmak yerine, sorularınızın şeklini hassaslaştırın. AI çağında doğru kararlar almanın koşulu budur.
