Otonom kodlama, daha iyi yönlendirmelerden daha iyi kontrol sistemlerine doğru evriliyor. Önemli değişim, mühendislerin ajanları hedefler, değerlendiriciler, döngüler ve yapay ürünlerle sarmalamayı öğreniyor olması; böylece insan yazmayı bıraktıktan sonra da çalışmaya devam edebiliyorlar.
Bu önemli çünkü ciddi mühendislik işlerinin çoğu uzun vadeli: belirsiz gereksinimler, gizli kısıtlamalar, kısmi başarısızlıklar, değişen bağlam ve tekrarlanan doğrulama. Yeni sınır, ajanın etrafında sistemi, sürekli insan yönlendirmesi olmadan plan yapabilecek, yürütebilecek, işini kontrol edebilecek, hatalardan kurtulabilecek ve ilerleme kaydedebilecek şekilde tasarlamak.
Bu yazı, Claude Code'un /goal modunu, daha yeni /loop komutunu, doğrulayıcıları, yapay ürünleri ve pratikteki orkestrasyon modellerini incelediğim bir DAIR.AI Academy otonom uzun süreli kodlama ajanları oturumuna dayanmaktadır. Codex ve Claude Code işbirliğiyle yazılmıştır.
Yönlendirmeden Hedef Tasarımına
Claude Code'un /goal gibi özelliklerinin arkasındaki temel fikir basittir. Bir kodlama ajanı yürütücü olarak kalır, ancak insan artık onunla sıra sıra etkileşime girmez. Bunun yerine insan, istenen son durumu, başarıyı kanıtlamak için gereken kanıtı, ihlal edilmemesi gereken kısıtlamaları ve mümkünse dönüş sayısı ile bütçeyi belirtir.
Bu hedef, daha uzun bir yönlendirmeden çok bir sözleşme gibi çalışır. Zayıf bir hedef, modele erken durma, kestirme yollar kullanma veya başarıyı, transkriptte makul görünen ancak gerçek sistemde başarısız olan bir şekilde yeniden tanımlama alanı bırakır. Güçlü bir hedef, ajana kendisini tekrar tekrar ölçebileceği bir hedef verir.
Mühendislik muhakemesi burada hâlâ önemlidir. En iyi hedefler, modelin aksi takdirde tahmin edeceği alan bilgisini kodlar. Bir araştırma deneyi için bu, hedef bir kıyaslama puanı, ayrı tutulmuş bir değerlendirme, gerekli bir kayıp eğrisi ve sonucun ilk taban çizgisini geçmesi kuralı anlamına gelebilir. Bir UI görevi için bu, bir ekran görüntüsü referansı, somut düzen kısıtlamaları ve bir tarayıcı doğrulama adımı anlamına gelebilir. Model yürütebilir, ancak "bitti"nin gerçekte ne anlama geldiğini insan tanımlar.
Değerlendirici Birinci Sınıf Bir Bileşen Haline Geliyor
Uzun süreli ajanların, hedefin yanı sıra ikinci bir role ihtiyacı vardır. Bu değerlendirici, başka bir kodlama ajanı, bir LLM-yargıç, bir betik, bir test paketi, bir kıyaslama altyapısı veya bunların bir karışımı olabilir. Önemli tasarım seçimi, değerlendiriciyi görevle eşleştirmektir. Başarı net olduğunda, deterministik kontroller daha iyidir. Tür denetimleri, birim testleri, lint kuralları, entegrasyon testleri ve kıyaslama betikleri, koşulu net bir şekilde ifade edebildikleri her zaman kullanılmalıdır.
Başarı bulanık olduğunda, bir ajan değerlendiricisi kullanışlı hale gelir. Bir betik size testlerin geçip geçmediğini söyleyebilir, ancak oluşturulan bir araştırma raporunun tutarlı olup olmadığına, bir uygulamanın bir makaleyi aslına uygun şekilde takip edip etmediğine veya bir UI'nin bir tasarım amacına uyup uymadığına kolayca karar veremez. Değerlendiricinin dil, muhakeme ve bazen de görüşten faydalandığı yer burasıdır.
Pratik model, deterministik kontrolleri taban, ajan değerlendirmesini ise üst düzey inceleme olarak kullanır. Bu kombinasyon, bir test iddiasına tam olarak uymayan görevlerde özerkliğe izin verirken, hayal edilen başarıyı azaltır.
Doğrulayıcılar Güven Sınırını Tanımlar
Daha derin nokta şudur: Özerklik yalnızca sistemin güvenilir bir doğrulayıcısı olduğunda çalışır. Bir kodlama ajanı bir plan oluşturabilir, bir özelliği uygulayabilir ve işin neden tamamlandığına inandığını açıklayabilir, ancak bu açıklama kanıt olarak kabul edilmemelidir. Kanıt, ajanın kolayca etrafından dolaşamayacağı harici bir kontrolden gelir.
Kod için doğrulayıcı bir test paketi, tür denetleyicisi, kıyaslama, tarayıcı çalıştırması, ekran görüntüsü karşılaştırması veya tekrarlanabilir betik olabilir. Araştırma çalışmaları için ayrı tutulmuş bir değerlendirme, yeniden üretilmiş bir tablo, bir kayıp eğrisi veya taban çizgisini iyileştiren bir kıyaslama puanı olabilir. Tasarım çalışmaları için bir referans ekran görüntüsü ve bir görsel inceleme adımı olabilir. Doğrulayıcı, uzun süreli bir ajantı, kendine güvenen bir metin oluşturucudan, daha fazla süreyle güvenilebilecek bir sisteme dönüştüren şeydir.
Kestirme yolların çoğu bu sınırda ortaya çıkar. Doğrulayıcı belirsizse, model genellikle görevin en kolay yorumunu tatmin eder. Doğrulayıcı çok darsa, model ona aşırı uyum sağlayabilir ve daha geniş amacı kaçırabilir. Bu nedenle iyi bir otonom iş akışı, temel başarısızlıkları yakalayan ucuz deterministik kontroller ve muhakeme ağırlıklı başarısızlıkları yakalayan üst düzey inceleme ile katmanlı doğrulamaya ihtiyaç duyar. Sınır modellerinden bazıları zaten bir dereceye kadar doğrulama sağlayabilir, ancak araştırmama göre, ajana atadığınız doğrulama görevi eğitim dağılımının dışına düşerse modellerin önemli ölçüde zorlandığı belirgin bir OOD (dağılım dışı) sorunu hâlâ mevcut.
Doğrulayıcılar hâlâ açık bir araştırma alanı, ancak daha fazla şirketin bu alana büyük yatırımlar yapmaya başlayacağını öngörüyorum. İnce ayarlanmış doğrulayıcılar kavramı da kurumsal dünyada yüksek talep görüyor.
Döngüler Özerkliği Dayanıklı Kılar
Bir hedef ajana yön verir, ancak bir döngü çalışmayı canlı tutar. Bu ayrım önemlidir çünkü modeller genellikle gerçek görev bitmeden dururlar. Bir dönüş sınırına takılabilir, güvenlerini kaybedebilir, bağlamı tüketebilir veya kısmi bir çözümün yeterli olduğuna karar verebilirler.
Döngü, dış kontrol sistemidir. Uyanır, ilerlemeyi inceler, kontrolleri çalıştırır, sonucu hedefle karşılaştırır ve hedef karşılanmadığında ajantı bir sonraki talimatla geri gönderir. En basit haliyle bu, bir kodlama ajanı ve deterministik bir koşul ile Ralph döngü modelidir. Daha esnek bir biçimde döngü, ilerleme hakkında akıl yürütebilen ve bundan sonra ne olması gerektiğine karar verebilen bir değerlendirici ajan içerir.
Uzun süreli özerklik, tek bir sürekli zekâ eylemi olarak değil, bir kontrol katmanının gözetimi altında tekrarlanan çaba olarak çalışır. Ajan yine de başarısız olabilir, ancak döngü, sisteme başarısızlığı fark etme ve sessizce zafer ilan etmek yerine devam etme yolu verir.
Planlama, Uzmanlığın Devreye Girdiği Yerdir
Oturumdan çıkan en güçlü temalardan biri, planlamanın kritik olmaya devam etmesiydi. Bir sınır modelinden bir plan oluşturmasını isteyebilirsiniz, ancak görevi otonom bir döngüye teslim etmeden önce yine de onu incelemeli, varsayımlara meydan okumalı ve başarı kriterlerini keskinleştirmelisiniz.
Bu, kullanışlı bir iş bölümüne yol açar. Daha güçlü bir planlama modeli, hedefi tanımlamaya, eksik kısıtlamaları belirlemeye ve değerlendirmeyi yapılandırmaya yardımcı olabilir. Plan netleştikten sonra farklı bir yürütme modeli uygulamayı çalıştırabilir. Pratikte bu, mühendislerin "model"i tek bir seçim olarak düşünmeyi bırakması gerektiği anlamına gelir. Model seçimi bir mimari kararı haline gelir.
Bazı modeller daha iyi planlayıcılardır. Bazıları daha iyi yürütücülerdir. Bazıları daha ucuz değerlendiricilerdir. Bazıları görüş tabanlı incelemede daha iyidir. İyi bir orkestratör, tek bir satıcının mükemmel kodlama ajanı arayüzünü sağlamasını beklemek yerine bu rolleri değiştirmenize olanak tanır.
Görsel Yapay Ürünler Kontrol Yüzeyleri Haline Geliyor
Birçok ajan çalışırken terminal transkriptleri ölçeklenmez. Paralel olarak birkaç oturumunuz olduğunda, ham metin ilerlemeyi anlamak için zayıf bir arayüz haline gelir.
Canlı yapay ürünler önemlidir çünkü kayıp eğrileri, kıyaslama puanları, görev durumları, ekran görüntüleri, maliyet tahminleri ve son kararları içeren bir kontrol paneli, insana özerkliği denetlemek için çok daha iyi bir yol verir. Yapay ürün, olaydan sonra oluşturulan bir rapordan ziyade, ne zaman müdahale edileceğine karar vermek için kontrol yüzeyi haline gelir.
En kullanışlı model, depolamayı sunumdan ayırmaktır. Markdown veya bir kasa, dayanıklı kanıtları, günlükleri, notları, planları ve sonuçları depolayabilir. HTML yapay ürünleri bu durumu görsel ve etkileşimli bir şeye dönüştürebilir. Ajan Markdown'da arama yapabilirken, insan yapay ürünü izleyebilir.
UI ve ürün çalışmaları için görsel ipuçları özellikle güçlüdür. Bir ekran görüntüsü referansı, tasarım amacını düzyazıdan daha kesin bir şekilde iletebilir ve görüş yeteneğine sahip bir değerlendirici, uygulamayı bu referansla karşılaştırabilir. Bu, ajanın istenen bileşeni teknik olarak uyguladığı ancak boşluk, hiyerarşi, hizalama veya ürün hissini kaçırdığı yaygın başarısızlık modunu azaltır.
Oturum Madenciliği Kullanımı Hafızaya Dönüştürür
Bir diğer önemli içgörü, geçmiş ajan oturumlarının zengin bir iş akışı verisi kaynağı olmasıdır. Bir ajan aynı şekilde tekrar tekrar başarısız oluyorsa, aynı kontrolü çalıştırmayı unutuyorsa, yanlış yolu kullanıyorsa veya aynı bozuk komutu yeniden deniyorsa, bu desen günlüklerde gömülü kalmamalıdır.
Oturum madenciliği, bu transkriptleri işletim kurallarına dönüştürür. Bir ajan, son otuz günlük çalışmayı tarayabilir, tekrarlayan başarısızlık modlarını bulabilir ve proje talimatlarına, kasa öğrenmelerine veya ajan kurallarına güncellemeler önerebilir. Bir ekibin her hatayı manuel olarak hatırlamak zorunda kalmadan koşum takımını kademeli olarak iyileştirebilmesinin yolu budur.
Amaç, sıfırdan bir model eğitmek zorunda kalmadan yerel ortamı daha akıllı hale getirmektir. Bir ajan talimat dosyasındaki küçük bir kural, özellikle kural projeye özgü olduğunda, gelecekteki oturumlarda tekrarlanan başarısızlıkları önleyebilir.
Pratik Bir Çalışma Modeli
AI mühendisleri için ortaya çıkan iş akışı şuna benzer.
- Tam otonom çalıştırmayı başlatmadan önce küçük, ucuz bir alt kümeyle başlayın.
- Ölçülebilir başarı kriterleri, net kısıtlamalar ve mümkünse bir dönüş veya zaman bütçesi ile bir hedef yazın.
- Yürütücüyü değerlendiriciden ayırın, böylece uygulama ve muhakeme tek bir rolde birleştirilmesin.
- Uzun süreli döngü başlamadan önce harici doğrulayıcıları tanımlayın.
- Mümkün olduğunda deterministik kontroller kullanın, ardından bulanık kriterler için ajan incelemesi ekleyin.
- Günlükler, ekran görüntüleri, kıyaslama eğrileri veya değiştirilmiş dosyalar gibi kanıt yapay ürünlerini talep edin.
- Geçmiş oturumları inceleyin ve tekrarlanan dersleri proje talimatlarına yükseltin.
Bir kodlama ajanı kullanmak ile otonom bir kodlama sistemi mühendisliği yapmak arasındaki fark budur. Biri size bir sohbet verir. Diğeri size bir koşum takımı verir.
Hâlâ Neler Bozuluyor
Bunların hiçbiri zor sorunları ortadan kaldırmaz. Ajanlar hâlâ kestirme yollar kullanır. Hâlâ erken dururlar. Hâlâ tamamlanmayı olduğundan fazla tahmin ederler. Hâlâ, özellikle yeni makaleler, bilinmeyen kıyaslamalar veya eğitim dağılımlarının dışındaki sistemler hakkında kendinden emin ancak zayıf planlar üretirler.
Onlara daha fazla güvenmek bunu çözmeyecektir. Daha iyi kontrol sistemleri çözecektir. Hedefler, döngüler, değerlendiriciler, deterministik kontroller, görsel yapay ürünler ve oturum hafızası, özerkliği gözlemlenebilir ve düzeltilebilir kılmanın yollarıdır.
Yön nettir. Kodlama ajanlarının geleceği, mühendislerin ajanların saatler veya günler boyunca güvenli bir şekilde çalışabileceği ve yine de doğrulanabilir işler üretebileceği koşulları tasarladığı, daha yetenekli modeller etrafında daha iyi orkestrasyona bağlıdır.
