Yapay zeka ajanınız ilk 10 adımda harika çalışıyor.
Sonra, 15. adım civarında işler savsaklamaya başlıyor.
Yanlış araç çağrıları. Orijinal talimatlarınızı unutmak. Düşük kaliteli çıktılar.
Çoğu kişi modeli suçlar.
Neredeyse hiçbir zaman modelde değildir.
Sorun, modelin gördüğü şeydir.
Modelin gördüklerini düzenlemeye bağlam mühendisliği (context engineering) denir.
Yapay zeka ajanları inşa eden herkes için hızla en önemli beceri haline geliyor.
İşte eksiksiz oyun kitabı.
Prompt mühendisliği öldü. Artık önemli olan bağlam mühendisliği.
Prompt mühendisliğini duymuşsunuzdur.
Net talimatlar yazmak. İyi örnekler vermek. Modele hangi rolü oynayacağını söylemek.
Bu, bir sohbet robotu için mükemmel çalışır.
Bir ajan inşa ettiğiniz an işe yaramaz hale gelir.
İşte nedeni.
Bir sohbet robotu tek bir soruyu yanıtlar ve durur.
Bir ajan ise eylemler gerçekleştirir — web'de gezinmek, API'leri çağırmak, kod yazmak, komutları çalıştırmak — adım adım, bazen düzinelerce adım boyunca.
Her bir adım, modelin bağlamına eklenen bir çıktı üretir.
Ve bu bağlam sınırlıdır.
Anthropic'in mühendislik ekibi bunu şöyle tanımlıyor:
"Bağlam, bir LLM'den örnekleme yaparken dahil edilen token'lar kümesidir. Bağlam mühendisliği, tutarlı bir şekilde istenen sonucu elde etmek için bu token'ların kullanışlılığını optimize etmektir."
Basitçe söylemek gerekirse: ajanınızın doğru bilgiyi, doğru formatta, doğru zamanda görmesini sağlayın.
Prompt mühendisliği, bağlam mühendisliğinin bir alt kümesidir.
Bağlam mühendisliği her şeydir.
Ajanınızın bağlam penceresi RAM'dir. Ve doluyor.
LangChain bunun için doğru analojiye sahip.
Bir LLM'yi yeni bir tür işletim sistemi olarak düşünün.
Model CPU'dur — düşünme işini yapar.
Bağlam penceresi RAM'dir — modelin o anda görebildiği ve üzerinde akıl yürütebildiği her şeyin bulunduğu çalışma belleği.
Tıpkı bilgisayarınızın RAM dolduğunda yavaşlaması gibi, bağlam penceresi kalabalıklaştığında ajanınızın akıl yürütme yeteneği de bozulur.
Buna bağlam çürümesi (context rot) denir.
Chroma, 18 öncü modeli (GPT-4.1, Claude 4, Gemini 2.5, Qwen3 ve diğerleri) değerlendiren bir çalışma yaptı.
Girdi uzunluğu arttıkça her modelin performansı düştü.
Sert sınırda değil. Çok daha öncesinde.
200K token'lık bir penceresi olan bir model, 50K token'da önemli bir bozulma gösterebilir.
Düşüş süreklidir. Bir uçurum değildir.
Neden? Transformer'lar, her token'ın diğer tüm token'lara dikkat etmesiyle çalışır — n-kare ilişkileri yaratır. Bağlam büyüdükçe, modelin tüm bu ilişkileri sürdürme yeteneği incelir.
Ve bir de "Ortada Kaybolma (Lost in the Middle)" sorunu var.
LLM'ler U-şeklinde bir dikkat eğrisi gösterir.
→ Bağlamın başlangıcı: iyi hatırlanır
→ Bağlamın sonu: iyi hatırlanır
→ Orta kısım: büyük ölçüde göz ardı edilir
Araştırmacılar, ilgili bilgi bağlamın başından ortasına taşındığında %30'un üzerinde bir doğruluk puanı düşüşü ölçtüler.
Orijinal talimatlarınız — 50.000 token'lık araç çıktılarının altına gömülü — etkili bir şekilde yok olur.
Claude Code kullanıcıları, çıktı kalitesinin bağlam kapasitesinin %40-60'ında düştüğünü buldu. Herhangi bir sert sınırdan çok önce.
Ajanınızın bağlamında yer için gerçekte ne rekabet ediyor?
7 kategori. Hepsi aynı sınırlı pencere için savaşıyor.
1. Sistem Prompt'u
Ajanın kimliği. Davranış kuralları. Kontrol akışı mantığı. Farklı görev türleri için talimatlar. Bir ajanda bu sadece "yardımsever ol" değildir. Tüm mimariyi tanımlayabilir.
2. Araç Tanımları
Ajanın çağırabileceği her aracın, ne yaptığını, hangi parametreleri aldığını ve ne zaman kullanılacağını açıklayan bir şemaya ihtiyacı vardır.
3. Araç Çağrısı Sonuçları
Her araç çağrısı, çıktısını bağlama ekler. Bir web sayfası getirme: 5.000–10.000 token. Bir dosya okuma: benzer. Bunlar hızla birikir.
4. Alınan Bilgi (RAG)
Vektör veritabanlarından alınan belgeler, arama sonuçları, API yanıtları — ajanın kararlarını bilgilendirmek için alınan her şey.
5. Konuşma Geçmişi
Olan her şeyin tam dökümü. Kullanıcı mesajları, ajan yanıtları, akıl yürütme, önceki kararlar. Her turla doğrusal olarak büyür.
6. Bellek
Mevcut oturumdan kısa süreli bellek. Önceki oturumlardan uzun süreli bellek — kullanıcı tercihleri, önceki sonuçlar, öğrenilen kalıplar.
7. Ajan Durumu
Mevcut plan, yapılacaklar listesi, ilerleme işaretçileri, karalama defteri notları. Ajanın çok adımlı bir görevde nerede olduğunu takip eden meta-bilgi.
7'si de aynı pencere için rekabet ediyor.
Bağlam mühendisliği, neyin kazanacağına karar vermektir.
4 Temel Strateji
LangChain, her bağlam mühendisliği tekniğini 4 kovaya ayıran çerçeveyi yayınladı.
Öğreneceğiniz her teknik bu kovalardan birine girer.
Yaz (Write). Seç (Select). Sıkıştır (Compress). Ayır (Isolate).
Strateji 1 — Yaz (Ajanalar unutur. Onlara hatırlamaları için bir yol verin.)
Bir ajanın bağlamı dolup sıkıştırıldığında, bilgi kaybeder.
Ajan, bu olmadan önce hiçbir şey yazmadıysa — bu bilgi sonsuza dek kaybolur.
Yazmak, ajana bilgiyi bağlam penceresinin dışında kalıcı hale getirmesi için yollar vermek anlamına gelir.
Üç biçimi:
Karalama Defterleri (Scratchpads)
Ajana, bir görev sırasında not almasını sağlayan bir araç verin. Ara bulgular. Alınan kararlar. Daha sonra ihtiyacı olacağını bildiği bilgiler.
Anthropic bir "düşün" aracı inşa etti — Claude'un problemler üzerinde çalışması için özel bir alan.
Tau-bench kıyaslamasında bu, belirli görevlerde performansı %54'e kadar artırdı.
Kural Dosyaları (Rules Files)
Kalıcı prosedürel bellek.
Claude Code kullandıysanız, CLAUDE.md'yi görmüşsünüzdür.
Her oturumun başında yüklenen talimatlar — proje mimarisi, kurallar, testlerin nasıl çalıştırılacağı, nelere dikkat edilmesi gerektiği.
Ajan her başladığında bunu okur.
Temel bilgileri asla unutmaz.
Bellek Çıkarma (Memory Extraction)
Ajan, gerçekleri, kullanıcı tercihlerini ve öğrenilen kalıpları kaydeder, böylece bunları oturumlar arasında alabilir.
Bağlam penceresinin tamamen dışında yaşar.
Ajanın yarın ihtiyaç duyduğu bilgi, yarın geldiğinde onu orada bekliyor olur.
Strateji 2 — Seç (Ajana her şeyi vermeyin. Sadece o anda ihtiyacı olanı verin.)
40 aracı, geniş bir bilgi tabanı ve birkaç oturumluk geçmişi olan bir ajan, bunların hepsini aynı anda yükleyemez.
Bir şeyin, bu adım için neyin alakalı olduğuna karar vermesi gerekir.
Geleneksel RAG: sistem karar verir.
Kullanıcı sorar → belgeleri al → istemcinin içine doldur → bitti.
Statik. Tek seferlik. Modelin söz hakkı yoktur.
Ajan Tabanlı RAG (Agentic RAG): ajan karar verir. İhtiyacı olanı arar, sorguları iyileştirir, araçları seçer, yeterli bilgiye sahip olduğuna karar verir.
Getirme işlemi, tek seferlik bir boru hattı değil, yinelemeli bir süreçtir.
Bu önemlidir çünkü alakalı olan şey her adımda değişir — ve sırada neye ihtiyacı olduğunu yalnızca ajan bilir.
Araç seçimi sorunu, insanların en çok tökezlediği şeydir.
Ajanınızın 40'tan fazla aracı varsa, bu, herhangi bir iş başlamadan önce potansiyel olarak 10.000 token'lık araç tanımının bağlamda durması anlamına gelir.
Düzeltme: Araç açıklamaları üzerinde RAG (RAG over tool descriptions).
Her çağrıya tüm araç tanımlarını boşaltmak yerine, yalnızca mevcut adımla ilgili araçları yüzeye çıkarmak için anlamsal arama kullanın.
RAG-MCP adlı bir makale bunu test etti.
Araç seçme doğruluğu: %14 → %43 (3 kat iyileşme). Token kullanımı: kabaca yarı yarıya azaldı.
Anthropic buna hibrit strateji diyor: gerekli bağlamı önceden yükleyin (CLAUDE.md gibi), diğer her şey için ajanın tam zamanında getirme yapmasına izin verin.
Temel bilgileri önden yükleyin. Gerisini talep üzerine getirin.
Strateji 3 — Sıkıştır (Bağlam birikir. Anlamı koruyun, token'ları kesin.)
İyi bir seçim olsa bile, bağlam birikir.
Her araç çağrısı, alınan belge ve karar pencerede kalır.
Ajanınızın 20 araç çağrısı yaptığını hayal edin.
Bağlam: Birikmiş araç çıktıları, konuşma geçmişi, akıl yürütme izlerinden oluşan 80.000 token.
Bunların çoğu artık geçerli değil. Ajan zaten ona göre hareket etti.
Ama hâlâ orada, yer kaplıyor, dikkati zayıflatıyor, maliyeti ve gecikmeyi artırıyor.
3 noktada sıkıştırabilirsiniz.
Bilgi bağlama girmeden önce:
→ Büyük belgeleri getirmeden önce tutarlı parçalara ayırın
→ Yalnızca en kullanışlı parçaların girmesi için yeniden sıralayın
→ Ana bağlama girmeden önce araç çıktılarını anında özetleyin
Ajan çalışırken:
→ Konuşma geçmişinin sürekli güncellenen döner özeti
→ Popüler hibrit: son 10 mesajı aynen tut + daha eskilerini özetle
→ Sert kırpma: bağlam belirli bir boyut eşiğine ulaştığında eski mesajları kaldır
→ Claude Code otomatik sıkıştırması: %95 kapasitede tetiklenir, tüm yörüngeyi otomatik olarak özetler
Ajan bir şey üzerinde harekete geçtikten sonra:
→ Araç sonucunu temizleme: bir araç sonucu 15 adım önce kullanıldıysa, onu bırakın
→ Tek satırlık bir özetle değiştirin veya tamamen kaldırın
→ Ajanın 20 adım önce getirdiği bir web sayfasının tam metnine ihtiyacı yoktur
Hedef: token sayısını azaltın. Gerçekten önemli olanı koruyun.
Strateji 4 — Ayır (En güçlü strateji. Çoklu ajan sistemlerini mümkün kılar.)
Uzun ajan çalıştırmalarıyla ilgili daha derin bir sorun var.
Bu sadece alanla ilgili değil. Kirlenmeyle ilgili.
Araştırma aşamasındaki ayrıntılı dosya aramaları, ajan kod yazmaya geçtiğinde hâlâ bağlamda duruyor.
Bu eski araştırma bağlamı artık gürültüdür. Modeli, temiz bir uygulamaya odaklanması gereken bir aşamada dikkatini dağıtmaktadır.
Ayırmak, işin farklı bölümlerine kendi ayrı bağlam pencerelerini vermek anlamına gelir.
Alt-ajanlar (Sub-agents)
Bir üst ajan, odaklanmış bir alt görevi — "kod tabanında kimlik doğrulamayla ilgili tüm dosyaları ara" — bir alt-ajana devreder.
Alt-ajan, kendi temiz bağlam penceresinde çalışır.
Geri rapor verdiğinde, yalnızca yoğunlaştırılmış bir özet döndürür.
Tüm dağınık arama işlemleri alt-ajanın bağlamında izole kalır ve üst ajana asla bulaşmaz.
Durum şeması izolasyonu (LangGraph'ın yaklaşımı)
Ajanın durumunu, farklı alanların farklı türde bağlamlar depolayacağı şekilde tasarlayın.
LLM yalnızca mevcut adımla ilgili alanları görür.
Araç sonuçları, açıkça yüzeye çıkarılana kadar model tarafından görülemeyen bir "arka plan" alanında durur.
Ayrı alt-ajanlar oluşturmadan, modelin her adımda ne gördüğü üzerinde ince taneli kontrol.
Ayırma, karmaşık çok adımlı iş akışlarını gerçekten güvenilir kılan şeydir.
Farklı işler. Farklı bağlam pencereleri. Kirlenme yok.
Ajanların Başarısız Olma Yolları (Başarısızlığı adlandırın. Düzeltin.)
Drew Breunig, ajan bağlamı büyüdükçe dört farklı başarısızlık modu belirledi.
Şimdiye kadar gördüğünüz her bozuk ajan bunlardan birine girer.
Başarısızlık 1: Bağlam Zehirlenmesi (Context Poisoning)
Bağlama bir halüsinasyon veya hata girer.
Ajan, sonraki adımlarda tekrar tekrar ona atıfta bulunur.
- adımdaki kötü veri, sonraki her adımda birikir.
Düzeltme: Araç çıktılarını bağlama girmeden önce doğrulayın. Bir hatadan kurtulduktan sonra, başarısız girişim geçmişini sıkıştırın. Yalnızca çözümün önemli olduğu durumlarda, 10 adımlık çıkmaz hata ayıklama geçmişini görünür bırakmayın.
━━━
Başarısızlık 2: Bağlam Dikkat Dağıtması (Context Distraction)
Bağlam o kadar uzar ki model yakın tarihe aşırı güvenmeye başlar.
Yeni bir plan sentezlemek yerine, yakın zamanda yaptıklarını tekrarlar.
Düşünmeyi bırakır. Tekrar etmeye başlar.
Düzeltme: Agresif bir şekilde özetleyin ve budayın. Kullanılabilir büyük bir bağlam pencereniz olsa bile. Büyük pencere onu doldurmanız gerektiği anlamına gelmez.
━━━
Başarısızlık 3: Bağlam Karmaşası (Context Confusion)
Gereksiz içerik, modelin düşük kaliteli kararlar almasına yol açar.
Klasik örnek: bir model, bağlam sınırların çok iyi içinde olmasına rağmen 46 araç verildiğinde bir kıyaslamada başarısız olurken, yalnızca 19 araçla gayet iyi çalışıyordu.
Araçlar bağlamın tutamayacağı kadar fazla değildi.
Modelin net bir şekilde akıl yürütemeyeceği kadar fazlaydı.
Düzeltme: Dinamik araç yönetimi. Yalnızca mevcut adımla ilgili araçları yüzeye çıkarmak için RAG-MCP kullanın. Araç setini mevcut aşamayla eşleştirin.
━━━
Başarısızlık 4: Bağlam Çatışması (Context Clash)
Yeni bilgi, bağlamda zaten var olan bir şeyle çelişir.
Sistem prompt'u bir şey söylüyor. Alınan bir belge farklı bir şey söylüyor.
Ajan çelişkiyi uzlaştıramaz. Tutarsız davranış üretir.
Düzeltme: Net bir yetki sıralaması oluşturun. Sistem prompt'u > alınan gerçekler > konuşma geçmişi. Enjekte etmeden önce yeni bilgiyi mevcut bağlama karşı doğrulayın. Modelin hangi kaynağa güveneceğini bilmesi için XML etiketleri ve net başlıklar kullanın.
Ajanlar için Sistem Prompt'u Nasıl Yazılır (Sohbet robotları değil. Ajanlar.)
Bir sohbet robotunun sistem prompt'u bir ton belirler.
"Yardımsever bir asistansın. Kısa ve arkadaşça ol."
Bir ajanın sistem prompt'u mimariyi tanımlar.
Kontrol akışını belirtir — görev türlerine nasıl yaklaşılacağı, hangi araçların ne zaman kullanılacağı, hatalarda ne yapılacağı, hangi önlemlerin izleneceği.
Bu, bir kişilik prompt'u yazmaktan çok, otonom bir çalışan için bir iş tanımı yazmaya benzer.
Anthropic buna "doğru irtifada" yazmak diyor.
Çok kuralcı: "Kullanıcı faturadan bahsediyorsa VE iadeden bahsediyorsa VE tutar 100$'ın üzerindeyse, X aracını çağır." Kırılgan. Öngörmediğiniz her uç durumda bozulur.
Çok belirsiz: "Yardımsever ol ve uygun araçları kullan." Ajana hiçbir şey vermez. Somut sinyaller olmadan iyi otonom kararlar alamaz.
En uygun nokta: Otonom davranışı yönlendirecek kadar spesifik. Modelin yeni durumlarda muhakeme yeteneğini kullanmasına izin verecek kadar esnek. Güçlü buluşsal yöntemler. Katı kurallar değil.
Pratik ipuçları:
→ XML etiketleri veya markdown başlıkları ile düzenleyin — Arka Plan (Background), Talimatlar (Instructions), Araç Rehberliği (Tool Guidance)
→ Minimumla başlayın ve başarısızlıklar üzerinde yineleyin — önceden her uç durumu tahmin etmeye çalışmayın
→ Minimum, kısa anlamına gelmez — karmaşık bir ajan sistem prompt'u binlerce token olabilir ve her token yerini hak ettiği sürece bu sorun değildir
→ Az örnekli (few-shot) örnekler kullanın — her kuralı kelimelerle açıklamaya çalışmak yerine, ajana iyi davranışın neye benzediğini gösterin
KV-Önbellek: Bağlam sırasını önemsemenizin $$$ nedeni
Çoğu ajan geliştiricisi bunun varlığından habersizdir.
Bir LLM'ye token gönderdiğinizde, model her token için anahtar-değer temsilleri hesaplar.
Hesaplama açısından pahalıdır.
Bu nedenle çıkarım sağlayıcıları bu temsilleri önbelleğe alır.
Bağlamınızın başlangıcı — önek — API çağrıları arasında aynı kalırsa, sağlayıcı önbelleğe alınmış hesaplamayı yeniden kullanır ve yalnızca sondaki yeni token'ları işler.
Hızlı. Ucuz.
Ancak çağrılar arasında bağlamınızın erken bir bölümünü yeniden düzenler veya değiştirirseniz — önbelleği geçersiz kılarsınız. Sağlayıcı her şeyi sıfırdan yeniden hesaplar.
Claude Sonnet'teki maliyet farkı:
→ Önbelleğe alınmış girdi token'ları: milyon başına $0.30
→ Önbelleğe alınmamış girdi token'ları: milyon başına $3.00
10 kat fark.
Görev başına 30-40 API çağrısı yapan bir ajan için bu hızla birikir.
KV-önbellek verimliliği için pratik kurallar:
→ Kararlı içerik bağlamın EN ÜSTÜNE gider — sistem prompt'u, araç tanımları, turlar arasında değişmeyen her şey
→ Dinamik içerik EN ALTA gider — konuşma geçmişi, mevcut adım, ajan durumu
→ Araçları konuşma sırasında dinamik olarak eklemeyin ve kaldırmayın — bu önbelleği geçersiz kılar
→ Araç kaldırma yerine araç maskeleme (tool masking) kullanın — tüm araç tanımlarını önekte kararlı tutun (önbelleğe alınmış), yalnızca ilgisiz olanları mevcut aşama için kullanılamaz olarak işaretleyin
7 Saatte 35.000 Satır Kod Gönderen İş Akışı
Dex Horthy (HumanLayer CEO'su) bunu AI Engineer Code Summit'te sundu.
Ekibinin, büyük bir Rust kod tabanına tek bir 7 saatlik oturumda yaklaşık 35.000 satır kod göndermek için bunu kullandığı bildiriliyor.
Yöntem: Sık Sık Planlı Sıkıştırma (Frequent Intentional Compaction).
Ajan çalışmasını aşamalara ayırın. Her aşama sıkıştırılmış bir yapıt üretir. Her yeni aşama, yalnızca bu yapıtı içeren yeni bir bağlam penceresiyle başlar.
Her zaman bağlam penceresinin %40-60'ının altında kalmaya dikkat edin.
Aşama 1 — Araştırma
Alt-ajanlar kod tabanını keşfeder. Dosyaları okur. Veri akışlarını izler. Mimarileri haritalandırır.
Dağınık grep sonuçlarının ve dosya içeriklerinin tümü alt-ajan bağlamlarında kalır. Üst ajana asla dokunmaz. (Ayır)
Çıktı: sıkıştırılmış bir research.md — dosya yolları, fonksiyon imzaları, kalıplar, tuzaklar. (Yaz)
Bağlam sıfırlama: ham araştırma pencerenin %60-80'ini kullandı. Araştırma yapıtı bunu %15-20'ye sıkıştırır. (Sıkıştır)
Aşama 2 — Planlama
Yeni bağlam penceresi. Yalnızca şunları içerir: araştırma belgesi + problem tanımı.
Ajan ayrıntılı bir uygulama planı üretir.
Bu en önemli insan inceleme kontrol noktasıdır.
Düzeltmesi kolay ve ücretsizken mantık hatalarını burada yakalayın. Daha sonra saatlere mal olur.
Aşama 3 — Uygulama
Bir başka yeni bağlam penceresi. Yalnızca şunları içerir: plan.
Ajan onu adım adım takip eder.
Karmaşık görevler için: bir progress.md, tamamlananları ve kalanları takip eder. (Yaz)
Sonuç: her aşamada temiz, odaklanmış bir ajan. Kirlenme yok. Bağlam çürümesi yok. "20. adımda savsaklama" yok.
En iyi platformlar bunu nasıl farklı şekilde ele alıyor?
Claude Code
Hibrit getirme. CLAUDE.md önden yüklenir. glob ve grep gibi araçlar tam zamanında kod tabanı gezintisini halleder.
%95'te otomatik sıkıştırma — mimari kararlarına ve en son erişilen 5 dosyaya öncelik verir.
Karmaşık alt görevler için, her biri kendi temiz bağlamına sahip alt-ajanlar oluşturabilir.
Felsefe: "işe yarayan en basit şeyi yap." Modelin neye ihtiyacı olduğu konusunda akıllı olmasına izin verin ve bulması için ona araçlar verin.
Manus
KV-önbellek bilinçli bağlam sıralaması: kararlı önek, dinamik sonek. Araç kaldırma değil, araç maskeleme.
Gözlem sıkıştırma hattı — her araç çıktısı ajanın bağlamına girmeden önce işlenir.
Durum takibi için kalıcı yapılacaklar listesi.
Çıkarılan bağlam için taşma belleği olarak dosya sistemi.
Ölçek için inşa edildi. Verimliliğin bir işletme maliyeti sorunu olduğu yüz binlerce kullanıcıya hizmet veriyor.
ChatGPT Agent
Görsel-ilk yaklaşım. Ajan bir GUI tarayıcısıyla etkileşime girer.
Görsel anlık görüntüler olarak bağlama eklenen ekran görüntüleri. Model, gördükleri üzerinde akıl yürütür.
Görsel token'lar pahalıdır, bu nedenle ajan ekran görüntüsü sayısı konusunda seçicidir.
Açıkça programlamak yerine, binlerce sanal makine üzerinde en uygun araç kullanma stratejilerini öğrenmek için RL kullanır.
Google ADK
En ilkeli mimari yaklaşım.
Üç tasarım ilkesi:
- Depolamayı sunumdan ayırın — kalıcı durum, her API çağrısında görünenle aynı şey değildir
- Açık dönüşümler — bağlamı test edilebilir, birleştirilebilir adımlarda dönüştüren adlandırılmış, sıralı işlemciler
- Bağlamı varsayılan olarak kapsamlandırın — her model çağrısı yalnızca gerekli minimum bilgiyi görür
Prompt hazırlama üzerine mühendislik disiplini.
Evrensel ajan turu hattı
Her ciddi platform, ajan turu başına aynı 5 adımlı döngüde birleşir:
→ Topla — kullanıcı girdisi, konuşma geçmişi, araç sonuçları, alınan belgeler, ajan durumu
→ Seç — kalan token bütçesi dahilinde bu adım için neyin alakalı olduğu
→ Sıkıştır — bağlama sığdırmak için özetle, kısalt veya yeniden yapılandır
→ Düzenle — önce kararlı içerik (önbellek), en son dinamik içerik
→ Birleştir + çağır — son bağlam → API çağrısı → çıktıyı al → döngü
Bu, şimdiye kadar kullandığınız her üretim ajanının içinde çalışan döngüdür.
Bunu anlamak, güvenilir ajanlar gönderen geliştiricileri, ajanlarının neden 15. adımda savsakladığını merak eden geliştiricilerden ayıran şeydir.
Özet
Bağlam çürümesi gerçektir ve bağlam sınırınızdan çok önce başlar.
Bunu düzelten 4 strateji:
→ Yaz — bilgiyi bağlam dışında kalıcı hale getirin ki ajanlar unutmasın
→ Seç — yalnızca bu adım için gerekeni içeri çekin
→ Sıkıştır — token'ları kesin, anlamı koruyun, reaktif değil proaktif olun
→ Ayır — ayrı işler için ayrı bağlamlar, kirlenme yok
İzlenecek 4 başarısızlık modu:
→ Zehirlenme — kötü veri her adımda birikir
→ Dikkat Dağıtması — uzun geçmiş ajanların düşünmek yerine tekrarlamasına neden olur
→ Karmaşa — çok fazla araç karar kalitesini düşürür
→ Çatışma — çelişkiler tutarsız davranış üretir
KV-önbellek, 10 kat maliyet tasarrufuna değer. Kararlı içeriği önce koyun.
En iyi iş akışı: araştır → sıkıştır → planla → sıkıştır → uygula. Her aşamada yeni bağlam.
Bağlam mühendisliği, ciddi ajan çalışmaları için isteğe bağlı değildir.
İşin kendisidir.
Bu faydalıysa:
→ Tanıdığınız her ajan geliştiricisiyle paylaşmak için tekrar paylaşın
→ Daha fazla siz uyurken çalışan sistemler için @sairahul1'i takip edin
→ Bunu yer imlerine ekleyin — 4 strateji çerçevesine geri döneceksiniz
Yapay zeka, ürün geliştirme ve gerçekten çalışan sistemler hakkında yazıyorum.
