Anthropic, agent belleğinin bileşenlerini ve “dreaming” adını verdiği çevrimdışı düzenlemeyi anlattı
Anthropic'in 6 Kasım'da yayımladığı araştırma yazısı, Claude'un oturumlar arası belleğini dört katmanda tarif ediyor: aranabilir transcript'ler, oturum sırasında ya da sonrasında yazılan bellek notları, ilişkili bilgiyi bağlayan wiki benzeri temsiller ve her oturuma yüklenen context. “Dreaming” denen çevrimdışı süreç transcript'leri gözden geçirip üstteki katmanları düzeltebiliyor. Yazının çıkış noktası, modelin neyin önemli olacağını bilmeden neyi hatırlayacağına karar vermek zorunda olması.
Şirketin kendi değerlendirmelerinde CL-Bench veritabanı görevinde Opus 5.5'in ortalama ödülü bellek olmadan 0,655, bellekle 0,838; Sonnet 4.6 ise yalnızca 0,330'dan 0,364'e çıkıyor, ancak iyileştirilmiş talimatlarla 0,641'e ulaşıyor. Yaklaşık 350 bin dosyalık bir derlemde wiki ile aramanın birlikte kullanımı %61, yalnızca arama %53 doğruluk verdi ve wiki soru başına yaklaşık 20.000 token tasarruf sağladı.
Pratik öneriler: modele belleğin ne için olduğunu söyleyip nasıl kullanacağını ona bırakmak (yalnızca hataları kaydet gibi katı kuralların güçlü modellerde kazancı düşürdüğü görülmüş), zayıf modellere kısa ve hedefli yönlendirme vermek, her oturuma yüklenen katmanı küçük tutup ayrıntıları linklerle aşağı taşımak ve paralel işlerde üzerine yazmayı önlemek için ayrı sayfalar kullanmak. Yazı, dreaming'in compute maliyetini, notların baştan yanlış olabileceğini ya da zamanla eskiyebileceğini ve sonuçların önemli kısmının Anthropic'in iç değerlendirmelerinden ve tekil koşulardan geldiğini çekince olarak belirtiyor.
Anthropic'in kendi değerlendirmesi.
Kaynak: Anthropic