HotKV'nin içinden
Etiketler
Mühendislik.Ölçülür ve açıklanır.
HotKV blog makalelerine konuya göre göz atın: kıyaslamalar, vektör arama, anlamsal önbellekleme, LLM maliyetleri, Redis uyumluluğu ve mimari.
Kıyaslamalar
Test yapılandırmaları, rakip sistemler, iş yükü sınırlamaları ve performans iddialarının arkasındaki kanıtlar dahil, ölçülmüş HotKV sonuçları.
1 makaleVektör arama
HotKV'de HNSW vektör araması: test ettiğimiz veri kümelerinde recall, sorgu verimi, alım hızı ve bellek kullanımı.
2 makaleRedis
HotKV ve Redis karşılaştırmaları, protokol uyumluluğu ve dağıtım tercihleri; her kıyaslamanın ardındaki sürümler ve koşullarla birlikte.
2 makalePerformans
HotKV'nin ölçülmüş iş yükleri altında, komut veriminden vektör sorgularına kadar nasıl performans gösterdiği; donanım ve yapılandırma bağlamıyla.
4 makaleLLM'ler
HotKV'yi dil modeli uygulamalarında kullanmak: model çağrıları, token muhasebesi, yanıt yeniden kullanımı ve anlamsal önbelleklemenin kalite ödünleşimleri.
2 makaleAnlamsal önbellekleme
HotKV ile birebir ve anlamsal yanıt önbellekleme: benzerlik eşikleri, önbellek isabet oranları ve yanıt kalitesini nasıl değerlendirdiğimiz.
2 makaleMaliyet optimizasyonu
HotKV ile ölçülmüş API maliyetleri ve token tasarrufu: fiyat varsayımları, iş yükü duyarlılığı ve tahminin sınırları.
1 makaleSürümler
HotKV ürün duyuruları ve sürümleri; motor, desteklenen yetenekler ve güncel belgelerin nerede bulunacağı hakkında bağlamla birlikte.
1 makaleMimari
HotKV'nin C++ motorunun arkasındaki tasarım tercihleri: eşzamanlı komut yürütme, bellek yönetimi ve tanıdık Redis istemcileriyle uyumluluk.
2 makaleYapay zeka ajanları
HotKV üzerinde yapay zeka ajanları için bellek, araçlar ve bağlantılar: konuşma ve olay depolama, MCP sunucusu ve ajan durumunu güvenli ve sınırlı tutma.
2 makalePrompt önbellekleme
LLM uygulamaları için sağlayıcı prompt önbellekleme ve yanıt önbellekleme: her birinin token ve maliyette neyi tasarruf ettirdiği ve nerede fayda sağlamayı bıraktığı.
2 makaleAjan belleği
Yapay zeka ajanları için konuşma, anlamsal, çalışma ve epizodik bellek: HotKV komutları, saklama kuralları ve karşı tasarım yapılması gereken hata kipleri.
2 makaleMCP
Yapay zeka asistanları için Model Context Protocol sunucuları: açık kaynaklı HotKV MCP sunucusu, sabit araç seti, salt okunur mod ve ad alanları.