Uvnitř HotKV
Štítky
Engineering.Změřeno a vysvětleno.
Procházejte články blogu HotKV podle témat, například benchmarky, vektorové vyhledávání, sémantická cache, náklady na LLM, kompatibilita s Redisem a architektura.
Benchmarky
Změřené výsledky HotKV s konfiguracemi testů, srovnávanými systémy, omezeními zátěží a důkazy, které za tvrzeními o výkonu stojí.
1 článekVektorové vyhledávání
Vyhledávání HNSW v HotKV: recall, propustnost dotazů, rychlost příjmu dat a spotřeba paměti na datových sadách, které jsme testovali.
2 článkyRedis
Srovnání HotKV a Redisu, kompatibilita protokolu a rozhodování o nasazení, s verzemi a podmínkami za každým benchmarkem.
2 článkyVýkon
Jak si HotKV vede při změřených zátěžích, od propustnosti příkazů po vektorové dotazy, s kontextem hardwaru a konfigurace.
4 článkyLLM
HotKV v aplikacích s jazykovými modely: volání modelů, účtování tokenů, opětovné využití odpovědí a kompromisy v kvalitě u sémantického cachování.
2 článkySémantické cachování
Cachování odpovědí s přesnou i sémantickou shodou v HotKV, včetně prahů podobnosti, míry zásahů a toho, jak hodnotíme kvalitu odpovědí.
2 článkyOptimalizace nákladů
Změřené náklady na API a úspory tokenů s HotKV, včetně cenových předpokladů, závislosti na zátěži a mezí extrapolace.
1 článekVydání
Produktová oznámení a vydání HotKV, s kontextem o jádru, podporovaných funkcích a o tom, kde najít aktuální dokumentaci.
1 článekArchitektura
Návrhová rozhodnutí za jádrem HotKV v C++, souběžné provádění příkazů, správa paměti a kompatibilita se známými klienty Redisu.
2 článkyAI agenti
Paměť, nástroje a napojení pro AI agenty na HotKV, včetně úložiště konverzací a událostí, serveru MCP a bezpečné, omezené práce se stavem agenta.
2 článkyCachování promptů
Cachování promptů u poskytovatele a cachování odpovědí pro aplikace s LLM: co každé ušetří na tokenech a nákladech a kde přestává pomáhat.
2 článkyPaměť agentů
Konverzační, sémantická, pracovní a epizodická paměť pro AI agenty, s příkazy HotKV, pravidly uchovávání a způsoby selhání, s nimiž je třeba počítat.
2 článkyMCP
Servery Model Context Protocol pro AI asistenty, včetně open-source serveru HotKV MCP s pevnou sadou nástrojů, režimem jen pro čtení a jmennými prostory.