Norbert E. Boros založil společnost HotKV Ltd a napsal HotKV od nuly v moderním C++. Má více než deset let komerční praxe jako vývojář, převážně v C a C++, včetně anticheatového softwaru a kritických systémů. Na tomto blogu sdílí produktové novinky, technické poznatky a benchmarky, které za HotKV stojí.
Paměť AI agentů je víc než dlouhé kontextové okno. Čtyři druhy, které agent potřebuje, jak každý uložit a co do nich nepatří, s příkazy HotKV.
Server MCP dává Claude Code nebo Cursoru paměť v HotKV pomocí 28 pevných nástrojů. Nainstalujte ho, připojte a omezte pomocí režimu jen pro čtení a jmenných prostorů.
Cachování promptů zlevní opakovaný prefix. Sémantické cachování odstraní volání modelu. Jak každé funguje, co jsme změřili a které kdy použít.
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Proč jsem vytvořil HotKV, multithreadové datové úložiště kompatibilní s Redisem napsané od nuly v moderním C++, co nabízí dnes a jak dopadlo v našem benchmarku.