Norbert E. Boros mendirikan HotKV Ltd dan menulis HotKV dari nol dengan C++ modern. Ia memiliki pengalaman komersial lebih dari satu dekade sebagai developer, sebagian besar dalam C dan C++, termasuk perangkat lunak anti-cheat dan sistem yang kritis bagi misi. Di blog ini ia membagikan pembaruan produk, wawasan rekayasa, dan benchmark di balik HotKV.
Memori agen AI lebih dari sekadar jendela konteks panjang. Empat jenis yang dibutuhkan agen, cara menyimpan tiap jenis, dan apa yang tidak boleh masuk, dengan perintah HotKV.
Server MCP memberi Claude Code atau Cursor memori di HotKV lewat 28 tool tetap. Pasang, hubungkan, dan batasi dengan mode baca-saja dan namespace.
Prompt caching membuat prefiks yang berulang lebih murah, semantic caching menghilangkan panggilan model. Cara kerjanya, apa yang kami ukur, dan kapan memakai yang mana.
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Mengapa saya membangun HotKV, data store multithread yang kompatibel dengan Redis dalam C++ modern, apa yang ditawarkannya hari ini, dan hasilnya dalam benchmark kami.