Norbert E. Boros заснував HotKV Ltd і написав HotKV з нуля на сучасному C++. Він має понад десять років комерційного досвіду розробника, переважно на C і C++, зокрема в античит-програмах і критично важливих системах. У цьому блозі він ділиться оновленнями продукту, інженерними висновками та бенчмарками HotKV.
Пам'ять агента ШІ це більше, ніж довге контекстне вікно. Чотири види, потрібні агентові, як зберігати кожен і що в них не варто класти, з командами HotKV.
Сервер MCP дає Claude Code або Cursor пам'ять у HotKV через 28 фіксованих інструментів. Встановіть його, підключіть і обмежте режимом лише для читання та просторами імен.
Кешування промптів здешевлює повторюваний префікс. Семантичне кешування прибирає виклик моделі. Як працює кожне, що ми виміряли і що вибрати коли.
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Чому я створив HotKV, багатопотокове сховище даних, сумісне з Redis, написане з нуля на сучасному C++, що воно пропонує сьогодні і як показало себе в нашому бенчмарку.