
AI 代理記憶體:四種類型與儲存方式
AI 代理記憶體不只是更長的上下文視窗。介紹代理需要的四種記憶、各自的儲存方式與不該保留的內容,並附上 HotKV 指令。
Norbert E. Boros閱讀文章 AI 代理記憶體:四種類型與儲存方式
Norbert E. Boros 創辦了 HotKV Ltd,並以現代 C++ 從零開始撰寫 HotKV。他擁有十多年的商業開發經驗,主要使用 C 與 C++,領域包括反作弊軟體與關鍵任務系統。在這個部落格中,他分享產品更新、工程見解,以及 HotKV 背後的基準測試。

AI 代理記憶體不只是更長的上下文視窗。介紹代理需要的四種記憶、各自的儲存方式與不該保留的內容,並附上 HotKV 指令。

MCP 伺服器透過 28 個固定工具,讓 Claude Code 或 Cursor 在 HotKV 中擁有記憶。介紹安裝、連接,以及用唯讀模式與命名空間加以限制。

提示詞快取讓重複的提示詞前綴讀取更便宜,語意快取則直接省去模型呼叫。本文說明兩者的原理、我們的實測結果,以及何時該用哪一種。

HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.

Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.

我為什麼打造 HotKV:一套以現代 C++ 從零開始撰寫、相容 Redis 的多執行緒資料儲存系統,以及它目前提供的功能和基準測試結果。