
AI 智能体记忆:四种类型及其存储方式
AI 智能体记忆不只是更长的上下文窗口。本文介绍智能体需要的四种记忆、各自的存储方式、哪些内容不该保存,并附 HotKV 命令。
Norbert E. Boros阅读文章 AI 智能体记忆:四种类型及其存储方式
Norbert E. Boros 创立了 HotKV Ltd,并用现代 C++ 从零编写了 HotKV。他拥有十余年的商业开发经验,主要使用 C 和 C++,涉及反作弊软件和关键任务系统。他在这个博客上分享产品动态、工程见解以及 HotKV 背后的基准测试。

AI 智能体记忆不只是更长的上下文窗口。本文介绍智能体需要的四种记忆、各自的存储方式、哪些内容不该保存,并附 HotKV 命令。

MCP 服务器通过 28 个固定工具,让 Claude Code 或 Cursor 在 HotKV 中拥有记忆。本文介绍安装、连接,以及用只读模式和命名空间加以限制。

提示词缓存让重复的提示词前缀读取更便宜,语义缓存则直接省去模型调用。本文说明两者的原理、我们的实测结果,以及何时该用哪一种。

HotKV 与 Redis 8.10.2 在 100,000 和 999,000 个嵌入向量上的向量搜索,1 到 100 个客户端:吞吐量、延迟、召回率、加载速度、内存与局限。

四个 Claude 模型,各处理 3,000 个客服请求:HotKV 缓存将模型调用、Token 和 API 成本降低了约 70%。附结果以及答案质量方面的取舍。

我为什么打造 HotKV,一款用现代 C++ 从零编写、兼容 Redis 的多线程数据存储,以及它的由来、目前提供的功能和基准测试结果。