走进 HotKV
标签
工程。实测并解读。
按主题浏览 HotKV 博客文章,包括基准测试、向量搜索、语义缓存、LLM 成本、Redis 兼容性和架构。
基准测试
HotKV 的各项实测结果,包括测试配置、参与对比的系统、工作负载的局限性,以及支撑各项性能结论的具体证据。
1 篇文章向量搜索
HotKV 中的 HNSW 向量搜索,涵盖在我们测试过的数据集上的召回率、查询吞吐量、导入速度和内存占用。
2 篇文章Redis
HotKV 与 Redis 的对比、协议兼容性与部署方式的选择,并注明每项基准测试背后所用的版本和测试条件。
2 篇文章性能
HotKV 在各类实测工作负载下的性能表现,覆盖从命令吞吐量到向量查询的各个方面,并附上相应的硬件与配置背景。
4 篇文章LLM
在大语言模型应用中使用 HotKV:模型调用、Token 计量、响应复用,以及语义缓存在答案质量上的权衡。
2 篇文章语义缓存
使用 HotKV 实现精确缓存与语义答案缓存,内容涵盖相似度阈值、缓存命中率,以及我们如何评估答案的质量。
2 篇文章成本优化
使用 HotKV 实测的 API 成本与 Token 节省,包括定价假设、对工作负载的敏感性,以及外推的局限。
1 篇文章版本发布
HotKV 的产品公告与版本发布,介绍引擎的相关背景、目前已经支持的功能,以及可以在哪里查阅最新的产品文档。
1 篇文章架构
HotKV C++ 引擎背后的设计选择:并发命令执行、内存管理,以及与常用 Redis 客户端的兼容性。
2 篇文章AI 智能体
HotKV 上 AI 智能体的记忆、工具与连接,包括对话与事件存储、MCP 服务器,以及如何让智能体状态保持安全且有边界。
2 篇文章提示缓存
面向 LLM 应用的服务商提示缓存与响应缓存,说明两者各自节省多少 token 与成本,以及在哪些场景不再有效。
2 篇文章智能体记忆
AI 智能体的对话、语义、工作与情景记忆,附 HotKV 命令、保留规则,以及需要提前防范的常见故障。
2 篇文章MCP
面向 AI 助手的 Model Context Protocol 服务器,包括开源的 HotKV MCP 服务器、固定工具集、只读模式与命名空间。