走進 HotKV
標籤
工程。實測,並加以說明。
依主題瀏覽 HotKV 部落格文章,包括基準測試、向量搜尋、語意快取、LLM 成本、Redis 相容性與架構。
基準測試
HotKV 的實測結果,包括測試設定、比較對象、工作負載的限制,以及效能說法所依據的各項證據與數據來源。
1 篇文章向量搜尋
HotKV 的 HNSW 向量搜尋,涵蓋我們測試過的資料集上的召回率、查詢吞吐量、寫入速度與記憶體用量。
2 篇文章Redis
HotKV 與 Redis 的比較、協定相容性與部署選擇,並標明每項基準測試所用的版本與測試條件,方便您對照。
2 篇文章效能
HotKV 在實測工作負載下的表現,從指令吞吐量到向量查詢,並附上硬體與設定的背景資訊,方便您對照參考。
4 篇文章LLM
在語言模型應用中使用 HotKV:模型呼叫、Token 計量、回應重複利用,以及語意快取在品質上的取捨。
2 篇文章語意快取
使用 HotKV 進行精確與語意的回答快取,包括相似度門檻、快取命中率,以及我們評估回答品質的方式。
2 篇文章成本最佳化
使用 HotKV 後實測的 API 成本與 Token 節省量,包括定價假設、對工作負載的敏感度,以及外推的限制。
1 篇文章版本發布
HotKV 的產品公告與版本發布,說明引擎本身、所支援的功能,以及在哪裡可以找到最新的文件資料與說明。
1 篇文章架構
HotKV C++ 引擎背後的設計選擇、並行指令執行、記憶體管理,以及與常見 Redis 用戶端的相容性。
2 篇文章AI 代理
在 HotKV 上為 AI 代理提供記憶體、工具與連線,包括對話與事件儲存、MCP 伺服器,以及如何安全且有界地管理代理狀態。
2 篇文章提示詞快取
LLM 應用的供應商提示詞快取與回應快取,說明兩者各能節省多少 Token 與成本,以及各自在哪裡不再有效。
2 篇文章代理記憶體
AI 代理的對話、語意、工作與情節記憶體,包含 HotKV 指令、保留規則,以及設計時需要防範的失效情形。
2 篇文章MCP
供 AI 助理使用的 Model Context Protocol 伺服器,包括開源的 HotKV MCP 伺服器、其固定的工具集、唯讀模式與命名空間。