一個引擎，所有工作負載。

適用於每一種工作負載

一個引擎，所有工作負載。

從 AI 助理、代理與檢索，到快取、佇列、排行榜與即時分析。在同一台多執行緒 HotKV™ 伺服器上，以真實指令逐步動畫呈現每一種工作負載。

個使用情境: 31
AI 與 LLM: 16
核心資料: 15
個引擎即可運行: 1

步驟 1 ／ 6

快取命中

商品頁面直接從記憶體提供，完全不碰資料庫。

範例工作階段playing

# 快取命中

hotkv> GET product:1001

AI 與 LLM

16

LLM 應用程式

AI 客服助理

重複的問題由快取回答，換句話說的問題依語意回答，全新的問題則取材自您的說明中心，並依每位客戶控管預算。

PCACHE.GETSCACHE.GETRAG.SEARCH

LLM 應用程式

快取式 LLM 閘道

將您的 OpenAI 或 Anthropic SDK 指向同一個 URL，就不必再為同一個請求付兩次錢。不需修改程式碼。

PCACHE.STATS

LLM 應用程式

語意回應快取

依語意快取 LLM 的回答，讓換句話說的問題也能命中快取，並略過模型呼叫。

SCACHE.CREATESCACHE.GETSCACHE.SET

LLM 應用程式

精確提示詞快取

同一個提示詞絕不付兩次錢，並依命名空間回報命中次數、延遲與節省的金額。

PCACHE.CREATEPCACHE.SETPCACHE.STATS

LLM 應用程式

提示詞版本管理與回復

在資料層管理系統提示詞的版本，一個指令即可回復，不需重新部署。

PROMPT.PUTPROMPT.GETPROMPT.SETACTIVE

檢索

RAG 知識助理

分塊、中繼資料篩選、混合向量與關鍵字搜尋，以及快取的重新排序分數，全都在同一個引擎中。

RAG.CREATERAG.INGESTRAG.SEARCH

檢索

向量相似度搜尋

依語意找出最接近的項目，可依標籤篩選，而且就在這些項目所描述的資料旁邊。

VSIM.CREATEINDEXVSIM.SETVSIM.SEARCH

個人化

即時推薦

使用者特徵、相似項目、即時趨勢與已看過項目的篩選，每個請求都從同一台伺服器讀取。

FEATURE.GETVSIM.SEARCHTOPK.LIST

代理

具備記憶的代理

為長時間運行的代理提供對話視窗、語意召回、工作記憶體與動作記錄。

AMEM.CONV.APPENDAMEM.SEM.RECALLAMEM.WORK.SET

代理

多代理編排

代理透過持久的任務串流交接工作，並共用記憶體與工具結果。

XREADGROUPXAUTOCLAIMTOOL.CACHE.GET

代理

代理工具呼叫快取

記憶化具決定性的工具呼叫，讓代理不必再為同一個 API 呼叫付兩次錢。

TOOL.CACHE.CREATETOOL.CACHE.GETTOOL.CACHE.SET

代理

LangGraph 檢查點

暫停、恢復與倒轉 LangGraph 代理，並提供可依語意搜尋的長期記憶。

代理

透過 MCP 為 AI 助理提供記憶體

透過安全的 MCP 伺服器，為 Claude、Cursor 或您自己的代理提供筆記、記憶體與文件搜尋。

LLM 營運

LLM 成本治理

依租戶設定 Token 與支出預算，並在呼叫模型之前以原子方式扣款。

LLMBUDGET.SETLLMBUDGET.CONSUMELLMSTATS.RECORD

LLM 營運

防護與內容審核快取

重播已通過驗證的回答，並立即擋下重複被拒絕的提示詞。

GUARD.SETGUARD.GETNCACHE.SET

機器學習

即時機器學習特徵庫

具型別的特徵由您的管線寫入，並由您的模型在推論時讀取，同時附帶其新舊程度。

FEATURE.CREATEFEATURE.SETFEATURE.GET

核心資料

15

效能

快取

不到一毫秒的讀取、細到奈秒的 TTL，以及依標籤失效，在每個核心上運行。

SETNEXPIRETAG.SET

網頁與行動

工作階段管理

會自行到期的工作階段，並可依使用者、角色或裝置查找或撤銷。

TAG.SETTAG.MEMBERSTAG.INTER

API

速率限制

單一指令的原子限制，支援 GCRA、滑動視窗、權杖桶或漏桶。

GCRA.LIMITRATELIMIT.CREATERATELIMIT.CHECK

遊戲

即時排行榜

分數進來時排名隨時保持排序，讀取與寫入可平行進行。

ZADDZINCRBYZREVRANGE

背景作業

工作佇列

先進先出的佇列，即使工作者當機也不會遺失任何工作。

BLMOVEBRPOPLPUSH

背景作業

事件串流

具備消費者群組、確認機制，並可回收卡住訊息的串流。

XADDXREADGROUPXACK

即時

即時聊天與通知

將訊息廣播給每個已連線的用戶端，並支援分片頻道與歷史記錄。

PUBLISHSUBSCRIBESPUBLISH

協調

分散式鎖

會自行到期，且只有持有者才能釋放的鎖。

SETDELEXDIGEST

電子商務

限時搶購與庫存

當成千上萬的人同時按下購買時，賣出的數量正好就是您的庫存，並擋下機器人。

DECRSETGCRA.LIMIT

金融科技

即時詐欺偵測

在付款路徑中提供速度計數器、封鎖清單、頻率估計與模型特徵。

BF.EXISTSCMS.QUERYFEATURE.GET

交通運輸

地理空間搜尋

根據即時位置找出最近的司機、外送員或門市。

GEOADDGEOSEARCHGEODIST

IoT

IoT 與指標時間序列

匯入樣本、依需要保留、降採樣，並可隨時按需彙總。

TS.CREATETS.ADDTS.DOWNSAMPLE

分析

即時分析

在事件發生的當下計數、為熱門趨勢排名，並找出熱鍵。

INCRZINCRBYHOTKEYS

分析

大規模計數

不重複使用者、成員資格、熱門項目與頻率，每一項都只用少量固定的記憶體。

PFADDBF.EXISTSTOPK.LIST

平台

多租戶 SaaS 後端

多位客戶共用一個叢集，以 ACL 隔離，並提供租戶及其使用者的登錄資料。

TENANT.CREATETENANT.BINDTENANT.STATS

依產業

以這些元件打造的真實系統

大多數產品結合了多種工作負載。以下是常見的組合，每一項都連結到它所使用的元件。

AI 產品與 Copilot

會快取、檢索、記憶，並控制在預算內的助理。

電子商務與市集平台

快速的商品目錄、準確的庫存數量，以及能促成轉換的推薦。

金融科技與支付

付款路徑中的詐欺訊號、嚴格的限制與安全的鎖定。

遊戲

即時排名、玩家工作階段、聊天，以及處理對戰結果的工作佇列。

媒體與串流

個人化首頁、熱門內容，以及即時的觀眾人數。

交通運輸與外送

即時位置、最近司機配對，以及不會重複預約的派遣。

IoT 與工業

為大量裝置提供遙測資料匯入、降採樣與事件處理。

B2B SaaS 平台

共用叢集上的租戶、依方案的限制，以及背景作業。

您的工作負載不在清單上嗎？

HotKV 支援 Redis 協定，並加入自己的 AI 引擎，因此您已經在使用的模式都能沿用。