AI 与 LLM个性化Performance 和 Scale 套餐

实时推荐

一轮读取即可完成个性化推荐。用户特征、按向量找出的相似条目和实时热门内容,再去掉用户已经看过的。

种信号,一台服务器
4
个已看条目被重复推荐
0
热门计数
实时
步骤 1 / 6
统计热门内容

Top-K 列表已事先用 TOPK.RESERVE 创建一次。每次浏览都会更新它,被挤出前列的条目会被报告回来。

示例会话playing
# 统计热门内容
hotkv> TOPK.ADD trending:shoes sku:88 sku:17 sku:88
1) (nil)
2) (nil)
3) (nil)

使用真实 HotKV 命令和示例回复的动画演示。点击任意步骤即可跳转。 命令和回复保持英文,与您在 HotKV 中输入和看到的完全一致。

问题所在

好的推荐要综合用户是谁、与其喜欢的内容相似的是什么、当下什么最热门,以及用户已经看过什么。这些信号通常分散在四个系统中,在请求时把它们拼起来,会让每个页面都多出延迟。

HotKV 如何解决

HotKV 同时容纳这四种信号。特征存储保存用户画像,向量索引查找相似条目,Top-K 结构在事件到达时跟踪热门内容,每个用户的 Bloom 过滤器则移除其已看过的条目。推荐服务只需几次调用,就能从一台服务器上读到全部信息。

逐步演示

逐条命令,看看发生了什么

  1. 01

    统计热门内容

    Top-K 列表已事先用 TOPK.RESERVE 创建一次。每次浏览都会更新它,被挤出前列的条目会被报告回来。

    TOPK.ADD trending:shoes sku:88 sku:17 sku:88
  2. 02

    加载用户特征

    供排序模型使用的画像和行为特征,并附带其时效。

    FEATURE.GET user_features user:42
  3. 03

    查找相似条目

    用户的偏好向量找出最接近的商品。

    VSIM.SEARCH items 20 0.31 0.12 0.77 ...
  4. 04

    去掉已看过的

    每个用户一个 Bloom 过滤器,一次调用即可为整个候选列表回答“以前看过吗?”。

    BF.MEXISTS seen:user:42 sku:88 sku:5 sku:17
  5. 05

    混入热门内容

    当前的畅销品加入候选,由排序模型确定最终列表的顺序。

    TOPK.LIST trending:shoes WITHCOUNT
  6. 06

    记录曝光

    已展示的条目被加入该用户的过滤器,明天就不会重复出现。

    BF.MADD seen:user:42 sku:5 sku:17
适用场景

真实场景

零售与交易平台

“猜你喜欢”栏位将相似商品与当下热销品混合,并且在一次会话中绝不重复展示同一条目。

媒体与流媒体

首页按偏好向量和实时热度对节目排序,并跳过观众已经看完的作品。

新闻与内容信息流

文章按主题相似度推荐,热门报道则实时上升。

内置功能

您将获得

特征存储

按用户或条目存放带类型的特征,在推理时以低延迟读取。

FEATURE.GETFEATURE.BATCH

相似条目

从 HNSW 向量索引中获取最近邻。

VSIM.SEARCH

当下热门

Top-K 在事件流中保留出现频率最高的条目。

TOPK.ADDTOPK.LIST

已看过滤

Bloom 过滤器以每用户固定的内存回答“以前看过吗?”。

BF.MADDBF.MEXISTS

常见问题

Bloom 过滤器会出错吗?

它偶尔会把没看过的条目判定为看过,误判率由您在 BF.RESERVE 中设定。它绝不会把看过的条目判定为没看过。

排序模型在哪里运行?

在您自己的服务中。HotKV 以低延迟提供特征和候选,由您的模型决定最终顺序。

哪些套餐包含此功能?

特征存储包含在 Performance 和 Scale 套餐中。向量搜索、Top-K 和 Bloom 过滤器在所有套餐中均可使用。

相关用例

在您自己的工作负载上试试

HotKV 兼容 Redis 协议,您可以把现有客户端指向它,运行这些相同的命令。