AI 与 LLM检索Performance 和 Scale 套餐

RAG 知识助手

基于您自己的文档回答问题,分块、元数据过滤、向量与关键词混合搜索以及缓存的重排分数,集于一个引擎。

种分块策略
3
向量 + BM25 搜索
混合
个额外的向量数据库
0
步骤 1 / 5
定义管道

每个段落一个分块。使用您的嵌入模型的维度(这里用 3 让示例保持简短)。

示例会话playing
# 定义管道
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

使用真实 HotKV 命令和示例回复的动画演示。点击任意步骤即可跳转。 命令和回复保持英文,与您在 HotKV 中输入和看到的完全一致。

问题所在

一条检索管道通常意味着一个向量数据库、一个关键词索引、一个分块任务、一个重排器,以及它们之间的胶水代码。每个组件都是又一个需要运行、加固并与文档保持同步的服务,而重排往往是最慢、最贵的一步。

HotKV 如何解决

HotKV 把管道放进已经在为您的应用提供服务的引擎中。定义管道,导入文档,然后搜索。分块、文档元数据以及融合向量相似度与 BM25 关键词评分的混合搜索全部在服务器端运行,重排缓存还会保存 cross-encoder 分数,同一组查询与段落绝不会被评分两次。

逐步演示

逐条命令,看看发生了什么

  1. 01

    定义管道

    每个段落一个分块。使用您的嵌入模型的维度(这里用 3 让示例保持简短)。

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    导入文档

    每个文档都在服务器端分块,并与其元数据以及每个分块一个向量一起存储。

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    混合搜索

    一次查询同时考虑向量相似度和关键词相关性,并限定在一个来源内。

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    重排,但只做一次

    cross-encoder 的分数按查询和分块缓存在用 RERANK.CREATE 创建的命名空间中,热门查询不必再次为重排付费。

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    作答,并检查管道

    最佳分块作为上下文交给模型,答案来自帮助中心而不是猜测。RAG.STATS 显示管道中存有的内容。

    RAG.STATS faq
适用场景

真实场景

帮助中心助手

文章和已解决的工单在导入时以产品和语言作为元数据。每个答案都以对应产品的文档为依据。

法律与政策检索

合同和政策按段落拆分,检索到的段落都是完整的条款,关键词评分还能捕捉条款编号等精确术语。

工程知识

运维手册、设计文档和事后复盘都可以被值班助手按语义搜索。

内置功能

您将获得

引擎内分块

支持固定大小、按句子或按段落分块。固定大小分块的大小和重叠由您选择。

RAG.CREATE

混合搜索

一次查询结合向量相似度和 BM25 关键词评分,由 ALPHA 设定两者的权衡。

RAG.SEARCH

元数据过滤

导入时附加键值对,搜索时按它们过滤。

RAG.INGESTFILTER

重排缓存

保存查询与段落组合的 cross-encoder 分数,重复的评分完全免费。

RERANK.GETRERANK.SET

常见问题

HotKV 会生成嵌入吗?

不会。您用自己偏好的模型生成嵌入,导入时通过 VECTORS 传入,搜索时通过 VECTOR 传入。

可以不用向量进行搜索吗?

可以。RAG.SEARCH 接收查询文本用于关键词评分,VECTOR 选项则加入向量相似度。ALPHA 设定两种分数如何融合。

哪些套餐包含此功能?

RAG 管道和重排缓存包含在 Performance 和 Scale 套餐中。

相关用例

在您自己的工作负载上试试

HotKV 兼容 Redis 协议,您可以把现有客户端指向它,运行这些相同的命令。