AI 与 LLMLLM 应用Performance 和 Scale 套餐

提示词版本管理与回滚

在数据层对系统提示词进行版本管理,一次性向所有服务发布新版本,出现问题时一条命令即可回滚。

条命令即可回滚
1
次重新部署
0
个最近版本,默认保留
64
步骤 1 / 5
发布版本 1

客服智能体系统提示词的第一个版本。

示例会话playing
# 发布版本 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

使用真实 HotKV 命令和示例回复的动画演示。点击任意步骤即可跳转。 命令和回复保持英文,与您在 HotKV 中输入和看到的完全一致。

问题所在

系统提示词的改动比代码更频繁,却通常写在代码里。每次微调都要部署一次,不同服务逐渐用上不同的版本,而当凌晨两点新提示词让助手表现变差时,回滚又意味着再发一次版本。

HotKV 如何解决

提示词注册表在 HotKV 中保存每个模板的每一个版本。服务在运行时读取当前生效的版本,编辑者用一条命令发布新版本,而切换生效版本只是一次原子操作,每个服务在下一次读取时都会看到。

逐步演示

逐条命令,看看发生了什么

  1. 01

    发布版本 1

    客服智能体系统提示词的第一个版本。

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    服务读取生效版本

    每个服务都在运行时获取模板,而不是把它编译进代码。

    PROMPT.GET support-agent
  3. 03

    发布版本 2

    一个带有作者元数据的新版本。它同时对所有服务生效。

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    出了问题,回滚

    答案变得过于简短。一条命令就让版本 1 重新生效。无需部署,无需重启。

    PROMPT.SETACTIVE support-agent 1
  5. 05

    审计历史

    最近的版本保留在注册表中,默认 64 个,您可以比较它们,或回到其中任意一个。

    PROMPT.VERSIONS support-agent
适用场景

真实场景

迭代语气的产品团队

文案人员每天调整助手的语气,无需等待工程发布,最近的版本也都会保留。

多服务平台

聊天、邮件起草和摘要都读取同一个模板,因此一次修复会在同一时刻覆盖所有地方。

事故响应

当提示词改动导致生产环境中出现糟糕的答案时,值班人员用一条命令在几秒内完成回滚。

内置功能

您将获得

带版本的模板

每次 PROMPT.PUT 都会新增一个版本并使其生效。最近的版本会被保留,默认 64 个。

PROMPT.PUTPROMPT.VERSIONS

运行时读取

服务只需一次调用即可读取生效版本或某个指定版本。

PROMPT.GETPROMPT.LATEST

即时回滚

以原子方式切换生效版本。

PROMPT.SETACTIVE

元数据

为每个版本附上作者、修改原因或实验 id。

META

常见问题

修改之后服务需要重启吗?

不需要。服务在运行时读取生效版本,因此下一次读取就会返回新版本。

我还能把提示词放在 Git 里吗?

可以。在 CI 中用 PROMPT.PUT 发布,这样 Git 仍是评审的依据,而 HotKV 提供线上版本。

哪些套餐包含此功能?

提示词注册表包含在 Performance 和 Scale 套餐中。

相关用例

在您自己的工作负载上试试

HotKV 兼容 Redis 协议,您可以把现有客户端指向它,运行这些相同的命令。