迭代语气的产品团队
文案人员每天调整助手的语气,无需等待工程发布,最近的版本也都会保留。
在数据层对系统提示词进行版本管理,一次性向所有服务发布新版本,出现问题时一条命令即可回滚。
客服智能体系统提示词的第一个版本。
使用真实 HotKV 命令和示例回复的动画演示。点击任意步骤即可跳转。 命令和回复保持英文,与您在 HotKV 中输入和看到的完全一致。
系统提示词的改动比代码更频繁,却通常写在代码里。每次微调都要部署一次,不同服务逐渐用上不同的版本,而当凌晨两点新提示词让助手表现变差时,回滚又意味着再发一次版本。
提示词注册表在 HotKV 中保存每个模板的每一个版本。服务在运行时读取当前生效的版本,编辑者用一条命令发布新版本,而切换生效版本只是一次原子操作,每个服务在下一次读取时都会看到。
客服智能体系统提示词的第一个版本。
PROMPT.PUT support-agent "You are a helpful support agent."每个服务都在运行时获取模板,而不是把它编译进代码。
PROMPT.GET support-agent一个带有作者元数据的新版本。它同时对所有服务生效。
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"答案变得过于简短。一条命令就让版本 1 重新生效。无需部署,无需重启。
PROMPT.SETACTIVE support-agent 1最近的版本保留在注册表中,默认 64 个,您可以比较它们,或回到其中任意一个。
PROMPT.VERSIONS support-agent文案人员每天调整助手的语气,无需等待工程发布,最近的版本也都会保留。
聊天、邮件起草和摘要都读取同一个模板,因此一次修复会在同一时刻覆盖所有地方。
当提示词改动导致生产环境中出现糟糕的答案时,值班人员用一条命令在几秒内完成回滚。
每次 PROMPT.PUT 都会新增一个版本并使其生效。最近的版本会被保留,默认 64 个。
PROMPT.PUTPROMPT.VERSIONS服务只需一次调用即可读取生效版本或某个指定版本。
PROMPT.GETPROMPT.LATEST以原子方式切换生效版本。
PROMPT.SETACTIVE为每个版本附上作者、修改原因或实验 id。
META不需要。服务在运行时读取生效版本,因此下一次读取就会返回新版本。
可以。在 CI 中用 PROMPT.PUT 发布,这样 Git 仍是评审的依据,而 HotKV 提供线上版本。
提示词注册表包含在 Performance 和 Scale 套餐中。