IA e LLMAplicações de LLMPlanos Performance e Scale

Versionamento e rollback de prompts

Versione seus prompts de sistema na camada de dados, publique um novo para todos os serviços de uma vez e faça rollback com um comando quando ele se comportar mal.

comando para o rollback
1
novos deploys
0
versões recentes mantidas por padrão
64
Etapa 1 de 5
Publique a versão 1

A primeira versão do prompt de sistema do agente de suporte.

Sessão de exemploplaying
# Publique a versão 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Uma demonstração animada com comandos reais do HotKV e respostas de exemplo. Clique em qualquer etapa para ir direto a ela. Os comandos e as respostas ficam em inglês, exatamente como você os digita e vê no HotKV.

O problema

Os prompts de sistema mudam com mais frequência que o código, mas costumam ficar no código. Cada ajuste é um deploy, serviços diferentes vão parar em versões diferentes e, quando um prompt novo piora o assistente às 2 da manhã, voltar atrás significa outra release.

Como o HotKV resolve

O registro de prompts guarda todas as versões de cada template no HotKV. Os serviços leem a versão ativa em tempo de execução, quem edita publica uma versão nova com um comando, e escolher a versão ativa é uma troca atômica única que todos os serviços enxergam na próxima leitura.

Passo a passo

O que acontece, comando por comando

  1. 01

    Publique a versão 1

    A primeira versão do prompt de sistema do agente de suporte.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Os serviços leem a versão ativa

    Cada serviço busca o template em tempo de execução, em vez de compilá-lo junto.

    PROMPT.GET support-agent
  3. 03

    Publique a versão 2

    Uma versão nova com metadados sobre quem a escreveu. Ela fica ativa para todos os serviços de uma vez.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Algo deu errado, então faça rollback

    As respostas ficaram secas demais. Um comando torna a versão 1 ativa de novo. Sem deploy, sem reinício.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Audite o histórico

    As versões recentes ficam no registro, 64 por padrão, para você compará-las ou voltar a qualquer uma delas.

    PROMPT.VERSIONS support-agent
Onde se encaixa

Cenários reais

Times de produto ajustando o tom

Redatores ajustam a voz do assistente todo dia sem esperar uma release de engenharia, e as versões recentes ficam guardadas.

Plataformas com vários serviços

Chat, redação de e-mails e resumos leem o mesmo template, então uma correção chega a todos no mesmo instante.

Resposta a incidentes

Quando uma mudança de prompt causa respostas ruins em produção, o plantão faz rollback em segundos com um comando.

Integrado

O que você ganha

Templates versionados

Cada PROMPT.PUT adiciona uma versão e a torna ativa. As versões mais recentes são mantidas, 64 por padrão.

PROMPT.PUTPROMPT.VERSIONS

Leitura em tempo de execução

Os serviços leem a versão ativa, ou uma específica, com uma única chamada.

PROMPT.GETPROMPT.LATEST

Rollback instantâneo

Troque a versão ativa de forma atômica.

PROMPT.SETACTIVE

Metadados

Guarde o autor, o motivo da mudança ou o id de um experimento com cada versão.

META

Perguntas frequentes

Os serviços precisam reiniciar depois de uma mudança?

Não. Eles leem a versão ativa em tempo de execução, então a próxima leitura retorna a nova.

Posso manter meus prompts no Git também?

Sim. Publique a partir do CI com PROMPT.PUT, assim o Git continua sendo o lugar da revisão e o HotKV serve a versão em produção.

Quais planos incluem o recurso?

O registro de prompts faz parte dos planos Performance e Scale.

Casos de uso relacionados

Experimente com a sua própria carga de trabalho

O HotKV fala o protocolo Redis, então você pode apontar um cliente existente para ele e executar estes mesmos comandos.