AI och LLMLLM-applikationerPlanerna Performance och Scale

Versionshantering och återställning av prompter

Versionshantera dina systemprompter i datalagret, rulla ut en ny till alla tjänster på en gång och gå tillbaka med ett kommando när den uppför sig illa.

kommando för att gå tillbaka
1
nya driftsättningar
0
senaste versioner som sparas som standard
64
Steg 1 av 5
Publicera version 1

Den första versionen av supportagentens systemprompt.

Exempelsessionplaying
# Publicera version 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

En animerad genomgång med riktiga HotKV-kommandon och exempelsvar. Klicka på valfritt steg för att hoppa dit. Kommandon och svar förblir på engelska, precis som du skriver och ser dem i HotKV.

Problemet

Systemprompter ändras oftare än kod, men de ligger oftast i koden. Varje justering är en driftsättning, olika tjänster glider isär till olika versioner, och när en ny prompt gör assistenten sämre klockan 02 på natten innebär en återställning ännu en release.

Så löser HotKV det

Promptregistret behåller varje version av varje mall i HotKV. Tjänsterna läser den aktiva versionen vid körning, en redaktör publicerar en ny version med ett kommando, och valet av aktiv version är en enda atomär växling som varje tjänst ser vid sin nästa läsning.

Steg för steg

Vad som händer, kommando för kommando

  1. 01

    Publicera version 1

    Den första versionen av supportagentens systemprompt.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Tjänsterna läser den aktiva versionen

    Varje tjänst hämtar mallen vid körning i stället för att kompilera in den.

    PROMPT.GET support-agent
  3. 03

    Rulla ut version 2

    En ny version med metadata om vem som skrev den. Den blir aktiv för alla tjänster på en gång.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Något är fel, så gå tillbaka

    Svaren blev för korta. Ett kommando gör version 1 aktiv igen. Ingen driftsättning, ingen omstart.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Granska historiken

    De senaste versionerna finns kvar i registret, 64 som standard, så att du kan jämföra dem eller gå tillbaka till någon av dem.

    PROMPT.VERSIONS support-agent
Där det passar

Verkliga scenarier

Produktteam som finjusterar tonen

Skribenter justerar assistentens röst varje dag utan att vänta på en teknisk release, och de senaste versionerna sparas.

Plattformar med flera tjänster

Chatt, e-postutkast och sammanfattning läser samma mall, så en rättelse landar överallt i samma ögonblick.

Incidenthantering

När en promptändring ger dåliga svar i produktion går jourhavande tillbaka på några sekunder med ett kommando.

Inbyggt

Det här får du

Versionerade mallar

Varje PROMPT.PUT lägger till en version och gör den aktiv. De senaste versionerna sparas, 64 som standard.

PROMPT.PUTPROMPT.VERSIONS

Läs vid körning

Tjänsterna läser den aktiva versionen, eller en specifik, med ett enda anrop.

PROMPT.GETPROMPT.LATEST

Omedelbar återställning

Växla aktiv version atomärt.

PROMPT.SETACTIVE

Metadata

Spara författare, orsak till ändringen eller ett experiment-id med varje version.

META

Vanliga frågor

Behöver tjänsterna startas om efter en ändring?

Nej. De läser den aktiva versionen vid körning, så nästa läsning returnerar den nya.

Kan jag ha mina prompter i Git också?

Ja. Publicera från CI med PROMPT.PUT, så förblir Git källan för granskning och HotKV serverar den aktiva versionen.

Vilka planer innehåller den?

Promptregistret ingår i planerna Performance och Scale.

Relaterade användningsfall

Prova på din egen arbetslast

HotKV talar Redis-protokollet, så du kan peka en befintlig klient mot det och köra samma kommandon.