Produktové týmy ladící tón
Textaři upravují hlas asistenta denně, aniž by čekali na vydání od vývoje, a poslední verze se uchovávají.
AI a LLMAplikace s LLMPlány Performance a Scale
Verzování promptů a návrat
Verzujte své systémové prompty v datové vrstvě, nasazujte nový ke všem službám najednou a vracejte se jedním příkazem, když se chová špatně.
- příkaz pro návrat
- 1
- nových nasazení
- 0
- posledních verzí ve výchozím stavu uchováno
- 64
Krok 1 z 5
Zveřejnění verze 1
První verze systémového promptu agenta podpory.
Ukázková relaceplaying
# Zveřejnění verze 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1
Animovaný průvodce se skutečnými příkazy HotKV a ukázkovými odpověďmi. Kliknutím na kterýkoli krok na něj přeskočíte. Příkazy a odpovědi zůstávají anglicky, přesně tak, jak je v HotKV zadáváte a vidíte.
Problém
Systémové prompty se mění častěji než kód, a přesto obvykle žijí v kódu. Každá úprava je nasazení, různé služby se rozcházejí na různých verzích, a když nový prompt ve 2 ráno zhorší asistenta, návrat znamená další release.
Jak to řeší HotKV
Registr promptů uchovává každou verzi každé šablony v HotKV. Služby čtou aktivní verzi za běhu, editor zveřejní novou verzi jedním příkazem a volba aktivní verze je jediný atomický přepínač, který každá služba uvidí při dalším čtení.
Krok za krokem
Co se děje, příkaz po příkazu
- 01
Zveřejnění verze 1
První verze systémového promptu agenta podpory.
PROMPT.PUT support-agent "You are a helpful support agent." - 02
Služby čtou aktivní verzi
Každá služba načítá šablonu za běhu místo toho, aby byla zkompilovaná dovnitř.
PROMPT.GET support-agent - 03
Nasazení verze 2
Nová verze s metadaty o tom, kdo ji napsal. Stane se aktivní pro všechny služby najednou.
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}" - 04
Něco nehraje, takže návrat
Odpovědi byly příliš strohé. Jeden příkaz znovu aktivuje verzi 1. Žádné nasazení, žádný restart.
PROMPT.SETACTIVE support-agent 1 - 05
Audit historie
Poslední verze zůstávají v registru, ve výchozím stavu 64, takže je můžete porovnávat nebo se k libovolné vrátit.
PROMPT.VERSIONS support-agent
Kam to zapadá
Scénáře z praxe
Platformy s více službami
Chat, psaní e-mailů a shrnování čtou stejnou šablonu, takže oprava dorazí všude ve stejný okamžik.
Řešení incidentů
Když změna promptu způsobí špatné odpovědi v produkci, pohotovostní služba se vrátí během vteřin jedním příkazem.
Zabudováno
Co dostanete
Verzované šablony
Každé PROMPT.PUT přidá verzi a udělá ji aktivní. Nejnovější verze se uchovávají, ve výchozím stavu 64.
PROMPT.PUTPROMPT.VERSIONSČtení za běhu
Služby čtou aktivní verzi nebo konkrétní verzi jedním voláním.
PROMPT.GETPROMPT.LATESTOkamžitý návrat
Atomicky přepněte aktivní verzi.
PROMPT.SETACTIVEMetadata
U každé verze uchovávejte autora, důvod změny nebo id experimentu.
METAČasté otázky
Musí se služby po změně restartovat?
Ne. Čtou aktivní verzi za běhu, takže další čtení vrátí novou.
Mohu své prompty uchovávat také v Gitu?
Ano. Zveřejňujte z CI pomocí PROMPT.PUT, takže Git zůstane zdrojem pro review a HotKV poskytuje živou verzi.
Které plány ho zahrnují?
Registr promptů je součástí plánů Performance a Scale.
Související případy použití
Vyzkoušejte to na své zátěži
HotKV mluví protokolem Redisu, takže na něj můžete nasměrovat stávajícího klienta a spustit tytéž příkazy.