Echipe de produs care rafinează tonul
Redactorii ajustează zilnic vocea asistentului fără să aștepte o lansare de inginerie, iar versiunile recente sunt păstrate.
IA și LLMAplicații LLMPlanurile Performance și Scale
Versionarea prompturilor și revenirea la o versiune anterioară
Versionați-vă prompturile de sistem în stratul de date, lansați unul nou în toate serviciile deodată și reveniți la cel vechi cu o singură comandă când se poartă prost.
- comandă pentru revenire
- 1
- redeploy-uri
- 0
- versiuni recente păstrate implicit
- 64
Pasul 1 din 5
Publicați versiunea 1
Prima versiune a promptului de sistem al agentului de suport.
Sesiune de exempluplaying
# Publicați versiunea 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1
O demonstrație animată cu comenzi HotKV reale și răspunsuri de exemplu. Faceți clic pe orice pas pentru a sări la el. Comenzile și răspunsurile rămân în engleză, exact așa cum le tastați și le vedeți în HotKV.
Problema
Prompturile de sistem se schimbă mai des decât codul, dar de obicei stau în cod. Fiecare ajustare înseamnă un deploy, serviciile diferite ajung pe versiuni diferite, iar când un prompt nou înrăutățește asistentul la 2 noaptea, revenirea înseamnă o altă lansare.
Cum o rezolvă HotKV
Registrul de prompturi păstrează în HotKV fiecare versiune a fiecărui șablon. Serviciile citesc versiunea activă la rulare, un editor publică o versiune nouă cu o singură comandă, iar alegerea versiunii active este un singur comutator atomic pe care îl vede fiecare serviciu la următoarea citire.
Pas cu pas
Ce se întâmplă, comandă cu comandă
- 01
Publicați versiunea 1
Prima versiune a promptului de sistem al agentului de suport.
PROMPT.PUT support-agent "You are a helpful support agent." - 02
Serviciile citesc versiunea activă
Fiecare serviciu preia șablonul la rulare, în loc să îl aibă compilat în cod.
PROMPT.GET support-agent - 03
Lansați versiunea 2
O versiune nouă cu metadate despre cine a scris-o. Devine activă pentru toate serviciile deodată.
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}" - 04
Ceva nu merge, deci reveniți
Răspunsurile au devenit prea seci. O comandă face din nou activă versiunea 1. Fără deploy, fără repornire.
PROMPT.SETACTIVE support-agent 1 - 05
Auditați istoricul
Versiunile recente rămân în registru, 64 implicit, ca să le puteți compara sau să reveniți la oricare dintre ele.
PROMPT.VERSIONS support-agent
Unde se potrivește
Scenarii din lumea reală
Platforme cu mai multe servicii
Chatul, redactarea de e-mailuri și rezumarea citesc același șablon, deci o corecție ajunge peste tot în același moment.
Răspuns la incidente
Când o schimbare de prompt provoacă răspunsuri proaste în producție, echipa de gardă revine în câteva secunde cu o singură comandă.
Integrat
Ce primiți
Șabloane versionate
Fiecare PROMPT.PUT adaugă o versiune și o face activă. Cele mai recente versiuni sunt păstrate, 64 implicit.
PROMPT.PUTPROMPT.VERSIONSCitire la rulare
Serviciile citesc versiunea activă, sau una anume, cu un singur apel.
PROMPT.GETPROMPT.LATESTRevenire instantanee
Comutați atomic versiunea activă.
PROMPT.SETACTIVEMetadate
Păstrați autorul, motivul schimbării sau un id de experiment cu fiecare versiune.
METAÎntrebări frecvente
Trebuie serviciile repornite după o schimbare?
Nu. Ele citesc versiunea activă la rulare, deci următoarea citire o returnează pe cea nouă.
Pot să-mi țin prompturile și în Git?
Da. Publicați din CI cu PROMPT.PUT, astfel încât Git rămâne sursa de revizuire, iar HotKV servește versiunea live.
Ce planuri îl includ?
Registrul de prompturi face parte din planurile Performance și Scale.
Cazuri de utilizare înrudite
Încercați pe propria sarcină de lucru
HotKV vorbește protocolul Redis, așa că puteți îndrepta spre el un client existent și rula aceleași comenzi.