AI és LLMLLM-alkalmazásokPerformance és Scale csomagok

Prompt-verziózás és visszagörgetés

Verziózza a rendszerpromptjait az adatrétegben, vezessen be egy újat minden szolgáltatásra egyszerre, és görgessen vissza egyetlen paranccsal, ha rosszul viselkedik.

parancs a visszagörgetéshez
1
újratelepítés
0
alapértelmezés szerint megtartott legutóbbi verzió
64
Lépés 1 / 5
Az 1. verzió publikálása

A támogatási ügynök rendszerpromptjának első verziója.

Példa munkamenetplaying
# Az 1. verzió publikálása
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Animált bemutató valódi HotKV-parancsokkal és példa-válaszokkal. Kattintson bármelyik lépésre, hogy odaugorjon. A parancsok és a válaszok angolul maradnak, pontosan úgy, ahogy begépeli és látja őket a HotKV-ban.

A probléma

A rendszerpromptok gyakrabban változnak a kódnál, mégis általában a kódban élnek. Minden módosítás egy telepítés, a különböző szolgáltatások különböző verziókra sodródnak, és amikor egy új prompt hajnali 2-kor rosszabbá teszi az asszisztenst, a visszagörgetés egy újabb kiadást jelent.

Hogyan kezeli a HotKV

A prompt-nyilvántartás a HotKV-ban őrzi az egyes sablonok minden verzióját. A szolgáltatások futásidőben olvassák az aktív verziót, a szerkesztő egyetlen paranccsal publikál új verziót, az aktív verzió kiválasztása pedig egyetlen atomikus váltás, amelyet minden szolgáltatás a következő olvasásánál lát.

Lépésről lépésre

Mi történik, parancsról parancsra

  1. 01

    Az 1. verzió publikálása

    A támogatási ügynök rendszerpromptjának első verziója.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    A szolgáltatások az aktív verziót olvassák

    Minden szolgáltatás futásidőben kéri le a sablont, ahelyett hogy beleforgatná.

    PROMPT.GET support-agent
  3. 03

    A 2. verzió bevezetése

    Egy új verzió a szerzőjére vonatkozó metaadatokkal. Minden szolgáltatásnál egyszerre válik aktívvá.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Valami nincs rendben, ezért visszagörget

    A válaszok túl szűkszavúak lettek. Egy parancs újra aktívvá teszi az 1. verziót. Nincs telepítés, nincs újraindítás.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Az előzmények auditálása

    A legutóbbi verziók a nyilvántartásban maradnak, alapértelmezés szerint 64, így összehasonlíthatja őket, vagy bármelyikhez visszatérhet.

    PROMPT.VERSIONS support-agent
Hol használható

Valós helyzetek

Hangvételen finomító termékcsapatok

A szövegírók naponta módosítják az asszisztens hangját mérnöki kiadásra várva, és a legutóbbi verziók megmaradnak.

Többszolgáltatásos platformok

A csevegés, az e-mail-fogalmazás és az összefoglalás ugyanazt a sablont olvassa, így egy javítás mindenhol ugyanabban a pillanatban érvényesül.

Incidenskezelés

Ha egy promptváltozás rossz válaszokat okoz élesben, az ügyeletes másodpercek alatt visszagörget egyetlen paranccsal.

Beépítve

Amit kap

Verziózott sablonok

Minden PROMPT.PUT új verziót ad hozzá, és aktívvá teszi. A legutóbbi verziók megmaradnak, alapértelmezés szerint 64.

PROMPT.PUTPROMPT.VERSIONS

Olvasás futásidőben

A szolgáltatások egyetlen hívással olvassák az aktív vagy egy adott verziót.

PROMPT.GETPROMPT.LATEST

Azonnali visszagörgetés

Az aktív verzió atomikus átváltása.

PROMPT.SETACTIVE

Metaadatok

Tárolja a szerzőt, a változtatás okát vagy egy kísérletazonosítót minden verzióval.

META

Gyakori kérdések

Újra kell indítani a szolgáltatásokat egy módosítás után?

Nem. Futásidőben olvassák az aktív verziót, így a következő olvasás már az újat adja vissza.

Tarthatom a promptjaimat Gitben is?

Igen. Publikáljon a CI-ből a PROMPT.PUT-tal, így a Git marad az átvizsgálás forrása, a HotKV pedig az éles verziót szolgálja ki.

Mely csomagok tartalmazzák?

A prompt-nyilvántartás a Performance és a Scale csomag része.

Kapcsolódó felhasználási esetek

Próbálja ki a saját munkaterhelésén

A HotKV a Redis protokollt beszéli, így egy meglévő klienst ráirányíthat, és lefuttathatja ugyanezeket a parancsokat.