Zespoły produktowe dopracowujące ton
Autorzy dostrajają głos asystenta codziennie, nie czekając na wydanie inżynieryjne, a ostatnie wersje są zachowywane.
AI i LLMAplikacje LLMplany Performance i Scale
Wersjonowanie promptów i wycofywanie
Wersjonuj prompty systemowe w warstwie danych, wdrażaj nowy do wszystkich usług naraz i wycofuj jednym poleceniem, gdy zaczyna działać źle.
- polecenie do wycofania
- 1
- ponownych wdrożeń
- 0
- ostatnich wersji domyślnie zachowanych
- 64
Krok 1 z 5
Opublikuj wersję 1
Pierwsza wersja promptu systemowego agenta obsługi.
Przykładowa sesjaplaying
# Opublikuj wersję 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1
Animowany przegląd z prawdziwymi poleceniami HotKV i przykładowymi odpowiedziami. Kliknij dowolny krok, aby do niego przejść. Polecenia i odpowiedzi pozostają po angielsku, dokładnie tak, jak je wpisujesz i widzisz w HotKV.
Problem
Prompty systemowe zmieniają się częściej niż kod, a zwykle mieszkają w kodzie. Każda drobna zmiana to wdrożenie, różne usługi dryfują na różne wersje, a gdy nowy prompt pogarsza asystenta o drugiej w nocy, wycofanie oznacza kolejne wydanie.
Jak radzi sobie z tym HotKV
Rejestr promptów przechowuje w HotKV każdą wersję każdego szablonu. Usługi odczytują aktywną wersję w czasie działania, edytor publikuje nową wersję jednym poleceniem, a wybór aktywnej wersji to pojedyncze atomowe przełączenie, które każda usługa widzi przy następnym odczycie.
Krok po kroku
Co się dzieje, polecenie po poleceniu
- 01
Opublikuj wersję 1
Pierwsza wersja promptu systemowego agenta obsługi.
PROMPT.PUT support-agent "You are a helpful support agent." - 02
Usługi odczytują aktywną wersję
Każda usługa pobiera szablon w czasie działania zamiast mieć go wkompilowanego.
PROMPT.GET support-agent - 03
Wdróż wersję 2
Nowa wersja z metadanymi o tym, kto ją napisał. Staje się aktywna dla wszystkich usług naraz.
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}" - 04
Coś jest nie tak, więc wycofaj
Odpowiedzi stały się zbyt zwięzłe. Jedno polecenie ponownie aktywuje wersję 1. Bez wdrożenia, bez restartu.
PROMPT.SETACTIVE support-agent 1 - 05
Prześledź historię
Ostatnie wersje zostają w rejestrze, domyślnie 64, więc możesz je porównać lub wrócić do dowolnej z nich.
PROMPT.VERSIONS support-agent
Gdzie się sprawdza
Scenariusze z życia
Platformy wielousługowe
Czat, szkicowanie e-maili i streszczanie czytają ten sam szablon, więc poprawka trafia wszędzie w tej samej chwili.
Reagowanie na incydenty
Gdy zmiana promptu powoduje złe odpowiedzi na produkcji, dyżurny wycofuje ją w kilka sekund jednym poleceniem.
Wbudowane
Co dostajesz
Wersjonowane szablony
Każde PROMPT.PUT dodaje wersję i czyni ją aktywną. Najnowsze wersje są zachowywane, domyślnie 64.
PROMPT.PUTPROMPT.VERSIONSOdczyt w czasie działania
Usługi odczytują aktywną wersję lub konkretną jednym wywołaniem.
PROMPT.GETPROMPT.LATESTNatychmiastowe wycofanie
Przełącz aktywną wersję atomowo.
PROMPT.SETACTIVEMetadane
Zachowaj autora, powód zmiany lub identyfikator eksperymentu przy każdej wersji.
METACzęste pytania
Czy usługi muszą się restartować po zmianie?
Nie. Odczytują aktywną wersję w czasie działania, więc następny odczyt zwraca nową.
Czy mogę trzymać prompty także w Git?
Tak. Publikuj z CI przez PROMPT.PUT, aby Git pozostał źródłem przeglądu, a HotKV serwował wersję na żywo.
Które plany to zawierają?
Rejestr promptów jest częścią planów Performance i Scale.
Powiązane przypadki użycia
Wypróbuj na własnym obciążeniu
HotKV mówi protokołem Redis, więc możesz skierować na niego istniejącego klienta i uruchomić te same polecenia.