Tone पर काम करती प्रोडक्ट टीमें
लेखक इंजीनियरिंग release का इंतज़ार किए बिना रोज़ असिस्टेंट की आवाज़ बदलते हैं, और हाल के versions सहेजे रहते हैं।
AI और LLMLLM एप्लिकेशनPerformance और Scale प्लान
Prompt Versioning और Rollback
अपने system prompts को डेटा लेयर में version करें, नया prompt एक साथ हर सर्विस में रोल आउट करें, और गड़बड़ करने पर एक कमांड से रोलबैक करें।
- रोलबैक की कमांड
- 1
- redeploys
- 0
- डिफ़ॉल्ट रूप से रखे गए हाल के versions
- 64
कदम 1 में से 5
Version 1 प्रकाशित करें
सपोर्ट एजेंट के system prompt का पहला version।
उदाहरण सेशनplaying
# Version 1 प्रकाशित करें
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1
असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।
समस्या
system prompts कोड से ज़्यादा बार बदलते हैं, फिर भी वे आमतौर पर कोड में ही रहते हैं। हर छोटे बदलाव का मतलब एक deploy है, अलग-अलग सर्विस अलग versions पर खिसक जाती हैं, और जब रात 2 बजे कोई नया prompt असिस्टेंट को बदतर बना देता है, तो रोलबैक का मतलब एक और release होता है।
HotKV इसे कैसे संभालता है
prompt registry हर template का हर version HotKV में रखता है। सर्विस runtime पर active version पढ़ती हैं, एडिटर एक कमांड से नया version प्रकाशित करता है, और कौन सा version active हो यह चुनना एक atomic स्विच है जिसे हर सर्विस अपनी अगली रीड पर देखती है।
कदम दर कदम
क्या होता है, कमांड दर कमांड
- 01
Version 1 प्रकाशित करें
सपोर्ट एजेंट के system prompt का पहला version।
PROMPT.PUT support-agent "You are a helpful support agent." - 02
सर्विस active version पढ़ती हैं
हर सर्विस template को कोड में जोड़ने की जगह runtime पर लाती है।
PROMPT.GET support-agent - 03
Version 2 रोल आउट करें
एक नया version, जिसके metadata में लिखने वाले का नाम है। यह एक साथ हर सर्विस के लिए active हो जाता है।
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}" - 04
कुछ गड़बड़ है, इसलिए रोलबैक करें
जवाब बहुत रूखे हो गए। एक कमांड version 1 को फिर से active कर देती है। न deploy, न restart।
PROMPT.SETACTIVE support-agent 1 - 05
इतिहास का ऑडिट करें
हाल के versions registry में बने रहते हैं, डिफ़ॉल्ट रूप से 64, ताकि आप उनकी तुलना कर सकें या किसी पर भी लौट सकें।
PROMPT.VERSIONS support-agent
कहां फ़िट बैठता है
असली परिदृश्य
कई सर्विस वाले प्लेटफ़ॉर्म
चैट, ईमेल ड्राफ़्टिंग और सारांश सब एक ही template पढ़ते हैं, इसलिए सुधार हर जगह एक ही पल में पहुँचता है।
Incident response
जब prompt बदलने से प्रोडक्शन में खराब जवाब आने लगते हैं, तो on-call एक कमांड से कुछ ही सेकंड में रोलबैक कर देता है।
अंतर्निहित
आपको क्या मिलता है
Versioned templates
हर PROMPT.PUT एक version जोड़ता है और उसे active बनाता है। सबसे हाल के versions रखे जाते हैं, डिफ़ॉल्ट रूप से 64।
PROMPT.PUTPROMPT.VERSIONSRuntime पर रीड
सर्विस एक कॉल से active version या कोई खास version पढ़ती हैं।
PROMPT.GETPROMPT.LATESTतुरंत रोलबैक
active version को atomically बदलें।
PROMPT.SETACTIVEMetadata
हर version के साथ लेखक, बदलाव का कारण या experiment id रखें।
METAआम सवाल
क्या बदलाव के बाद सर्विस को restart करना पड़ता है?
नहीं। वे runtime पर active version पढ़ती हैं, इसलिए अगली रीड नया version लौटाती है।
क्या मैं अपने prompts Git में भी रख सकता हूँ?
हाँ। CI से PROMPT.PUT के ज़रिए प्रकाशित करें, ताकि Git रिव्यू का स्रोत बना रहे और HotKV लाइव version परोसे।
इसमें कौन से प्लान शामिल हैं?
prompt registry Performance और Scale प्लान का हिस्सा है।
संबंधित उपयोग के मामले
इसे अपने वर्कलोड पर आज़माएं
HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।