AI และ LLMแอปพลิเคชัน LLMแผน Performance และ Scale

การทำเวอร์ชันและย้อนกลับพรอมต์

ทำเวอร์ชันของ system prompt ในชั้นข้อมูล ปล่อยพรอมต์ใหม่ให้ทุกเซอร์วิสพร้อมกัน และย้อนกลับด้วยคำสั่งเดียวเมื่อมันทำงานผิดพลาด

คำสั่งสำหรับย้อนกลับ
1
การ redeploy
0
เวอร์ชันล่าสุดที่เก็บไว้โดยค่าเริ่มต้น
64
ขั้นที่ 1 จาก 5
เผยแพร่เวอร์ชัน 1

เวอร์ชันแรกของ system prompt ของเอเจนต์ซัพพอร์ต

เซสชันตัวอย่างplaying
# เผยแพร่เวอร์ชัน 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

ตัวอย่างแบบแอนิเมชันพร้อมคำสั่ง HotKV จริงและคำตอบตัวอย่าง คลิกขั้นตอนใดก็ได้เพื่อข้ามไปยังขั้นนั้น คำสั่งและคำตอบยังคงเป็นภาษาอังกฤษ ตรงตามที่คุณพิมพ์และเห็นใน HotKV

ปัญหา

System prompt เปลี่ยนบ่อยกว่าโค้ด แต่มักอยู่ในโค้ด ทุกการปรับแก้คือการ deploy เซอร์วิสต่างๆ เลื่อนไปอยู่คนละเวอร์ชัน และเมื่อพรอมต์ใหม่ทำให้ผู้ช่วยแย่ลงตอนตีสอง การย้อนกลับหมายถึงอีกหนึ่งรีลีส

HotKV จัดการอย่างไร

Prompt registry เก็บทุกเวอร์ชันของแต่ละเทมเพลตไว้ใน HotKV เซอร์วิสอ่านเวอร์ชันที่ใช้งานอยู่ตอนรัน ผู้แก้ไขเผยแพร่เวอร์ชันใหม่ด้วยคำสั่งเดียว และการเลือกเวอร์ชันที่ใช้งานเป็นการสลับแบบอะตอมมิกครั้งเดียวที่ทุกเซอร์วิสเห็นในการอ่านครั้งถัดไป

ทีละขั้นตอน

เกิดอะไรขึ้นบ้าง ทีละคำสั่ง

  1. 01

    เผยแพร่เวอร์ชัน 1

    เวอร์ชันแรกของ system prompt ของเอเจนต์ซัพพอร์ต

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    เซอร์วิสอ่านเวอร์ชันที่ใช้งานอยู่

    ทุกเซอร์วิสดึงเทมเพลตตอนรัน แทนที่จะคอมไพล์ฝังไว้

    PROMPT.GET support-agent
  3. 03

    ปล่อยเวอร์ชัน 2

    เวอร์ชันใหม่พร้อมเมตาดาตาว่าใครเขียน มันกลายเป็นเวอร์ชันที่ใช้งานของทุกเซอร์วิสพร้อมกัน

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    มีบางอย่างไม่ถูกต้อง จึงย้อนกลับ

    คำตอบสั้นห้วนเกินไป คำสั่งเดียวทำให้เวอร์ชัน 1 กลับมาใช้งานอีกครั้ง ไม่ต้อง deploy ไม่ต้องรีสตาร์ต

    PROMPT.SETACTIVE support-agent 1
  5. 05

    ตรวจสอบประวัติ

    เวอร์ชันล่าสุดยังอยู่ใน registry โดยค่าเริ่มต้นคือ 64 เวอร์ชัน คุณจึงเปรียบเทียบหรือกลับไปเวอร์ชันใดก็ได้

    PROMPT.VERSIONS support-agent
เหมาะกับงานแบบไหน

สถานการณ์จริง

ทีมผลิตภัณฑ์ที่ปรับน้ำเสียงอย่างต่อเนื่อง

นักเขียนปรับน้ำเสียงของผู้ช่วยทุกวันโดยไม่ต้องรอรีลีสจากวิศวกร และเวอร์ชันล่าสุดถูกเก็บไว้

แพลตฟอร์มหลายเซอร์วิส

แชต การร่างอีเมล และการสรุปความอ่านเทมเพลตเดียวกัน การแก้ไขจึงมีผลทุกที่ในเวลาเดียวกัน

การรับมือเหตุขัดข้อง

เมื่อการเปลี่ยนพรอมต์ทำให้ได้คำตอบแย่ในโปรดักชัน ทีมเวรย้อนกลับได้ในไม่กี่วินาทีด้วยคำสั่งเดียว

อยู่ในตัว

สิ่งที่คุณได้รับ

เทมเพลตที่มีเวอร์ชัน

PROMPT.PUT แต่ละครั้งเพิ่มหนึ่งเวอร์ชันและทำให้มันเป็นเวอร์ชันที่ใช้งาน เวอร์ชันล่าสุดถูกเก็บไว้ โดยค่าเริ่มต้นคือ 64

PROMPT.PUTPROMPT.VERSIONS

อ่านตอนรัน

เซอร์วิสอ่านเวอร์ชันที่ใช้งานอยู่ หรือเวอร์ชันที่ระบุ ได้ด้วยการเรียกครั้งเดียว

PROMPT.GETPROMPT.LATEST

ย้อนกลับทันที

สลับเวอร์ชันที่ใช้งานแบบอะตอมมิก

PROMPT.SETACTIVE

เมตาดาตา

เก็บผู้เขียน เหตุผลของการเปลี่ยนแปลง หรือ id ของการทดลองไว้กับแต่ละเวอร์ชัน

META
ข้อมูลอ้างอิง:PROMPT.PUTPROMPT.GETPROMPT.SETACTIVE

คำถามที่พบบ่อย

เซอร์วิสต้องรีสตาร์ตหลังเปลี่ยนไหม

ไม่ต้อง เซอร์วิสอ่านเวอร์ชันที่ใช้งานอยู่ตอนรัน การอ่านครั้งถัดไปจึงได้เวอร์ชันใหม่

เก็บพรอมต์ไว้ใน Git ด้วยได้ไหม

ได้ เผยแพร่จาก CI ด้วย PROMPT.PUT เพื่อให้ Git ยังเป็นแหล่งของการรีวิว และ HotKV เสิร์ฟเวอร์ชันที่ใช้งานจริง

แผนไหนรวมฟีเจอร์นี้

Prompt registry อยู่ในแผน Performance และ Scale

กรณีใช้งานที่เกี่ยวข้อง

ลองกับเวิร์กโหลดของคุณเอง

HotKV ใช้โปรโตคอลของ Redis คุณจึงชี้ไคลเอนต์ที่มีอยู่มาที่ HotKV แล้วรันคำสั่งเดียวกันนี้ได้