الذكاء الاصطناعي وLLMتطبيقات LLMخطتا Performance وScale

إصدارات الموجّهات والتراجع عنها

أدر إصدارات موجّهات النظام في طبقة البيانات، وانشر الإصدار الجديد على كل الخدمات دفعة واحدة، وتراجع بأمر واحد عندما يسيء التصرف.

أمر للتراجع
1
إعادة نشر
0
إصدارًا حديثًا محفوظًا افتراضيًا
64
الخطوة 1 من 5
انشر الإصدار 1

الإصدار الأول من موجّه النظام لوكيل الدعم.

جلسة توضيحيةplaying
# انشر الإصدار 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

عرض متحرك بأوامر HotKV حقيقية وردود توضيحية. انقر على أي خطوة للانتقال إليها. تبقى الأوامر والردود بالإنجليزية، تمامًا كما تكتبها وتراها في HotKV.

المشكلة

تتغير موجّهات النظام أكثر من الشيفرة، ومع ذلك تعيش عادةً داخل الشيفرة. فكل تعديل يعني نشرًا، وتنجرف الخدمات المختلفة إلى إصدارات مختلفة، وحين يجعل موجّه جديد المساعدَ أسوأ في الثانية صباحًا، يعني التراجع إصدارًا آخر.

كيف يتعامل HotKV معها

يحتفظ سجل الموجّهات بكل إصدار من كل قالب في HotKV. تقرأ الخدمات الإصدار النشط وقت التشغيل، وينشر المحرر إصدارًا جديدًا بأمر واحد، واختيار الإصدار النشط مفتاح تبديل ذري واحد تراه كل خدمة في قراءتها التالية.

خطوة بخطوة

ما يحدث، أمرًا بأمر

  1. 01

    انشر الإصدار 1

    الإصدار الأول من موجّه النظام لوكيل الدعم.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    تقرأ الخدمات الإصدار النشط

    تجلب كل خدمة القالب وقت التشغيل بدل تضمينه في الشيفرة المبنية.

    PROMPT.GET support-agent
  3. 03

    انشر الإصدار 2

    إصدار جديد مع بيانات وصفية عن كاتبه. ويصبح نشطًا لكل الخدمات دفعة واحدة.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    شيء ما ليس على ما يرام، فتراجع

    صارت الإجابات مقتضبة أكثر من اللازم. أمر واحد يعيد الإصدار 1 نشطًا. دون نشر ودون إعادة تشغيل.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    دقّق السجل

    تبقى الإصدارات الحديثة في السجل، 64 إصدارًا افتراضيًا، فتستطيع مقارنتها أو العودة إلى أي منها.

    PROMPT.VERSIONS support-agent
أين يناسب

سيناريوهات من الواقع

فرق المنتجات التي تضبط النبرة

يعدّل الكتّاب أسلوب المساعد يوميًا دون انتظار إصدار هندسي، وتبقى الإصدارات الحديثة محفوظة.

منصات متعددة الخدمات

الدردشة وصياغة البريد والتلخيص كلها تقرأ القالب نفسه، فيصل الإصلاح إلى كل مكان في اللحظة نفسها.

الاستجابة للحوادث

عندما يسبب تغيير في موجّه إجابات سيئة في الإنتاج، يتراجع المناوب خلال ثوانٍ بأمر واحد.

مدمج

ما تحصل عليه

قوالب بإصدارات

كل PROMPT.PUT يضيف إصدارًا ويجعله نشطًا. وتُحفظ أحدث الإصدارات، 64 إصدارًا افتراضيًا.

PROMPT.PUTPROMPT.VERSIONS

قراءة وقت التشغيل

تقرأ الخدمات الإصدار النشط، أو إصدارًا محددًا، باستدعاء واحد.

PROMPT.GETPROMPT.LATEST

تراجع فوري

بدّل الإصدار النشط بشكل ذري.

PROMPT.SETACTIVE

البيانات الوصفية

احتفظ مع كل إصدار باسم الكاتب أو سبب التغيير أو معرّف تجربة.

META

أسئلة شائعة

هل تحتاج الخدمات إلى إعادة تشغيل بعد التغيير؟

لا. فهي تقرأ الإصدار النشط وقت التشغيل، فتعيد القراءة التالية الإصدار الجديد.

هل يمكنني الاحتفاظ بالموجّهات في Git أيضًا؟

نعم. انشر من CI باستخدام PROMPT.PUT، فيبقى Git مصدر المراجعة ويقدّم HotKV الإصدار الحي.

ما الخطط التي تتضمنه؟

سجل الموجّهات جزء من خطتي Performance وScale.

حالات استخدام ذات صلة

جرّبه على عبء عملك

يتحدث HotKV بروتوكول Redis، لذا يمكنك توجيه عميل موجود إليه وتشغيل هذه الأوامر نفسها.