ШІ та LLMLLM-застосункиПлани Performance і Scale

Версіонування промптів і відкат

Версіонуйте системні промпти в шарі даних, розгортайте новий одразу для всіх сервісів і відкочуйтеся однією командою, коли він поводиться неправильно.

команда для відкату
1
повторних розгортань
0
останніх версій зберігається типово
64
Крок 1 з 5
Опублікуйте версію 1

Перша версія системного промпту агента підтримки.

Приклад сесіїplaying
# Опублікуйте версію 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Анімований покроковий розбір з реальними командами HotKV і прикладами відповідей. Натисніть будь-який крок, щоб перейти до нього. Команди та відповіді залишаються англійською, так само, як ви вводите й бачите їх у HotKV.

Проблема

Системні промпти змінюються частіше за код, але зазвичай живуть у коді. Кожна правка це розгортання, різні сервіси дрейфують на різні версії, а коли новий промпт погіршує асистента о 2-й ночі, відкат означає ще один реліз.

Як це вирішує HotKV

Реєстр промптів зберігає кожну версію кожного шаблону в HotKV. Сервіси читають активну версію під час виконання, редактор публікує нову версію однією командою, а вибір активної версії є одним атомарним перемиканням, яке кожен сервіс бачить під час наступного читання.

Крок за кроком

Що відбувається, команда за командою

  1. 01

    Опублікуйте версію 1

    Перша версія системного промпту агента підтримки.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Сервіси читають активну версію

    Кожен сервіс отримує шаблон під час виконання, а не вшиває його в код.

    PROMPT.GET support-agent
  3. 03

    Розгорніть версію 2

    Нова версія з метаданими про те, хто її написав. Вона стає активною для всіх сервісів одночасно.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Щось не так, тож відкочуємося

    Відповіді стали надто стислими. Одна команда знову робить активною версію 1. Без розгортання, без перезапуску.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Перегляньте історію

    Останні версії залишаються в реєстрі, типово 64, тож ви можете порівнювати їх або повертатися до будь-якої.

    PROMPT.VERSIONS support-agent
Де це доречно

Реальні сценарії

Продуктові команди, що налаштовують тон

Автори щодня коригують голос асистента, не чекаючи інженерного релізу, а останні версії зберігаються.

Багатосервісні платформи

Чат, складання листів і підсумовування читають один шаблон, тож виправлення діє скрізь у ту саму мить.

Реагування на інциденти

Коли зміна промпту спричиняє погані відповіді у продакшені, черговий відкочує за секунди однією командою.

Вбудовано

Що ви отримуєте

Версіоновані шаблони

Кожен PROMPT.PUT додає версію й робить її активною. Зберігаються найновіші версії, типово 64.

PROMPT.PUTPROMPT.VERSIONS

Читання під час виконання

Сервіси читають активну версію або конкретну одним викликом.

PROMPT.GETPROMPT.LATEST

Миттєвий відкат

Атомарно перемикайте активну версію.

PROMPT.SETACTIVE

Метадані

Зберігайте автора, причину зміни або id експерименту з кожною версією.

META

Поширені запитання

Чи треба сервісам перезапускатися після зміни?

Ні. Вони читають активну версію під час виконання, тож наступне читання повертає нову.

Чи можу я зберігати промпти ще й у Git?

Так. Публікуйте з CI через PROMPT.PUT, тож Git залишається джерелом перегляду, а HotKV віддає актуальну версію.

Які плани це містять?

Реєстр промптів входить до планів Performance і Scale.

Пов'язані сценарії використання

Спробуйте на власному навантаженні

HotKV розмовляє протоколом Redis, тож ви можете направити на нього наявний клієнт і виконувати ті самі команди.