Yapay zeka ve LLMLLM uygulamalarıPerformance ve Scale planları

Prompt Sürümleme ve Geri Alma

Sistem prompt'larınızı veri katmanında sürümleyin, yenisini tüm servislere bir anda dağıtın ve yanlış davrandığında tek komutla geri alın.

geri almak için komut
1
yeniden dağıtım
0
varsayılan olarak tutulan son sürüm
64
Adım 1 / 5
Sürüm 1'i yayımlayın

Destek ajanının sistem prompt'unun ilk sürümü.

Örnek oturumplaying
# Sürüm 1'i yayımlayın
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Gerçek HotKV komutları ve örnek yanıtlarla animasyonlu bir anlatım. Herhangi bir adıma atlamak için üzerine tıklayın. Komutlar ve yanıtlar, HotKV'de yazdığınız ve gördüğünüz haliyle İngilizce kalır.

Sorun

Sistem prompt'ları koddan daha sık değişir, ama genellikle kodun içinde yaşarlar. Her ince ayar bir dağıtımdır, farklı servisler farklı sürümlere kayar ve yeni bir prompt gece 2'de asistanı kötüleştirdiğinde geri alma başka bir sürüm demektir.

HotKV bunu nasıl ele alır

Prompt kayıt defteri, her şablonun tüm sürümlerini HotKV'de tutar. Servisler etkin sürümü çalışma zamanında okur, bir editör yeni bir sürümü tek komutla yayımlar ve hangi sürümün etkin olacağını seçmek, her servisin bir sonraki okumasında gördüğü tek bir atomik geçiştir.

Adım adım

Ne olur, komut komut

  1. 01

    Sürüm 1'i yayımlayın

    Destek ajanının sistem prompt'unun ilk sürümü.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Servisler etkin sürümü okur

    Her servis şablonu derlemeye gömmek yerine çalışma zamanında getirir.

    PROMPT.GET support-agent
  3. 03

    Sürüm 2'yi dağıtın

    Kimin yazdığına dair meta verili yeni bir sürüm. Tüm servisler için aynı anda etkin olur.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Bir şeyler ters, o halde geri alın

    Yanıtlar fazla kısa oldu. Tek komut sürüm 1'i yeniden etkin yapar. Dağıtım yok, yeniden başlatma yok.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Geçmişi denetleyin

    Son sürümler kayıt defterinde, varsayılan olarak 64 tane kalır; böylece onları karşılaştırabilir veya herhangi birine dönebilirsiniz.

    PROMPT.VERSIONS support-agent
Nereye uyar

Gerçek dünya senaryoları

Üslubu yineleyen ürün ekipleri

Yazarlar bir mühendislik sürümünü beklemeden asistanın sesini her gün ayarlar ve son sürümler saklanır.

Çok servisli platformlar

Sohbet, e-posta taslağı ve özetleme aynı şablonu okur; bu yüzden bir düzeltme her yere aynı anda ulaşır.

Olay müdahalesi

Bir prompt değişikliği üretimde kötü yanıtlara yol açtığında, nöbetçi tek komutla saniyeler içinde geri alır.

Yerleşik

Neler elde edersiniz

Sürümlü şablonlar

Her PROMPT.PUT bir sürüm ekler ve onu etkin yapar. En son sürümler tutulur, varsayılan olarak 64.

PROMPT.PUTPROMPT.VERSIONS

Çalışma zamanında okuma

Servisler etkin sürümü ya da belirli bir sürümü tek çağrıyla okur.

PROMPT.GETPROMPT.LATEST

Anında geri alma

Etkin sürümü atomik olarak değiştirin.

PROMPT.SETACTIVE

Meta veri

Her sürümle birlikte yazarı, değişiklik nedenini veya bir deney kimliğini saklayın.

META

Sık sorulan sorular

Bir değişiklikten sonra servislerin yeniden başlaması gerekir mi?

Hayır. Etkin sürümü çalışma zamanında okurlar; bir sonraki okuma yenisini döndürür.

Prompt'larımı Git'te de tutabilir miyim?

Evet. CI'dan PROMPT.PUT ile yayımlayın; böylece Git inceleme kaynağı kalır ve HotKV canlı sürümü sunar.

Hangi planlara dahil?

Prompt kayıt defteri Performance ve Scale planlarının parçasıdır.

İlgili kullanım senaryoları

Kendi iş yükünüzde deneyin

HotKV, Redis protokolünü konuşur; bu yüzden mevcut bir istemciyi ona yönlendirip aynı komutları çalıştırabilirsiniz.