IA et LLMApplications LLMOffres Performance et Scale

Versionnage et retour arrière des prompts

Versionnez vos prompts système dans la couche de données, déployez une nouvelle version dans tous les services à la fois et revenez en arrière en une commande quand elle se comporte mal.

commande pour revenir en arrière
1
redéploiement
0
versions récentes conservées par défaut
64
Étape 1 sur 5
Publier la version 1

La première version du prompt système de l'agent de support.

Session d’exempleplaying
# Publier la version 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Une démonstration animée avec de vraies commandes HotKV et des exemples de réponses. Cliquez sur une étape pour y accéder directement. Les commandes et les réponses restent en anglais, exactement comme vous les saisissez et les voyez dans HotKV.

Le problème

Les prompts système changent plus souvent que le code, et pourtant ils vivent en général dans le code. Chaque ajustement est un déploiement, les services dérivent vers des versions différentes, et quand un nouveau prompt dégrade l'assistant à 2 heures du matin, revenir en arrière implique une nouvelle release.

Comment HotKV s'en charge

Le registre de prompts conserve chaque version de chaque modèle dans HotKV. Les services lisent la version active à l'exécution, un éditeur publie une nouvelle version en une commande, et le choix de la version active est une bascule atomique unique que chaque service voit à sa lecture suivante.

Étape par étape

Ce qui se passe, commande par commande

  1. 01

    Publier la version 1

    La première version du prompt système de l'agent de support.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Les services lisent la version active

    Chaque service récupère le modèle à l'exécution au lieu de l'intégrer à la compilation.

    PROMPT.GET support-agent
  3. 03

    Déployer la version 2

    Une nouvelle version, avec des métadonnées sur son auteur. Elle devient active pour tous les services à la fois.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Quelque chose cloche, retour arrière

    Les réponses sont devenues trop laconiques. Une commande rend la version 1 de nouveau active. Pas de déploiement, pas de redémarrage.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Auditer l'historique

    Les versions récentes restent dans le registre, 64 par défaut, pour que vous puissiez les comparer ou revenir à n'importe laquelle.

    PROMPT.VERSIONS support-agent
Où cela s'applique

Scénarios concrets

Équipes produit qui affinent le ton

Les rédacteurs ajustent chaque jour la voix de l'assistant sans attendre une release de l'équipe technique, et les versions récentes sont conservées.

Plateformes multiservices

Le chat, la rédaction d'e-mails et les résumés lisent tous le même modèle, si bien qu'une correction arrive partout au même instant.

Réponse aux incidents

Quand un changement de prompt provoque de mauvaises réponses en production, l'astreinte revient en arrière en quelques secondes avec une seule commande.

Intégré

Ce que vous obtenez

Modèles versionnés

Chaque PROMPT.PUT ajoute une version et la rend active. Les versions les plus récentes sont conservées, 64 par défaut.

PROMPT.PUTPROMPT.VERSIONS

Lecture à l'exécution

Les services lisent la version active, ou une version précise, en un seul appel.

PROMPT.GETPROMPT.LATEST

Retour arrière instantané

Changez la version active de façon atomique.

PROMPT.SETACTIVE

Métadonnées

Conservez l'auteur, la raison du changement ou un identifiant d'expérience avec chaque version.

META

Questions fréquentes

Les services doivent-ils redémarrer après un changement ?

Non. Ils lisent la version active à l'exécution, la lecture suivante renvoie donc la nouvelle.

Puis-je aussi garder mes prompts dans Git ?

Oui. Publiez depuis la CI avec PROMPT.PUT. Git reste la source de la relecture et HotKV sert la version en production.

Quelles offres l'incluent ?

Le registre de prompts fait partie des offres Performance et Scale.

Cas d'usage associés

Essayez-le sur votre propre charge de travail

HotKV parle le protocole Redis. Vous pouvez donc y connecter un client existant et exécuter ces mêmes commandes.