Équipes produit qui affinent le ton
Les rédacteurs ajustent chaque jour la voix de l'assistant sans attendre une release de l'équipe technique, et les versions récentes sont conservées.
Versionnez vos prompts système dans la couche de données, déployez une nouvelle version dans tous les services à la fois et revenez en arrière en une commande quand elle se comporte mal.
La première version du prompt système de l'agent de support.
Une démonstration animée avec de vraies commandes HotKV et des exemples de réponses. Cliquez sur une étape pour y accéder directement. Les commandes et les réponses restent en anglais, exactement comme vous les saisissez et les voyez dans HotKV.
Les prompts système changent plus souvent que le code, et pourtant ils vivent en général dans le code. Chaque ajustement est un déploiement, les services dérivent vers des versions différentes, et quand un nouveau prompt dégrade l'assistant à 2 heures du matin, revenir en arrière implique une nouvelle release.
Le registre de prompts conserve chaque version de chaque modèle dans HotKV. Les services lisent la version active à l'exécution, un éditeur publie une nouvelle version en une commande, et le choix de la version active est une bascule atomique unique que chaque service voit à sa lecture suivante.
La première version du prompt système de l'agent de support.
PROMPT.PUT support-agent "You are a helpful support agent."Chaque service récupère le modèle à l'exécution au lieu de l'intégrer à la compilation.
PROMPT.GET support-agentUne nouvelle version, avec des métadonnées sur son auteur. Elle devient active pour tous les services à la fois.
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"Les réponses sont devenues trop laconiques. Une commande rend la version 1 de nouveau active. Pas de déploiement, pas de redémarrage.
PROMPT.SETACTIVE support-agent 1Les versions récentes restent dans le registre, 64 par défaut, pour que vous puissiez les comparer ou revenir à n'importe laquelle.
PROMPT.VERSIONS support-agentLes rédacteurs ajustent chaque jour la voix de l'assistant sans attendre une release de l'équipe technique, et les versions récentes sont conservées.
Le chat, la rédaction d'e-mails et les résumés lisent tous le même modèle, si bien qu'une correction arrive partout au même instant.
Quand un changement de prompt provoque de mauvaises réponses en production, l'astreinte revient en arrière en quelques secondes avec une seule commande.
Chaque PROMPT.PUT ajoute une version et la rend active. Les versions les plus récentes sont conservées, 64 par défaut.
PROMPT.PUTPROMPT.VERSIONSLes services lisent la version active, ou une version précise, en un seul appel.
PROMPT.GETPROMPT.LATESTChangez la version active de façon atomique.
PROMPT.SETACTIVEConservez l'auteur, la raison du changement ou un identifiant d'expérience avec chaque version.
METANon. Ils lisent la version active à l'exécution, la lecture suivante renvoie donc la nouvelle.
Oui. Publiez depuis la CI avec PROMPT.PUT. Git reste la source de la relecture et HotKV sert la version en production.
Le registre de prompts fait partie des offres Performance et Scale.
HotKV parle le protocole Redis. Vous pouvez donc y connecter un client existant et exécuter ces mêmes commandes.