IA y LLMAplicaciones LLMPlanes Performance y Scale

Versionado y reversión de prompts

Versiona tus prompts de sistema en la capa de datos, despliega uno nuevo en todos los servicios a la vez y revierte con un solo comando cuando se porte mal.

comando para revertir
1
nuevos despliegues
0
versiones recientes conservadas por defecto
64
Paso 1 de 5
Publica la versión 1

La primera versión del prompt de sistema del agente de soporte.

Sesión de ejemploplaying
# Publica la versión 1
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

Un recorrido animado con comandos reales de HotKV y respuestas de ejemplo. Haz clic en cualquier paso para saltar a él. Los comandos y las respuestas se quedan en inglés, tal como los escribes y los ves en HotKV.

El problema

Los prompts de sistema cambian más a menudo que el código, pero suelen vivir dentro del código. Cada ajuste es un despliegue, los distintos servicios acaban en versiones distintas y, cuando un prompt nuevo empeora el asistente a las 2 de la madrugada, revertir significa otra release.

Cómo lo resuelve HotKV

El registro de prompts guarda cada versión de cada plantilla en HotKV. Los servicios leen la versión activa en tiempo de ejecución, un editor publica una versión nueva con un comando y elegir qué versión está activa es un único cambio atómico que todos los servicios ven en su siguiente lectura.

Paso a paso

Qué ocurre, comando a comando

  1. 01

    Publica la versión 1

    La primera versión del prompt de sistema del agente de soporte.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    Los servicios leen la versión activa

    Cada servicio obtiene la plantilla en tiempo de ejecución en lugar de compilarla dentro.

    PROMPT.GET support-agent
  3. 03

    Despliega la versión 2

    Una versión nueva con metadatos sobre quién la escribió. Pasa a estar activa para todos los servicios a la vez.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    Algo falla, así que revierte

    Las respuestas se volvieron demasiado escuetas. Un comando vuelve a activar la versión 1. Sin despliegue ni reinicio.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    Audita el historial

    Las versiones recientes se quedan en el registro, 64 por defecto, para que puedas compararlas o volver a cualquiera de ellas.

    PROMPT.VERSIONS support-agent
Dónde encaja

Escenarios reales

Equipos de producto que ajustan el tono

Los redactores ajustan la voz del asistente a diario sin esperar una release de ingeniería, y las versiones recientes se conservan.

Plataformas con varios servicios

El chat, la redacción de correos y los resúmenes leen la misma plantilla, así que una corrección llega a todas partes en el mismo momento.

Respuesta a incidentes

Cuando un cambio de prompt provoca malas respuestas en producción, la persona de guardia revierte en segundos con un comando.

Integrado

Qué obtienes

Plantillas versionadas

Cada PROMPT.PUT añade una versión y la activa. Se conservan las versiones más recientes, 64 por defecto.

PROMPT.PUTPROMPT.VERSIONS

Lectura en tiempo de ejecución

Los servicios leen la versión activa, o una concreta, con una sola llamada.

PROMPT.GETPROMPT.LATEST

Reversión instantánea

Cambia la versión activa de forma atómica.

PROMPT.SETACTIVE

Metadatos

Guarda el autor, el motivo del cambio o el id de un experimento con cada versión.

META

Preguntas frecuentes

¿Los servicios tienen que reiniciarse tras un cambio?

No. Leen la versión activa en tiempo de ejecución, así que la siguiente lectura devuelve la nueva.

¿Puedo guardar también mis prompts en Git?

Sí. Publica desde CI con PROMPT.PUT, así Git sigue siendo la fuente de revisión y HotKV sirve la versión en vivo.

¿Qué planes lo incluyen?

El registro de prompts forma parte de los planes Performance y Scale.

Casos de uso relacionados

Pruébalo con tu propia carga de trabajo

HotKV habla el protocolo de Redis, así que puedes apuntar un cliente que ya usas hacia él y ejecutar estos mismos comandos.