Equipos de producto que ajustan el tono
Los redactores ajustan la voz del asistente a diario sin esperar una release de ingeniería, y las versiones recientes se conservan.
Versiona tus prompts de sistema en la capa de datos, despliega uno nuevo en todos los servicios a la vez y revierte con un solo comando cuando se porte mal.
La primera versión del prompt de sistema del agente de soporte.
Un recorrido animado con comandos reales de HotKV y respuestas de ejemplo. Haz clic en cualquier paso para saltar a él. Los comandos y las respuestas se quedan en inglés, tal como los escribes y los ves en HotKV.
Los prompts de sistema cambian más a menudo que el código, pero suelen vivir dentro del código. Cada ajuste es un despliegue, los distintos servicios acaban en versiones distintas y, cuando un prompt nuevo empeora el asistente a las 2 de la madrugada, revertir significa otra release.
El registro de prompts guarda cada versión de cada plantilla en HotKV. Los servicios leen la versión activa en tiempo de ejecución, un editor publica una versión nueva con un comando y elegir qué versión está activa es un único cambio atómico que todos los servicios ven en su siguiente lectura.
La primera versión del prompt de sistema del agente de soporte.
PROMPT.PUT support-agent "You are a helpful support agent."Cada servicio obtiene la plantilla en tiempo de ejecución en lugar de compilarla dentro.
PROMPT.GET support-agentUna versión nueva con metadatos sobre quién la escribió. Pasa a estar activa para todos los servicios a la vez.
PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"Las respuestas se volvieron demasiado escuetas. Un comando vuelve a activar la versión 1. Sin despliegue ni reinicio.
PROMPT.SETACTIVE support-agent 1Las versiones recientes se quedan en el registro, 64 por defecto, para que puedas compararlas o volver a cualquiera de ellas.
PROMPT.VERSIONS support-agentLos redactores ajustan la voz del asistente a diario sin esperar una release de ingeniería, y las versiones recientes se conservan.
El chat, la redacción de correos y los resúmenes leen la misma plantilla, así que una corrección llega a todas partes en el mismo momento.
Cuando un cambio de prompt provoca malas respuestas en producción, la persona de guardia revierte en segundos con un comando.
Cada PROMPT.PUT añade una versión y la activa. Se conservan las versiones más recientes, 64 por defecto.
PROMPT.PUTPROMPT.VERSIONSLos servicios leen la versión activa, o una concreta, con una sola llamada.
PROMPT.GETPROMPT.LATESTCambia la versión activa de forma atómica.
PROMPT.SETACTIVEGuarda el autor, el motivo del cambio o el id de un experimento con cada versión.
METANo. Leen la versión activa en tiempo de ejecución, así que la siguiente lectura devuelve la nueva.
Sí. Publica desde CI con PROMPT.PUT, así Git sigue siendo la fuente de revisión y HotKV sirve la versión en vivo.
El registro de prompts forma parte de los planes Performance y Scale.
HotKV habla el protocolo de Redis, así que puedes apuntar un cliente que ya usas hacia él y ejecutar estos mismos comandos.