AI 및 LLMLLM 애플리케이션Performance 및 Scale 플랜

프롬프트 버전 관리와 롤백

시스템 프롬프트를 데이터 계층에서 버전 관리하고, 새 버전을 모든 서비스에 한 번에 배포하며, 문제가 생기면 명령 하나로 롤백합니다.

롤백에 필요한 명령 수
1
재배포 횟수
0
기본으로 보관하는 최근 버전 수
64
단계 1 / 5
버전 1 게시

지원 에이전트 시스템 프롬프트의 첫 번째 버전입니다.

예시 세션playing
# 버전 1 게시
hotkv> PROMPT.PUT support-agent "You are a helpful support agent."
(integer) 1

실제 HotKV 명령과 예시 응답으로 구성된 애니메이션 안내입니다. 원하는 단계를 클릭하면 해당 단계로 이동합니다. 명령과 응답은 HotKV에서 입력하고 보는 그대로 영어로 표시됩니다.

문제

시스템 프롬프트는 코드보다 자주 바뀌지만 보통 코드 안에 들어 있습니다. 수정할 때마다 배포해야 하고, 서비스마다 다른 버전으로 어긋나며, 새벽 2시에 새 프롬프트 때문에 어시스턴트가 나빠지면 롤백에도 또 한 번의 릴리스가 필요합니다.

HotKV의 해결 방식

프롬프트 레지스트리는 각 템플릿의 모든 버전을 HotKV에 보관합니다. 서비스는 런타임에 활성 버전을 읽고, 편집자는 명령 하나로 새 버전을 게시하며, 활성 버전 선택은 모든 서비스가 다음 읽기에서 바로 확인하는 하나의 원자적 전환입니다.

단계별 설명

명령 하나하나, 무슨 일이 일어나는가

  1. 01

    버전 1 게시

    지원 에이전트 시스템 프롬프트의 첫 번째 버전입니다.

    PROMPT.PUT support-agent "You are a helpful support agent."
  2. 02

    서비스가 활성 버전을 읽음

    모든 서비스는 템플릿을 코드에 넣어 컴파일하는 대신 런타임에 가져옵니다.

    PROMPT.GET support-agent
  3. 03

    버전 2 배포

    작성자 정보를 메타데이터로 담은 새 버전입니다. 모든 서비스에서 동시에 활성화됩니다.

    PROMPT.PUT support-agent "You are a concise, friendly support agent." META "{\"author\":\"maria\"}"
  4. 04

    문제가 있어 롤백

    답변이 너무 짧아졌습니다. 명령 하나로 버전 1이 다시 활성화됩니다. 배포도, 재시작도 없습니다.

    PROMPT.SETACTIVE support-agent 1
  5. 05

    기록 감사

    최근 버전은 기본 64개까지 레지스트리에 남으므로 비교하거나 어느 버전으로든 돌아갈 수 있습니다.

    PROMPT.VERSIONS support-agent
적용 분야

실제 시나리오

어조를 다듬는 제품 팀

작성자는 엔지니어링 릴리스를 기다리지 않고 매일 어시스턴트의 말투를 조정하며, 최근 버전은 보관됩니다.

다중 서비스 플랫폼

채팅, 이메일 초안 작성, 요약이 모두 같은 템플릿을 읽으므로 수정 사항이 모든 곳에 동시에 반영됩니다.

장애 대응

프롬프트 변경으로 프로덕션에서 잘못된 답변이 나오면, 당직자가 명령 하나로 몇 초 만에 롤백합니다.

내장 기능

제공되는 기능

버전이 있는 템플릿

PROMPT.PUT을 실행할 때마다 버전이 추가되고 활성화됩니다. 최근 버전은 기본 64개까지 보관됩니다.

PROMPT.PUTPROMPT.VERSIONS

런타임 읽기

서비스는 호출 한 번으로 활성 버전 또는 특정 버전을 읽습니다.

PROMPT.GETPROMPT.LATEST

즉시 롤백

활성 버전을 원자적으로 전환합니다.

PROMPT.SETACTIVE

메타데이터

버전마다 작성자, 변경 사유, 실험 ID를 함께 보관합니다.

META

자주 묻는 질문

변경 후 서비스를 재시작해야 합니까?

아닙니다. 서비스는 런타임에 활성 버전을 읽으므로 다음 읽기에서 새 버전이 반환됩니다.

프롬프트를 Git에도 보관할 수 있습니까?

예. CI에서 PROMPT.PUT으로 게시하면 Git은 리뷰의 기준으로 남고 HotKV가 라이브 버전을 제공합니다.

어떤 플랜에 포함됩니까?

프롬프트 레지스트리는 Performance 및 Scale 플랜에 포함됩니다.

관련 사용 사례

직접 워크로드로 사용해 보십시오

HotKV는 Redis 프로토콜을 사용하므로 기존 클라이언트를 연결해 같은 명령을 그대로 실행할 수 있습니다.