AI 및 LLM머신러닝Performance 및 Scale 플랜

실시간 ML 피처 스토어

파이프라인이 쓰고 모델이 추론 시점에 읽는 사용자, 항목, 세션별 타입이 지정된 피처를 경과 시간과 함께 제공합니다.

피처 타입
3
모든 읽기와 함께 반환
경과 시간
여러 엔터티 읽기
일괄
단계 1 / 5
스키마 정의

타입이 지정된 그룹입니다. 잘못된 타입은 쓰기 시점에 거부됩니다.

예시 세션playing
# 스키마 정의
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

실제 HotKV 명령과 예시 응답으로 구성된 애니메이션 안내입니다. 원하는 단계를 클릭하면 해당 단계로 이동합니다. 명령과 응답은 HotKV에서 입력하고 보는 그대로 영어로 표시됩니다.

문제

프로덕션 모델은 추론 시점에 보는 피처만큼만 좋습니다. 오프라인 웨어하우스는 요청마다 쿼리하기에는 너무 느리고, 일반 키-값 저장소에는 스키마가 없으므로 숫자 피처에 텍스트를 쓰는 파이프라인 버그를 저장소가 아니라 모델이 발견하게 됩니다.

HotKV의 해결 방식

HotKV의 피처 그룹에는 타입이 지정된 스키마가 있습니다. 스트리밍 작업은 새 값을 쓰고, 배치 작업은 자체 타임스탬프로 백필하며, 모델 서버는 엔터티 하나 또는 배치 전체를 호출 한 번으로 읽습니다. 모든 읽기는 엔터티가 마지막으로 갱신된 시각과 경과 시간을 반환하므로 오래된 피처를 감지할 수 있습니다.

단계별 설명

명령 하나하나, 무슨 일이 일어나는가

  1. 01

    스키마 정의

    타입이 지정된 그룹입니다. 잘못된 타입은 쓰기 시점에 거부됩니다.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    새 값 스트리밍

    스트리밍 작업이 이벤트가 들어오는 대로 피처를 갱신합니다.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    올바른 시각으로 백필

    배치 작업은 값을 불러온 시각이 아니라 값이 유효했던 시각으로 엔터티에 타임스탬프를 붙입니다.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    결제 점수 산정

    모델 서버가 사용자 피처를 갱신 시각 및 밀리초 단위 경과 시간과 함께 읽습니다.

    FEATURE.GET user_features user:42
  5. 05

    여러 엔터티를 일괄로

    한 페이지 분량의 후보를 호출 한 번으로 순위를 매깁니다.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
적용 분야

실제 시나리오

사기 및 위험 점수

카드 사용 속도, 기기 사용 기간, 계정 이력을 결제 승인 전에 요청 경로 안에서 결제 시점에 읽습니다.

랭킹과 광고

페이지의 모든 후보에 대한 클릭률과 최근 관심사를 일괄 호출 한 번으로 읽습니다.

동적 가격 책정

수요와 재고 피처가 계속 스트리밍으로 들어오고, 가격 모델이 견적마다 이를 읽습니다.

내장 기능

제공되는 기능

타입이 지정된 스키마

int64, double, string 피처를 지원합니다. 잘못된 타입의 쓰기는 거부됩니다.

FEATURE.CREATEFEATURE.SCHEMA

스트리밍과 백필

현재 시각 또는 값이 유효했던 시각으로 씁니다.

FEATURE.SETFEATURE.SETAT

모든 읽기에 신선도 포함

모든 읽기가 엔터티의 갱신 시각과 경과 시간을 반환합니다.

FEATURE.GET

일괄 제공

여러 엔터티, 선택한 피처, 호출 한 번.

FEATURE.BATCHFEATURE.STATS

자주 묻는 질문

오프라인 피처 스토어를 대체합니까?

이것은 추론 시점의 짧은 지연 시간 읽기를 위한 온라인 측입니다. 학습 데이터는 계속 웨어하우스에서 가져올 수 있으며, 백필은 FEATURE.SETAT으로 HotKV에 씁니다.

오래된 피처는 어떻게 감지합니까?

모든 FEATURE.GET이 마지막 갱신 시각과 밀리초 단위 경과 시간을 반환하므로, 모델 서버가 오래된 값을 거부하거나 표시할 수 있습니다.

어떤 플랜에 포함됩니까?

피처 스토어는 Performance 및 Scale 플랜에 포함됩니다.

관련 사용 사례

직접 워크로드로 사용해 보십시오

HotKV는 Redis 프로토콜을 사용하므로 기존 클라이언트를 연결해 같은 명령을 그대로 실행할 수 있습니다.