IA e LLMMachine learningPlanos Performance e Scale

Feature store de ML em tempo real

Features tipadas de usuários, itens e sessões, gravadas pelos seus pipelines e lidas pelos seus modelos no momento da inferência, com a idade de cada uma.

tipos de feature
3
retornada em cada leitura
Idade
leituras de muitas entidades
Em lote
Etapa 1 de 5
Defina o schema

Um grupo tipado. Tipos errados são rejeitados no momento da escrita.

Sessão de exemploplaying
# Defina o schema
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Uma demonstração animada com comandos reais do HotKV e respostas de exemplo. Clique em qualquer etapa para ir direto a ela. Os comandos e as respostas ficam em inglês, exatamente como você os digita e vê no HotKV.

O problema

Um modelo em produção só é tão bom quanto as features que ele vê no momento da inferência. Os data warehouses offline são lentos demais para consultas a cada requisição, e um armazenamento chave-valor simples não tem schema, então um bug de pipeline que grava texto em uma feature numérica é descoberto pelo modelo, não pelo armazenamento.

Como o HotKV resolve

Os grupos de features no HotKV têm um schema tipado. Jobs de streaming gravam valores novos, jobs em lote fazem backfill com os próprios timestamps e o servidor do modelo lê uma entidade ou um lote inteiro em uma única chamada. Cada leitura informa quando a entidade foi atualizada pela última vez e qual a idade dela, então as features desatualizadas podem ser detectadas.

Passo a passo

O que acontece, comando por comando

  1. 01

    Defina o schema

    Um grupo tipado. Tipos errados são rejeitados no momento da escrita.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Envie valores novos em stream

    O job de streaming atualiza as features à medida que os eventos chegam.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Backfill com o horário certo

    Os jobs em lote marcam as entidades com o horário em que os valores eram verdadeiros, não com o horário em que foram carregados.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Avalie um checkout

    O servidor do modelo lê as features do usuário, com o horário de atualização e a idade em milissegundos.

    FEATURE.GET user_features user:42
  5. 05

    Lote para muitas entidades

    Ordene uma página de candidatos com uma chamada.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Onde se encaixa

Cenários reais

Score de fraude e risco

A velocidade de uso do cartão, a idade do dispositivo e o histórico da conta são lidos no checkout, no caminho da requisição, antes de o pagamento ser aprovado.

Ranking e anúncios

Taxas de clique e interesses recentes são lidos para cada candidato de uma página em uma única chamada em lote.

Preços dinâmicos

As features de demanda e de estoque chegam continuamente em stream e são lidas pelo modelo de preços em cada cotação.

Integrado

O que você ganha

Schemas tipados

Features int64, double e string. Escritas com o tipo errado são rejeitadas.

FEATURE.CREATEFEATURE.SCHEMA

Streaming e backfill

Grave com o horário atual ou com o horário em que os valores eram verdadeiros.

FEATURE.SETFEATURE.SETAT

Atualidade em cada leitura

Cada leitura retorna o horário de atualização e a idade da entidade.

FEATURE.GET

Serviço em lote

Muitas entidades, features selecionadas, uma chamada.

FEATURE.BATCHFEATURE.STATS

Perguntas frequentes

Isso substitui o meu feature store offline?

É o lado online, para leituras de baixa latência no momento da inferência. Os dados de treino ainda podem vir do seu data warehouse, com os backfills gravados no HotKV com FEATURE.SETAT.

Como detecto features desatualizadas?

Cada FEATURE.GET retorna o horário da última atualização e a idade em milissegundos, então o servidor do modelo pode rejeitar ou sinalizar valores antigos.

Quais planos incluem o recurso?

O feature store faz parte dos planos Performance e Scale.

Casos de uso relacionados

Experimente com a sua própria carga de trabalho

O HotKV fala o protocolo Redis, então você pode apontar um cliente existente para ele e executar estes mesmos comandos.