AI och LLMMaskininlärningPlanerna Performance och Scale

ML-feature store i realtid

Typade features för användare, objekt och sessioner, skrivna av dina pipelines och lästa av dina modeller vid inferens, med deras ålder bifogad.

featuretyper: 3
returneras vid varje läsning: Ålder
läsningar för många entiteter: Batch

Steg 1 av 5

Definiera schemat

En typad grupp. Fel typer avvisas vid skrivning.

Exempelsessionplaying

# Definiera schemat

hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string

En animerad genomgång med riktiga HotKV-kommandon och exempelsvar. Klicka på valfritt steg för att hoppa dit. Kommandon och svar förblir på engelska, precis som du skriver och ser dem i HotKV.

Problemet

En modell i produktion är bara så bra som de features den ser vid inferens. Offline-datalager är för långsamma att fråga per förfrågan, och ett vanligt nyckel-värde-lager saknar schema, så en pipelinebugg som skriver text i en numerisk feature upptäcks av modellen, inte av lagret.

Så löser HotKV det

Featuregrupper i HotKV har ett typat schema. Strömmande jobb skriver färska värden, batchjobb fyller på i efterhand med egna tidsstämplar och modellservern läser en entitet eller en hel batch i ett enda anrop. Varje läsning returnerar när entiteten senast uppdaterades och hur gammal den är, så att inaktuella features kan upptäckas.

Steg för steg

Vad som händer, kommando för kommando

01
Definiera schemat
En typad grupp. Fel typer avvisas vid skrivning.
FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
02
Strömma färska värden
Strömjobbet uppdaterar features när händelser kommer in.
FEATURE.SET user_features user:42 ctr 0.051 country DE
03
Fyll på i efterhand med rätt tid
Batchjobb stämplar entiteter med den tid då värdena stämde, inte den tid de lästes in.
FEATURE.SETAT user_features user:42 1790985600123 age 31
04
Bedöm en kassa
Modellservern läser användarens features, med uppdateringstid och ålder i millisekunder.
FEATURE.GET user_features user:42
05
Batch för många entiteter
Rangordna en sida med kandidater med ett enda anrop.
FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr

Där det passar

Verkliga scenarier

Bedrägeri- och riskbedömning

Kortets hastighet, enhetens ålder och kontohistorik läses i kassan, i förfrågningsflödet, innan betalningen godkänns.

Rankning och annonser

Klickfrekvenser och senaste intressen läses för varje kandidat på en sida i ett enda batchanrop.

Dynamisk prissättning

Efterfråge- och lagerfeatures strömmas in löpande och läses av prismodellen vid varje offert.

Inbyggt

Det här får du

Typade scheman

Features av typerna int64, double och string. Skrivningar med fel typ avvisas.

FEATURE.CREATEFEATURE.SCHEMA

Strömning och påfyllning i efterhand

Skriv med aktuell tid eller med den tid då värdena stämde.

FEATURE.SETFEATURE.SETAT

Färskhet vid varje läsning

Varje läsning returnerar entitetens uppdateringstid och ålder.

FEATURE.GET

Batchleverans

Många entiteter, utvalda features, ett anrop.

FEATURE.BATCHFEATURE.STATS

Referens:FEATURE.CREATE FEATURE.SET FEATURE.GET FEATURE.BATCH

Vanliga frågor

Ersätter det min offline-feature store?

Det är onlinesidan, för läsningar med låg latens vid inferens. Träningsdata kan fortfarande komma från ditt datalager, med påfyllningar som skrivs in i HotKV med FEATURE.SETAT.

Hur upptäcker jag inaktuella features?

Varje FEATURE.GET returnerar senaste uppdateringstid och åldern i millisekunder, så att modellservern kan avvisa eller flagga gamla värden.

Vilka planer innehåller den?

Feature store ingår i planerna Performance och Scale.

Relaterade användningsfall

Personalisering

Rekommendationer i realtid

Personliga rekommendationer i en enda omgång läsningar. Användarfeatures, liknande objekt via vektorer och det som trendar, minus det användaren redan har sett.

Utforska

Fintech