IA și LLMÎnvățare automatăPlanurile Performance și Scale

Feature store ML în timp real

Caracteristici tipate pentru utilizatori, elemente și sesiuni, scrise de pipeline-urile dvs. și citite de modelele dvs. în momentul inferenței, cu vechimea atașată.

tipuri de caracteristici
3
returnată la fiecare citire
Vechime
citiri pentru mai multe entități
În lot
Pasul 1 din 5
Definiți schema

Un grup tipat. Tipurile greșite sunt respinse la scriere.

Sesiune de exempluplaying
# Definiți schema
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

O demonstrație animată cu comenzi HotKV reale și răspunsuri de exemplu. Faceți clic pe orice pas pentru a sări la el. Comenzile și răspunsurile rămân în engleză, exact așa cum le tastați și le vedeți în HotKV.

Problema

Un model în producție este la fel de bun ca și caracteristicile pe care le vede în momentul inferenței. Depozitele offline sunt prea lente pentru a fi interogate la fiecare cerere, iar un simplu store cheie-valoare nu are schemă, deci un bug de pipeline care scrie text într-o caracteristică numerică este descoperit de model, nu de store.

Cum o rezolvă HotKV

Grupurile de caracteristici din HotKV au o schemă tipată. Joburile de streaming scriu valori proaspete, joburile în lot completează retroactiv cu propriile marcaje de timp, iar serverul de modele citește o entitate sau un lot întreg dintr-un singur apel. Fiecare citire returnează când a fost actualizată entitatea ultima dată și cât de veche este, deci caracteristicile învechite pot fi detectate.

Pas cu pas

Ce se întâmplă, comandă cu comandă

  1. 01

    Definiți schema

    Un grup tipat. Tipurile greșite sunt respinse la scriere.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Transmiteți valori proaspete

    Jobul de streaming actualizează caracteristicile pe măsură ce sosesc evenimentele.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Completați retroactiv cu momentul corect

    Joburile în lot marchează entitățile cu momentul în care valorile erau adevărate, nu cu momentul încărcării.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Scorați o comandă

    Serverul de modele citește caracteristicile utilizatorului, cu momentul actualizării și vechimea în milisecunde.

    FEATURE.GET user_features user:42
  5. 05

    În lot pentru mai multe entități

    Clasificați o pagină de candidați dintr-un singur apel.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Unde se potrivește

Scenarii din lumea reală

Scorare de fraudă și risc

Viteza cardului, vechimea dispozitivului și istoricul contului sunt citite la finalizarea comenzii, pe calea cererii, înainte ca plata să fie aprobată.

Clasificare și reclame

Ratele de clic și interesele recente sunt citite pentru fiecare candidat de pe o pagină, într-un singur apel în lot.

Prețuri dinamice

Caracteristicile de cerere și de stoc sunt transmise continuu și citite de modelul de prețuri la fiecare ofertă.

Integrat

Ce primiți

Scheme tipate

Caracteristici int64, double și string. Scrierile cu tipul greșit sunt respinse.

FEATURE.CREATEFEATURE.SCHEMA

Streaming și completare retroactivă

Scrieți cu momentul curent sau cu momentul în care valorile erau adevărate.

FEATURE.SETFEATURE.SETAT

Prospețime la fiecare citire

Fiecare citire returnează momentul actualizării și vechimea entității.

FEATURE.GET

Servire în lot

Mai multe entități, caracteristici selectate, un singur apel.

FEATURE.BATCHFEATURE.STATS
Referință:FEATURE.CREATEFEATURE.SETFEATURE.GETFEATURE.BATCH

Întrebări frecvente

Înlocuiește feature store-ul meu offline?

Este partea online, pentru citiri cu latență redusă în momentul inferenței. Datele de antrenare pot veni în continuare din data warehouse, cu completări retroactive scrise în HotKV prin FEATURE.SETAT.

Cum detectez caracteristicile învechite?

Fiecare FEATURE.GET returnează momentul ultimei actualizări și vechimea în milisecunde, deci serverul de modele poate respinge sau marca valorile vechi.

Ce planuri îl includ?

Feature store-ul face parte din planurile Performance și Scale.

Cazuri de utilizare înrudite

Personalizare

Recomandări în timp real

Recomandări personale dintr-o singură rundă de citiri. Caracteristicile utilizatorului, elemente similare după vector și ce este în tendințe, fără ce a văzut deja.

Explorați
Fintech

Detectarea fraudei în timp real

Scorați fiecare plată pe calea cererii cu contoare de viteză, liste cu elemente cunoscute ca fiind rele, frecvența cardului și caracteristici de model, citite de pe un singur server.

Explorați
Analitică

Analitică în timp real

Numărați evenimentele pe măsură ce au loc, clasificați ce este în tendințe și vedeți ce chei duc greul.

Explorați

Încercați pe propria sarcină de lucru

HotKV vorbește protocolul Redis, așa că puteți îndrepta spre el un client existent și rula aceleași comenzi.

Obțineți acces anticipatUrmătorul: Caching