KI und LLMMachine LearningPerformance- und Scale-Tarife

Echtzeit-ML-Feature-Store

Typisierte Features für Benutzer, Elemente und Sessions, von Ihren Pipelines geschrieben und von Ihren Modellen zur Inferenzzeit gelesen, jeweils mit ihrem Alter.

Feature-Typen
3
bei jedem Lesezugriff
Alter
Lesezugriffe für viele Entitäten
Batch
Schritt 1 von 5
Das Schema definieren

Eine typisierte Gruppe. Falsche Typen werden beim Schreiben abgewiesen.

Beispielsitzungplaying
# Das Schema definieren
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Ein animierter Durchlauf mit echten HotKV-Befehlen und Beispielantworten. Klicken Sie auf einen Schritt, um direkt dorthin zu springen. Befehle und Antworten bleiben auf Englisch, genau so, wie Sie sie in HotKV eingeben und sehen.

Das Problem

Ein Modell in Produktion ist nur so gut wie die Features, die es zur Inferenzzeit sieht. Offline-Warehouses sind zu langsam für Abfragen pro Anfrage, und ein einfacher Key-Value-Store hat kein Schema, sodass ein Pipeline-Fehler, der Text in ein numerisches Feature schreibt, vom Modell entdeckt wird statt vom Store.

So löst HotKV es

Feature-Gruppen in HotKV haben ein typisiertes Schema. Streaming-Jobs schreiben frische Werte, Batch-Jobs füllen mit ihren eigenen Zeitstempeln nach, und der Modellserver liest eine Entität oder einen ganzen Batch mit einem Aufruf. Jeder Lesezugriff liefert, wann die Entität zuletzt aktualisiert wurde und wie alt sie ist, sodass veraltete Features erkannt werden können.

Schritt für Schritt

Was passiert, Befehl für Befehl

  1. 01

    Das Schema definieren

    Eine typisierte Gruppe. Falsche Typen werden beim Schreiben abgewiesen.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Frische Werte streamen

    Der Streaming-Job aktualisiert Features, sobald Ereignisse eintreffen.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Mit der richtigen Zeit nachfüllen

    Batch-Jobs versehen Entitäten mit dem Zeitpunkt, zu dem die Werte galten, nicht mit dem, zu dem sie geladen wurden.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Einen Checkout bewerten

    Der Modellserver liest die Features des Benutzers mit Aktualisierungszeit und Alter in Millisekunden.

    FEATURE.GET user_features user:42
  5. 05

    Batch für viele Entitäten

    Ordnen Sie eine Seite voller Kandidaten mit einem Aufruf.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Wo es passt

Szenarien aus der Praxis

Betrugs- und Risikobewertung

Karten-Velocity, Gerätealter und Kontohistorie werden beim Checkout im Anfragepfad gelesen, bevor die Zahlung freigegeben wird.

Ranking und Werbung

Klickraten und aktuelle Interessen werden für jeden Kandidaten auf einer Seite mit einem einzigen Batch-Aufruf gelesen.

Dynamische Preisgestaltung

Nachfrage- und Bestandsfeatures werden laufend eingestreamt und vom Preismodell bei jedem Angebot gelesen.

Integriert

Was Sie bekommen

Typisierte Schemas

Features vom Typ int64, double und string. Schreibzugriffe mit falschem Typ werden abgewiesen.

FEATURE.CREATEFEATURE.SCHEMA

Streaming und Backfill

Schreiben Sie mit der aktuellen Zeit oder mit dem Zeitpunkt, zu dem die Werte galten.

FEATURE.SETFEATURE.SETAT

Aktualität bei jedem Lesezugriff

Jeder Lesezugriff liefert die Aktualisierungszeit und das Alter der Entität.

FEATURE.GET

Batch-Auslieferung

Viele Entitäten, ausgewählte Features, ein Aufruf.

FEATURE.BATCHFEATURE.STATS

Häufige Fragen

Ersetzt das meinen Offline-Feature-Store?

Es ist die Online-Seite, für Lesezugriffe mit niedriger Latenz zur Inferenzzeit. Trainingsdaten können weiter aus Ihrem Warehouse kommen, wobei Backfills mit FEATURE.SETAT in HotKV geschrieben werden.

Wie erkenne ich veraltete Features?

Jedes FEATURE.GET liefert die letzte Aktualisierungszeit und das Alter in Millisekunden, sodass der Modellserver alte Werte ablehnen oder markieren kann.

Welche Tarife enthalten ihn?

Der Feature-Store ist Teil der Tarife Performance und Scale.

Verwandte Anwendungsfälle

Probieren Sie es mit Ihrer eigenen Workload

HotKV spricht das Redis-Protokoll, sodass Sie einen bestehenden Client darauf richten und genau diese Befehle ausführen können.