AI i LLMUczenie maszynoweplany Performance i Scale

Feature store ML w czasie rzeczywistym

Typowane cechy użytkowników, elementów i sesji, zapisywane przez Twoje potoki i odczytywane przez modele w czasie inferencji, z dołączonym wiekiem.

typy cech
3
zwracany przy każdym odczycie
Wiek
odczyty dla wielu encji
Batch
Krok 1 z 5
Zdefiniuj schemat

Typowana grupa. Niewłaściwe typy są odrzucane przy zapisie.

Przykładowa sesjaplaying
# Zdefiniuj schemat
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Animowany przegląd z prawdziwymi poleceniami HotKV i przykładowymi odpowiedziami. Kliknij dowolny krok, aby do niego przejść. Polecenia i odpowiedzi pozostają po angielsku, dokładnie tak, jak je wpisujesz i widzisz w HotKV.

Problem

Model na produkcji jest tak dobry, jak cechy, które widzi w czasie inferencji. Hurtownie offline są zbyt wolne, by odpytywać je przy każdym żądaniu, a zwykły magazyn klucz-wartość nie ma schematu, więc błąd potoku zapisujący tekst do cechy liczbowej odkrywa model, a nie magazyn.

Jak radzi sobie z tym HotKV

Grupy cech w HotKV mają typowany schemat. Zadania strumieniowe zapisują świeże wartości, zadania wsadowe uzupełniają wstecz z własnymi znacznikami czasu, a serwer modeli odczytuje jedną encję lub cały wsad jednym wywołaniem. Każdy odczyt zwraca, kiedy encja była ostatnio aktualizowana i jak jest stara, więc nieaktualne cechy można wykryć.

Krok po kroku

Co się dzieje, polecenie po poleceniu

  1. 01

    Zdefiniuj schemat

    Typowana grupa. Niewłaściwe typy są odrzucane przy zapisie.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Strumieniuj świeże wartości

    Zadanie strumieniowe aktualizuje cechy w miarę napływu zdarzeń.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Uzupełnij wstecz z właściwym czasem

    Zadania wsadowe opatrują encje czasem, w którym wartości były prawdziwe, a nie czasem ich wczytania.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Oceń zamówienie

    Serwer modeli odczytuje cechy użytkownika, z czasem aktualizacji i wiekiem w milisekundach.

    FEATURE.GET user_features user:42
  5. 05

    Wsad dla wielu encji

    Uszereguj stronę kandydatów jednym wywołaniem.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Gdzie się sprawdza

Scenariusze z życia

Ocena oszustw i ryzyka

Częstotliwość użycia karty, wiek urządzenia i historia konta są odczytywane przy zamówieniu, na ścieżce żądania, przed zatwierdzeniem płatności.

Ranking i reklamy

Współczynniki klikalności i ostatnie zainteresowania są odczytywane dla każdego kandydata na stronie jednym wywołaniem wsadowym.

Dynamiczne ceny

Cechy popytu i zapasów są strumieniowane w sposób ciągły i odczytywane przez model cen przy każdej wycenie.

Wbudowane

Co dostajesz

Typowane schematy

Cechy int64, double i string. Zapisy z niewłaściwym typem są odrzucane.

FEATURE.CREATEFEATURE.SCHEMA

Strumieniowanie i uzupełnianie

Zapisuj z bieżącym czasem lub z czasem, w którym wartości były prawdziwe.

FEATURE.SETFEATURE.SETAT

Świeżość przy każdym odczycie

Każdy odczyt zwraca czas aktualizacji i wiek encji.

FEATURE.GET

Serwowanie wsadowe

Wiele encji, wybrane cechy, jedno wywołanie.

FEATURE.BATCHFEATURE.STATS

Częste pytania

Czy to zastępuje mój offline feature store?

To strona online, do odczytów o niskim opóźnieniu w czasie inferencji. Dane treningowe nadal mogą pochodzić z hurtowni, a uzupełnienia są zapisywane w HotKV przez FEATURE.SETAT.

Jak wykryć nieaktualne cechy?

Każde FEATURE.GET zwraca czas ostatniej aktualizacji i wiek w milisekundach, więc serwer modeli może odrzucić lub oznaczyć stare wartości.

Które plany to zawierają?

Feature store jest częścią planów Performance i Scale.

Powiązane przypadki użycia

Wypróbuj na własnym obciążeniu

HotKV mówi protokołem Redis, więc możesz skierować na niego istniejącego klienta i uruchomić te same polecenia.