AI és LLMGépi tanulásPerformance és Scale csomagok

Valós idejű ML feature store

Típusos feature-ök felhasználókhoz, elemekhez és munkamenetekhez, amelyeket a pipeline-jai írnak, a modelljei pedig inferencia közben olvasnak, a koruk megadásával.

feature-típus
3
minden olvasással visszaadva
Életkor
olvasás sok entitásra
Kötegelt
Lépés 1 / 5
A séma definiálása

Típusos csoport. A rossz típusokat íráskor elutasítja.

Példa munkamenetplaying
# A séma definiálása
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Animált bemutató valódi HotKV-parancsokkal és példa-válaszokkal. Kattintson bármelyik lépésre, hogy odaugorjon. A parancsok és a válaszok angolul maradnak, pontosan úgy, ahogy begépeli és látja őket a HotKV-ban.

A probléma

Egy éles modell csak annyira jó, mint a feature-ök, amelyeket inferencia közben lát. Az offline adattárházak túl lassúak a kérésenkénti lekérdezéshez, egy egyszerű kulcs–érték tárolónak pedig nincs sémája, így egy pipeline-hibát, amely szöveget ír egy numerikus feature-be, a modell fedezi fel, nem a tároló.

Hogyan kezeli a HotKV

A HotKV feature-csoportjainak típusos sémájuk van. A streamelő feladatok friss értékeket írnak, a kötegelt feladatok saját időbélyegükkel töltik fel utólag az adatokat, a modellszerver pedig egy entitást vagy egy egész köteget olvas egyetlen hívással. Minden olvasás megadja, mikor frissült utoljára az entitás és mennyi idős, így az elavult feature-ök felismerhetők.

Lépésről lépésre

Mi történik, parancsról parancsra

  1. 01

    A séma definiálása

    Típusos csoport. A rossz típusokat íráskor elutasítja.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Friss értékek streamelése

    A streamelő feladat az események érkezésével frissíti a feature-öket.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Utólagos feltöltés a helyes idővel

    A kötegelt feladatok azzal az idővel bélyegzik az entitásokat, amikor az értékek igazak voltak, nem azzal, amikor betöltötték őket.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Egy fizetés pontozása

    A modellszerver olvassa a felhasználó feature-jeit, a frissítés idejével és a kor ezredmásodpercben megadott értékével.

    FEATURE.GET user_features user:42
  5. 05

    Köteg sok entitáshoz

    Rangsorolja a jelöltek egy oldalát egyetlen hívással.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Hol használható

Valós helyzetek

Csalás- és kockázatpontozás

A kártyasebességet, az eszköz korát és a fiók előzményeit a fizetéskor, a kérés útvonalán olvassák, a fizetés jóváhagyása előtt.

Rangsorolás és hirdetések

Az átkattintási arányokat és a friss érdeklődési köröket egy oldal minden jelöltjére egyetlen kötegelt hívással olvassák.

Dinamikus árazás

A kereslet- és készlet-feature-ök folyamatosan érkeznek, és az árazó modell minden árajánlatnál olvassa őket.

Beépítve

Amit kap

Típusos sémák

int64, double és string feature-ök. A rossz típusú írásokat elutasítja.

FEATURE.CREATEFEATURE.SCHEMA

Streamelés és utólagos feltöltés

Írjon az aktuális idővel vagy azzal az idővel, amikor az értékek igazak voltak.

FEATURE.SETFEATURE.SETAT

Frissesség minden olvasásnál

Minden olvasás megadja az entitás frissítési idejét és korát.

FEATURE.GET

Kötegelt kiszolgálás

Sok entitás, kiválasztott feature-ök, egyetlen hívás.

FEATURE.BATCHFEATURE.STATS

Gyakori kérdések

Ez leváltja az offline feature store-omat?

Ez az online oldal, kis késleltetésű olvasáshoz inferencia idején. A tanítóadatok továbbra is jöhetnek az adattárházból, az utólagos feltöltéseket a FEATURE.SETAT-tel írva a HotKV-ba.

Hogyan ismerem fel az elavult feature-öket?

Minden FEATURE.GET visszaadja az utolsó frissítés idejét és a kort ezredmásodpercben, így a modellszerver elutasíthatja vagy megjelölheti a régi értékeket.

Mely csomagok tartalmazzák?

A feature store a Performance és a Scale csomag része.

Kapcsolódó felhasználási esetek

Próbálja ki a saját munkaterhelésén

A HotKV a Redis protokollt beszéli, így egy meglévő klienst ráirányíthat, és lefuttathatja ugyanezeket a parancsokat.