ШІ та LLMМашинне навчанняПлани Performance і Scale

ML feature store в реальному часі

Типізовані ознаки для користувачів, елементів і сесій, які записують ваші конвеєри й читають ваші моделі під час інференсу, з доданим віком.

типи ознак
3
повертається з кожним читанням
Вік
читання для багатьох сутностей
Пакетне
Крок 1 з 5
Визначте схему

Типізована група. Неправильні типи відхиляються під час запису.

Приклад сесіїplaying
# Визначте схему
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Анімований покроковий розбір з реальними командами HotKV і прикладами відповідей. Натисніть будь-який крок, щоб перейти до нього. Команди та відповіді залишаються англійською, так само, як ви вводите й бачите їх у HotKV.

Проблема

Модель у продакшені настільки добра, наскільки добрі ознаки, які вона бачить під час інференсу. Офлайн-сховища надто повільні для запитів на кожен запит, а звичайне сховище ключ-значення не має схеми, тож помилку конвеєра, що пише текст в числову ознаку, виявляє модель, а не сховище.

Як це вирішує HotKV

Групи ознак у HotKV мають типізовану схему. Потокові завдання записують свіжі значення, пакетні завдання донаповнюють зі своїми мітками часу, а сервер моделі читає одну сутність або цілий пакет одним викликом. Кожне читання повертає, коли сутність востаннє оновлювалась і наскільки вона застаріла, тож застарілі ознаки можна виявити.

Крок за кроком

Що відбувається, команда за командою

  1. 01

    Визначте схему

    Типізована група. Неправильні типи відхиляються під час запису.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Потоково записуйте свіжі значення

    Потокове завдання оновлює ознаки в міру надходження подій.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Донаповнюйте з правильним часом

    Пакетні завдання позначають сутності часом, коли значення були справжніми, а не часом завантаження.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Оцініть оформлення замовлення

    Сервер моделі читає ознаки користувача з часом оновлення та віком у мілісекундах.

    FEATURE.GET user_features user:42
  5. 05

    Пакетно для багатьох сутностей

    Ранжуйте сторінку кандидатів одним викликом.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Де це доречно

Реальні сценарії

Оцінка шахрайства та ризиків

Швидкість операцій за карткою, вік пристрою й історія акаунта читаються під час оформлення замовлення, у шляху запиту, до схвалення платежу.

Ранжування та реклама

Показники кліків і нещодавні інтереси читаються для кожного кандидата на сторінці одним пакетним викликом.

Динамічне ціноутворення

Ознаки попиту та запасів безперервно надходять потоком і читаються моделлю ціноутворення на кожну пропозицію.

Вбудовано

Що ви отримуєте

Типізовані схеми

Ознаки int64, double і string. Записи з неправильним типом відхиляються.

FEATURE.CREATEFEATURE.SCHEMA

Потік і донаповнення

Записуйте з поточним часом або з часом, коли значення були справжніми.

FEATURE.SETFEATURE.SETAT

Свіжість у кожному читанні

Кожне читання повертає час оновлення сутності та її вік.

FEATURE.GET

Пакетна видача

Багато сутностей, вибрані ознаки, один виклик.

FEATURE.BATCHFEATURE.STATS

Поширені запитання

Чи замінює це моє офлайнове feature store?

Це онлайнова частина, для читання з малою затримкою під час інференсу. Навчальні дані все ще можуть надходити з вашого сховища, а донаповнення записуються в HotKV через FEATURE.SETAT.

Як виявити застарілі ознаки?

Кожен FEATURE.GET повертає час останнього оновлення та вік у мілісекундах, тож сервер моделі може відхилити або позначити старі значення.

Які плани це містять?

Feature store входить до планів Performance і Scale.

Пов'язані сценарії використання

Спробуйте на власному навантаженні

HotKV розмовляє протоколом Redis, тож ви можете направити на нього наявний клієнт і виконувати ті самі команди.