IA y LLMAprendizaje automáticoPlanes Performance y Scale

Feature store de ML en tiempo real

Features tipadas para usuarios, elementos y sesiones, que escriben tus pipelines y leen tus modelos en el momento de la inferencia, con su antigüedad incluida.

tipos de feature
3
devuelta en cada lectura
Antigüedad
lecturas de muchas entidades
Por lotes
Paso 1 de 5
Define el esquema

Un grupo tipado. Los tipos incorrectos se rechazan al escribir.

Sesión de ejemploplaying
# Define el esquema
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Un recorrido animado con comandos reales de HotKV y respuestas de ejemplo. Haz clic en cualquier paso para saltar a él. Los comandos y las respuestas se quedan en inglés, tal como los escribes y los ves en HotKV.

El problema

Un modelo en producción solo es tan bueno como las features que ve en el momento de la inferencia. Los data warehouses offline son demasiado lentos para consultarlos en cada solicitud, y un almacén clave-valor simple no tiene esquema, así que un error de pipeline que escribe texto en una feature numérica lo descubre el modelo, no el almacén.

Cómo lo resuelve HotKV

Los grupos de features de HotKV tienen un esquema tipado. Los trabajos de streaming escriben valores frescos, los trabajos por lotes rellenan el histórico con sus propias marcas de tiempo y el servidor del modelo lee una entidad o un lote entero en una sola llamada. Cada lectura devuelve cuándo se actualizó la entidad por última vez y qué antigüedad tiene, así se pueden detectar las features desactualizadas.

Paso a paso

Qué ocurre, comando a comando

  1. 01

    Define el esquema

    Un grupo tipado. Los tipos incorrectos se rechazan al escribir.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Envía valores frescos en streaming

    El trabajo de streaming actualiza las features a medida que llegan los eventos.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Rellena con la hora correcta

    Los trabajos por lotes marcan las entidades con la hora en que los valores eran ciertos, no con la hora en que se cargaron.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Puntúa un pago

    El servidor del modelo lee las features del usuario, con la hora de actualización y la antigüedad en milisegundos.

    FEATURE.GET user_features user:42
  5. 05

    Lotes para muchas entidades

    Ordena una página de candidatos con una sola llamada.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Dónde encaja

Escenarios reales

Scoring de fraude y riesgo

La velocidad de uso de la tarjeta, la antigüedad del dispositivo y el historial de la cuenta se leen al pagar, en la ruta de la solicitud, antes de aprobar el pago.

Ranking y anuncios

Las tasas de clics y los intereses recientes se leen para cada candidato de una página en una sola llamada por lotes.

Precios dinámicos

Las features de demanda e inventario llegan en streaming de forma continua y el modelo de precios las lee en cada cotización.

Integrado

Qué obtienes

Esquemas tipados

Features int64, double y string. Las escrituras con el tipo incorrecto se rechazan.

FEATURE.CREATEFEATURE.SCHEMA

Streaming y relleno

Escribe con la hora actual o con la hora en que los valores eran ciertos.

FEATURE.SETFEATURE.SETAT

Frescura en cada lectura

Cada lectura devuelve la hora de actualización y la antigüedad de la entidad.

FEATURE.GET

Servicio por lotes

Muchas entidades, las features que elijas, una llamada.

FEATURE.BATCHFEATURE.STATS

Preguntas frecuentes

¿Sustituye esto a mi feature store offline?

Es la parte online, para lecturas de baja latencia en el momento de la inferencia. Los datos de entrenamiento pueden seguir viniendo de tu warehouse, con rellenos escritos en HotKV mediante FEATURE.SETAT.

¿Cómo detecto features desactualizadas?

Cada FEATURE.GET devuelve la hora de la última actualización y la antigüedad en milisegundos, así el servidor del modelo puede rechazar o marcar los valores antiguos.

¿Qué planes lo incluyen?

El feature store forma parte de los planes Performance y Scale.

Casos de uso relacionados

Pruébalo con tu propia carga de trabajo

HotKV habla el protocolo de Redis, así que puedes apuntar un cliente que ya usas hacia él y ejecutar estos mismos comandos.