AI dan LLMMachine learningPaket Performance dan Scale

Feature Store ML Real-Time

Fitur bertipe untuk pengguna, item, dan sesi, ditulis oleh pipeline Anda dan dibaca oleh model Anda saat inferensi, dengan usianya menyertai.

tipe fitur
3
dikembalikan pada setiap pembacaan
Usia
pembacaan untuk banyak entitas
Batch
Langkah 1 dari 5
Definisikan skema

Grup bertipe. Tipe yang salah ditolak saat penulisan.

Sesi contohplaying
# Definisikan skema
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Panduan beranimasi dengan perintah HotKV yang sebenarnya dan balasan contoh. Klik langkah mana pun untuk melompat ke sana. Perintah dan balasan tetap dalam bahasa Inggris, persis seperti yang Anda ketik dan lihat di HotKV.

Masalahnya

Model di produksi hanya sebaik fitur yang dilihatnya saat inferensi. Warehouse offline terlalu lambat untuk dikueri per permintaan, dan key-value store biasa tidak memiliki skema, sehingga bug pipeline yang menulis teks ke fitur numerik ditemukan oleh model, bukan oleh store.

Cara HotKV menanganinya

Grup fitur di HotKV memiliki skema bertipe. Pekerjaan streaming menulis nilai segar, pekerjaan batch melakukan backfill dengan cap waktunya sendiri, dan server model membaca satu entitas atau seluruh batch dalam satu panggilan. Setiap pembacaan mengembalikan kapan entitas terakhir diperbarui dan berapa usianya, sehingga fitur yang basi dapat dideteksi.

Langkah demi langkah

Apa yang terjadi, perintah demi perintah

  1. 01

    Definisikan skema

    Grup bertipe. Tipe yang salah ditolak saat penulisan.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Stream nilai segar

    Pekerjaan streaming memperbarui fitur saat peristiwa tiba.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Backfill dengan waktu yang tepat

    Pekerjaan batch memberi cap pada entitas dengan waktu saat nilainya benar, bukan waktu saat dimuat.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Beri skor checkout

    Server model membaca fitur pengguna, dengan waktu pembaruan dan usia dalam milidetik.

    FEATURE.GET user_features user:42
  5. 05

    Batch untuk banyak entitas

    Peringkatkan satu halaman kandidat dengan satu panggilan.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Di mana ini cocok

Skenario dunia nyata

Penilaian penipuan dan risiko

Kecepatan kartu, usia perangkat, dan riwayat akun dibaca saat checkout, di jalur permintaan, sebelum pembayaran disetujui.

Peringkat dan iklan

Rasio klik dan minat terbaru dibaca untuk setiap kandidat di halaman dalam satu panggilan batch.

Harga dinamis

Fitur permintaan dan inventaris dialirkan terus-menerus dan dibaca oleh model harga pada setiap penawaran.

Bawaan

Yang Anda dapatkan

Skema bertipe

Fitur int64, double, dan string. Penulisan dengan tipe yang salah ditolak.

FEATURE.CREATEFEATURE.SCHEMA

Streaming dan backfill

Tulis dengan waktu saat ini atau dengan waktu saat nilainya benar.

FEATURE.SETFEATURE.SETAT

Kesegaran pada setiap pembacaan

Setiap pembacaan mengembalikan waktu pembaruan dan usia entitas.

FEATURE.GET

Penyajian batch

Banyak entitas, fitur terpilih, satu panggilan.

FEATURE.BATCHFEATURE.STATS

Pertanyaan umum

Apakah ini menggantikan feature store offline saya?

Ini adalah sisi online, untuk pembacaan berlatensi rendah saat inferensi. Data pelatihan tetap bisa berasal dari warehouse Anda, dengan backfill ditulis ke HotKV dengan FEATURE.SETAT.

Bagaimana saya mendeteksi fitur yang basi?

Setiap FEATURE.GET mengembalikan waktu pembaruan terakhir dan usia dalam milidetik, sehingga server model dapat menolak atau menandai nilai lama.

Paket mana yang menyertakannya?

Feature store adalah bagian dari paket Performance dan Scale.

Kasus penggunaan terkait

Coba pada beban kerja Anda sendiri

HotKV berbicara protokol Redis, jadi Anda dapat mengarahkan klien yang sudah ada ke HotKV dan menjalankan perintah yang sama.