AI và LLMHọc máyCác gói Performance và Scale

Feature store ML thời gian thực

Các feature có kiểu cho người dùng, mục và phiên, do pipeline của bạn ghi và mô hình của bạn đọc lúc suy luận, kèm độ tuổi của chúng.

kiểu feature
3
được trả về cùng mỗi lần đọc
Độ tuổi
đọc cho nhiều thực thể
Theo lô
Bước 1 trên 5
Định nghĩa schema

Một nhóm có kiểu. Kiểu sai bị từ chối ngay lúc ghi.

Phiên ví dụplaying
# Định nghĩa schema
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

Một hướng dẫn minh họa động với các lệnh HotKV thật và phản hồi ví dụ. Nhấn vào bất kỳ bước nào để nhảy tới đó. Lệnh và phản hồi giữ nguyên bằng tiếng Anh, đúng như bạn gõ và thấy trong HotKV.

Vấn đề

Một mô hình trên production chỉ tốt bằng những feature nó thấy lúc suy luận. Kho dữ liệu ngoại tuyến quá chậm để truy vấn cho từng yêu cầu, và một kho khóa-giá trị thuần túy không có schema, nên một lỗi pipeline ghi văn bản vào một feature số được mô hình phát hiện, chứ không phải kho.

HotKV xử lý như thế nào

Các nhóm feature trong HotKV có schema có kiểu. Các tác vụ streaming ghi giá trị mới, các tác vụ batch bổ sung dữ liệu cũ với dấu thời gian của riêng chúng, và máy chủ mô hình đọc một thực thể hoặc cả một lô chỉ trong một lần gọi. Mỗi lần đọc trả về thời điểm thực thể được cập nhật lần cuối và độ tuổi của nó, nên các feature cũ có thể bị phát hiện.

Từng bước một

Điều gì xảy ra, từng lệnh một

  1. 01

    Định nghĩa schema

    Một nhóm có kiểu. Kiểu sai bị từ chối ngay lúc ghi.

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    Truyền giá trị mới

    Tác vụ streaming cập nhật feature khi sự kiện đến.

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    Bổ sung với thời gian đúng

    Các tác vụ batch đóng dấu thực thể bằng thời điểm các giá trị còn đúng, không phải thời điểm chúng được nạp.

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    Chấm điểm một lần thanh toán

    Máy chủ mô hình đọc feature của người dùng, kèm thời điểm cập nhật và độ tuổi tính bằng mili giây.

    FEATURE.GET user_features user:42
  5. 05

    Theo lô cho nhiều thực thể

    Xếp hạng một trang ứng viên chỉ bằng một lần gọi.

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
Phù hợp ở đâu

Các tình huống thực tế

Chấm điểm gian lận và rủi ro

Tốc độ giao dịch thẻ, tuổi thiết bị và lịch sử tài khoản được đọc lúc thanh toán, ngay trong đường yêu cầu, trước khi khoản thanh toán được chấp thuận.

Xếp hạng và quảng cáo

Tỷ lệ nhấp và sở thích gần đây được đọc cho mọi ứng viên trên một trang chỉ trong một lần gọi theo lô.

Định giá động

Các feature về nhu cầu và tồn kho được truyền vào liên tục và được mô hình định giá đọc ở mỗi báo giá.

Tích hợp sẵn

Bạn nhận được gì

Schema có kiểu

Feature int64, double và string. Ghi sai kiểu bị từ chối.

FEATURE.CREATEFEATURE.SCHEMA

Streaming và bổ sung

Ghi với thời gian hiện tại hoặc với thời điểm các giá trị còn đúng.

FEATURE.SETFEATURE.SETAT

Độ mới trên mỗi lần đọc

Mỗi lần đọc trả về thời điểm cập nhật và độ tuổi của thực thể.

FEATURE.GET

Phục vụ theo lô

Nhiều thực thể, các feature được chọn, một lần gọi.

FEATURE.BATCHFEATURE.STATS

Câu hỏi thường gặp

Điều này có thay thế feature store ngoại tuyến của tôi không?

Nó là phía trực tuyến, cho các lần đọc độ trễ thấp lúc suy luận. Dữ liệu huấn luyện vẫn có thể đến từ kho dữ liệu của bạn, với dữ liệu bổ sung được ghi vào HotKV bằng FEATURE.SETAT.

Làm sao phát hiện feature cũ?

Mỗi FEATURE.GET trả về thời điểm cập nhật lần cuối và độ tuổi tính bằng mili giây, nên máy chủ mô hình có thể từ chối hoặc gắn cờ các giá trị cũ.

Gói nào bao gồm nó?

Feature store là một phần của các gói Performance và Scale.

Trường hợp sử dụng liên quan

Thử trên khối lượng công việc của chính bạn

HotKV nói giao thức Redis, nên bạn có thể trỏ một client hiện có tới nó và chạy chính những lệnh này.