AI และ LLMแมชชีนเลิร์นนิงแผน Performance และ Scale

ML feature store แบบเรียลไทม์

ฟีเจอร์ที่มีชนิดข้อมูลสำหรับผู้ใช้ รายการ และเซสชัน เขียนโดยไปป์ไลน์ของคุณและอ่านโดยโมเดลของคุณตอนอนุมาน พร้อมอายุของฟีเจอร์แนบมาด้วย

ชนิดของฟีเจอร์: 3
ส่งกลับมากับการอ่านทุกครั้ง: อายุ
การอ่านสำหรับหลายเอนทิตี: แบตช์

ขั้นที่ 1 จาก 5

กำหนดสคีมา

กลุ่มที่มีชนิดข้อมูล ชนิดที่ผิดถูกปฏิเสธตอนเขียน

เซสชันตัวอย่างplaying

# กำหนดสคีมา

hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string

ตัวอย่างแบบแอนิเมชันพร้อมคำสั่ง HotKV จริงและคำตอบตัวอย่าง คลิกขั้นตอนใดก็ได้เพื่อข้ามไปยังขั้นนั้น คำสั่งและคำตอบยังคงเป็นภาษาอังกฤษ ตรงตามที่คุณพิมพ์และเห็นใน HotKV

ปัญหา

โมเดลในโปรดักชันดีได้เท่าที่ฟีเจอร์ซึ่งเห็นตอนอนุมานดี คลังข้อมูลออฟไลน์ช้าเกินกว่าจะคิวรีต่อคำขอ และที่เก็บคีย์-ค่าธรรมดาไม่มีสคีมา บั๊กของไปป์ไลน์ที่เขียนข้อความลงในฟีเจอร์ตัวเลขจึงถูกค้นพบโดยโมเดล ไม่ใช่โดยที่เก็บ

HotKV จัดการอย่างไร

Feature group ใน HotKV มีสคีมาที่มีชนิดข้อมูล งานสตรีมเขียนค่าสดใหม่ งานแบตช์เติมย้อนหลังด้วย timestamp ของตนเอง และเซิร์ฟเวอร์โมเดลอ่านเอนทิตีเดียวหรือทั้งแบตช์ในการเรียกเดียว การอ่านแต่ละครั้งคืนเวลาที่เอนทิตีถูกอัปเดตล่าสุดและอายุของมัน จึงตรวจพบฟีเจอร์ที่เก่าได้

ทีละขั้นตอน

เกิดอะไรขึ้นบ้าง ทีละคำสั่ง

01
กำหนดสคีมา
กลุ่มที่มีชนิดข้อมูล ชนิดที่ผิดถูกปฏิเสธตอนเขียน
FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
02
สตรีมค่าสดใหม่
งานสตรีมอัปเดตฟีเจอร์เมื่อเหตุการณ์เข้ามา
FEATURE.SET user_features user:42 ctr 0.051 country DE
03
เติมย้อนหลังด้วยเวลาที่ถูกต้อง
งานแบตช์ประทับเวลาให้เอนทิตีตามเวลาที่ค่านั้นเป็นจริง ไม่ใช่เวลาที่โหลดเข้ามา
FEATURE.SETAT user_features user:42 1790985600123 age 31
04
ให้คะแนนการชำระเงิน
เซิร์ฟเวอร์โมเดลอ่านฟีเจอร์ของผู้ใช้ พร้อมเวลาอัปเดตและอายุเป็นมิลลิวินาที
FEATURE.GET user_features user:42
05
แบตช์สำหรับหลายเอนทิตี
จัดอันดับผู้สมัครทั้งหน้าด้วยการเรียกครั้งเดียว
FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr