AI और LLMमशीन लर्निंगPerformance और Scale प्लान

Real-Time ML Feature Store

यूज़र, आइटम और सेशन के typed features, जिन्हें आपकी pipelines लिखती हैं और आपके मॉडल inference के समय उनकी उम्र के साथ पढ़ते हैं।

feature types
3
हर रीड के साथ लौटती है
उम्र
कई entities के लिए रीड
Batch
कदम 1 में से 5
Schema तय करें

एक typed group। गलत types लिखते समय ही reject हो जाते हैं।

उदाहरण सेशनplaying
# Schema तय करें
hotkv> FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
OK

असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।

समस्या

प्रोडक्शन में मॉडल उतना ही अच्छा होता है जितने अच्छे features उसे inference के समय दिखते हैं। Offline warehouse हर request पर query करने के लिए बहुत धीमे हैं, और साधारण key-value स्टोर में schema नहीं होता, इसलिए जब कोई pipeline बग संख्यात्मक feature में टेक्स्ट लिख देता है तो उसका पता स्टोर को नहीं, मॉडल को चलता है।

HotKV इसे कैसे संभालता है

HotKV में feature groups का typed schema होता है। Streaming jobs ताज़ा values लिखते हैं, batch jobs अपने timestamps के साथ backfill करते हैं, और मॉडल सर्वर एक कॉल में एक entity या पूरा batch पढ़ता है। हर रीड बताता है कि entity आखिरी बार कब अपडेट हुई और अब कितनी पुरानी है, ताकि पुराने features पहचाने जा सकें।

कदम दर कदम

क्या होता है, कमांड दर कमांड

  1. 01

    Schema तय करें

    एक typed group। गलत types लिखते समय ही reject हो जाते हैं।

    FEATURE.CREATE user_features "Signals for scoring" SCHEMA age int64 ctr double country string
  2. 02

    ताज़ा values स्ट्रीम करें

    Streaming job इवेंट आने पर features अपडेट करता है।

    FEATURE.SET user_features user:42 ctr 0.051 country DE
  3. 03

    सही समय के साथ backfill करें

    Batch jobs entities पर वह समय लगाते हैं जब values सही थीं, वह समय नहीं जब वे लोड हुईं।

    FEATURE.SETAT user_features user:42 1790985600123 age 31
  4. 04

    एक checkout स्कोर करें

    मॉडल सर्वर यूज़र के features पढ़ता है, अपडेट के समय और मिलीसेकंड में उम्र के साथ।

    FEATURE.GET user_features user:42
  5. 05

    कई entities के लिए batch

    एक कॉल से उम्मीदवारों के एक पेज को rank कीजिए।

    FEATURE.BATCH user_features user:42 user:77 user:91 FEATURES ctr
कहां फ़िट बैठता है

असली परिदृश्य

फ्रॉड और रिस्क स्कोरिंग

कार्ड velocity, डिवाइस की उम्र और अकाउंट इतिहास checkout पर, request path के भीतर, भुगतान मंज़ूर होने से पहले पढ़े जाते हैं।

Ranking और विज्ञापन

Click-through rate और हाल की रुचियाँ पेज के हर उम्मीदवार के लिए एक batch कॉल में पढ़ी जाती हैं।

डायनैमिक प्राइसिंग

माँग और इन्वेंटरी के features लगातार स्ट्रीम होते हैं और प्राइसिंग मॉडल हर कोट पर उन्हें पढ़ता है।

अंतर्निहित

आपको क्या मिलता है

Typed schemas

int64, double और string features। गलत type वाले writes reject हो जाते हैं।

FEATURE.CREATEFEATURE.SCHEMA

Streaming और backfill

मौजूदा समय के साथ लिखिए, या उस समय के साथ जब values सही थीं।

FEATURE.SETFEATURE.SETAT

हर रीड पर ताज़गी

हर रीड entity का अपडेट समय और उम्र लौटाता है।

FEATURE.GET

Batch serving

कई entities, चुने हुए features, एक कॉल।

FEATURE.BATCHFEATURE.STATS

आम सवाल

क्या यह मेरे offline feature store की जगह लेता है?

यह online पक्ष है, inference के समय कम latency वाले रीड के लिए। ट्रेनिंग डेटा अब भी आपके warehouse से आ सकता है, और backfill FEATURE.SETAT से HotKV में लिखे जा सकते हैं।

मैं पुराने features कैसे पहचानूँ?

हर FEATURE.GET आखिरी अपडेट का समय और मिलीसेकंड में उम्र लौटाता है, इसलिए मॉडल सर्वर पुरानी values को reject या flag कर सकता है।

कौन से प्लान में यह शामिल है?

Feature store Performance और Scale प्लान का हिस्सा है।

संबंधित उपयोग के मामले

इसे अपने वर्कलोड पर आज़माएं

HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।