AI और LLMपर्सनलाइज़ेशनPerformance और Scale प्लान

रीयल-टाइम Recommendations

व्यक्तिगत सुझाव रीड्स के एक ही दौर में। यूज़र की features, vector से मिलते-जुलते आइटम और क्या ट्रेंड कर रहा है, उसमें से वह घटाकर जो वे पहले देख चुके हैं।

signals, एक सर्वर
4
दोहराए गए देखे हुए आइटम
0
trending गिनती
Live
कदम 1 में से 6
गिनें कि क्या ट्रेंड कर रहा है

Top-K लिस्ट TOPK.RESERVE से एक बार बनाई गई थी। हर view उसे अपडेट करता है, और जो आइटम शीर्ष से बाहर हो जाते हैं उनकी जानकारी वापस मिलती है।

उदाहरण सेशनplaying
# गिनें कि क्या ट्रेंड कर रहा है
hotkv> TOPK.ADD trending:shoes sku:88 sku:17 sku:88
1) (nil)
2) (nil)
3) (nil)

असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।

समस्या

एक अच्छा recommendation चार बातें मिलाता है। यूज़र कौन है, उसे जो पसंद आया उससे क्या मिलता-जुलता है, अभी क्या लोकप्रिय है, और वह पहले क्या देख चुका है। ये signals आमतौर पर चार सिस्टम में रहते हैं, और request के समय उन्हें जोड़ना हर पेज पर latency बढ़ाता है।

HotKV इसे कैसे संभालता है

HotKV चारों रखता है। feature store में यूज़र की प्रोफ़ाइल है, एक vector index मिलते-जुलते आइटम ढूँढता है, एक Top-K structure events आते ही ट्रैक करता है कि क्या ट्रेंड कर रहा है, और हर यूज़र का एक Bloom filter उसके देखे हुए आइटम हटा देता है। recommender यह सब एक ही सर्वर से कुछ कॉल में पढ़ लेता है।

कदम दर कदम

क्या होता है, कमांड दर कमांड

  1. 01

    गिनें कि क्या ट्रेंड कर रहा है

    Top-K लिस्ट TOPK.RESERVE से एक बार बनाई गई थी। हर view उसे अपडेट करता है, और जो आइटम शीर्ष से बाहर हो जाते हैं उनकी जानकारी वापस मिलती है।

    TOPK.ADD trending:shoes sku:88 sku:17 sku:88
  2. 02

    यूज़र की features लोड करें

    ranking मॉडल के लिए प्रोफ़ाइल और व्यवहार की features, उनकी उम्र के साथ।

    FEATURE.GET user_features user:42
  3. 03

    मिलते-जुलते आइटम खोजें

    यूज़र का taste vector सबसे नज़दीकी प्रोडक्ट ढूँढता है।

    VSIM.SEARCH items 20 0.31 0.12 0.77 ...
  4. 04

    जो देख चुके हैं उसे हटाएं

    हर यूज़र का Bloom filter पूरी candidate लिस्ट के लिए एक ही कॉल में “पहले देखा?” का जवाब देता है।

    BF.MEXISTS seen:user:42 sku:88 sku:5 sku:17
  5. 05

    जो चल रहा है उसे मिलाएं

    मौजूदा सबसे ज़्यादा बिकने वाले आइटम candidates में जुड़ते हैं, और ranking मॉडल अंतिम लिस्ट का क्रम तय करता है।

    TOPK.LIST trending:shoes WITHCOUNT
  6. 06

    impression याद रखें

    दिखाए गए आइटम यूज़र के filter में जोड़े जाते हैं ताकि वे कल दोहराए न जाएं।

    BF.MADD seen:user:42 sku:5 sku:17
कहां फ़िट बैठता है

असली परिदृश्य

रिटेल और मार्केटप्लेस

“आपको यह भी पसंद आ सकता है” की पंक्तियाँ मिलते-जुलते प्रोडक्ट को उससे मिलाती हैं जो अभी बिक रहा है, और एक सेशन में कोई आइटम दो बार नहीं दिखातीं।

मीडिया और स्ट्रीमिंग

होम स्क्रीन शोज़ को taste vectors और लाइव लोकप्रियता से रैंक करती हैं, और वे टाइटल छोड़ देती हैं जो दर्शक पहले खत्म कर चुका है।

न्यूज़ और कंटेंट फ़ीड

लेख विषय की समानता से सुझाए जाते हैं जबकि trending ख़बरें रीयल-टाइम में ऊपर उठती हैं।

अंतर्निहित

आपको क्या मिलता है

Feature store

inference के समय कम latency वाली रीड्स के लिए हर यूज़र या आइटम की typed features।

FEATURE.GETFEATURE.BATCH

मिलते-जुलते आइटम

HNSW vector index से सबसे नज़दीकी पड़ोसी।

VSIM.SEARCH

अभी trending

Top-K events की धारा में सबसे ज़्यादा आने वाले आइटम रखता है।

TOPK.ADDTOPK.LIST

Seen filters

Bloom filters हर यूज़र के लिए स्थिर मेमोरी में “पहले देखा?” का जवाब देते हैं।

BF.MADDBF.MEXISTS

आम सवाल

क्या Bloom filter गलत हो सकता है?

वह कभी-कभी कह सकता है कि आइटम देखा जा चुका है जबकि ऐसा नहीं था, उस error rate पर जो आप BF.RESERVE से चुनते हैं। वह कभी यह नहीं कहता कि आइटम नहीं देखा गया जबकि देखा गया था।

ranking मॉडल कहाँ चलता है?

आपकी अपनी सर्विस में। HotKV features और candidates को कम latency पर परोसता है, और आपका मॉडल अंतिम क्रम तय करता है।

इसमें कौन से प्लान शामिल हैं?

feature store Performance और Scale प्लान का हिस्सा है। Vector search, Top-K और Bloom filters हर प्लान पर काम करते हैं।

संबंधित उपयोग के मामले

इसे अपने वर्कलोड पर आज़माएं

HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।