AI और LLMरिट्रीवलPerformance और Scale प्लान

RAG नॉलेज असिस्टेंट

अपने दस्तावेज़ों पर सवालों के जवाब दें, एक ही इंजन में chunking, metadata filters, hybrid vector और keyword search और cache किए गए rerank scores के साथ।

chunking रणनीतियाँ
3
vector + BM25 search
Hybrid
अतिरिक्त vector databases
0
कदम 1 में से 5
Pipeline परिभाषित करें

हर पैराग्राफ़ पर एक chunk। अपने embedding मॉडल के dimensions इस्तेमाल करें (उदाहरण को छोटा रखने के लिए 3)।

उदाहरण सेशनplaying
# Pipeline परिभाषित करें
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।

समस्या

retrieval pipeline का मतलब आमतौर पर एक vector database, एक keyword index, एक chunking जॉब, एक reranker और उनके बीच का glue कोड होता है। हर हिस्सा एक और सर्विस है जिसे चलाना, सुरक्षित रखना और आपके दस्तावेज़ों के साथ sync में रखना पड़ता है, और reranker अक्सर सबसे धीमा और सबसे महँगा कदम होता है।

HotKV इसे कैसे संभालता है

HotKV pipeline को उसी इंजन में रखता है जो पहले से आपके एप्लिकेशन को सर्व कर रहा है। एक pipeline परिभाषित करें, दस्तावेज़ ingest करें, और उसमें search करें। Chunking, दस्तावेज़ metadata और वह hybrid search जो vector similarity को BM25 keyword scoring से मिलाती है, सब server-side चलते हैं, और एक rerank cache cross-encoder scores को सहेजकर रखता है ताकि दोहराई गई query और अंश की जोड़ी का score दो बार न निकाला जाए।

कदम दर कदम

क्या होता है, कमांड दर कमांड

  1. 01

    Pipeline परिभाषित करें

    हर पैराग्राफ़ पर एक chunk। अपने embedding मॉडल के dimensions इस्तेमाल करें (उदाहरण को छोटा रखने के लिए 3)।

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    दस्तावेज़ ingest करें

    हर दस्तावेज़ server-side chunks में बाँटा जाता है और अपने metadata और हर chunk के एक vector के साथ सहेजा जाता है।

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hybrid search

    vector similarity और keyword relevance एक ही query में, एक source तक सीमित।

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, लेकिन सिर्फ़ एक बार

    cross-encoder के scores हर query और chunk के हिसाब से cache होते हैं, RERANK.CREATE से बनाए गए namespace में, इसलिए लोकप्रिय query को दोबारा reranking का भुगतान नहीं करना पड़ता।

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    जवाब दें, और pipeline जाँचें

    सबसे अच्छे chunks मॉडल को context के रूप में जाते हैं, इसलिए जवाब अंदाज़े की जगह हेल्प सेंटर से आता है। RAG.STATS दिखाता है कि pipeline में क्या है।

    RAG.STATS faq
कहां फ़िट बैठता है

असली परिदृश्य

हेल्प सेंटर असिस्टेंट

लेख और सुलझाए गए टिकट अपने प्रोडक्ट और भाषा के metadata के साथ ingest होते हैं। हर जवाब सही प्रोडक्ट के documentation पर आधारित होता है।

कानूनी और नीति खोज

अनुबंध और नीतियाँ पैराग्राफ़ के हिसाब से बाँटी जाती हैं ताकि निकाले गए अंश पूरे खंड हों, और keyword scoring खंड संख्या जैसे सटीक शब्द पकड़ लेती है।

इंजीनियरिंग ज्ञान

Runbooks, डिज़ाइन दस्तावेज़ और postmortems एक on-call असिस्टेंट के लिए अर्थ से खोजने लायक बन जाते हैं।

अंतर्निहित

आपको क्या मिलता है

इंजन में Chunking

Fixed-size, sentence या paragraph chunking। Fixed-size chunks में आपके चुने हुए आकार और overlap लगते हैं।

RAG.CREATE

Hybrid search

vector similarity और BM25 keyword scoring एक ही query में, जहाँ ALPHA संतुलन तय करता है।

RAG.SEARCH

Metadata filters

ingest के समय key और value के जोड़े जोड़ें और search के समय उन पर फ़िल्टर करें।

RAG.INGESTFILTER

Rerank cache

query और अंश की जोड़ियों के cross-encoder scores रखें ताकि दोहराव मुफ़्त हों।

RERANK.GETRERANK.SET

आम सवाल

क्या HotKV embeddings बनाता है?

नहीं। आप अपने पसंदीदा मॉडल से embeddings बनाते हैं और ingest करते समय VECTORS के साथ और search करते समय VECTOR के साथ देते हैं।

क्या मैं vectors के बिना search कर सकता हूँ?

हाँ। RAG.SEARCH keyword scoring के लिए query पाठ लेता है, और VECTOR विकल्प vector similarity जोड़ता है। ALPHA तय करता है कि दोनों scores कैसे मिलाए जाएँ।

इसमें कौन से प्लान शामिल हैं?

RAG pipelines और rerank cache Performance और Scale प्लान का हिस्सा हैं।

संबंधित उपयोग के मामले

इसे अपने वर्कलोड पर आज़माएं

HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।