HotKV के अंदर
टैग
इंजीनियरिंग।मापी हुई और समझाई हुई।
HotKV ब्लॉग के लेख विषय के अनुसार देखें, जिनमें बेंचमार्क, वेक्टर सर्च, सिमैंटिक कैशिंग, LLM लागत, Redis संगतता और आर्किटेक्चर शामिल हैं।
बेंचमार्क
HotKV के मापे गए नतीजे, जिनमें टेस्ट कॉन्फ़िगरेशन, तुलना किए गए सिस्टम, वर्कलोड की सीमाएँ और परफ़ॉर्मेंस दावों के पीछे के प्रमाण शामिल हैं।
1 लेखवेक्टर सर्च
HotKV में HNSW वेक्टर सर्च, हमारे परखे हुए डेटासेट पर रिकॉल, क्वेरी थ्रूपुट, इन्जेशन की गति और मेमोरी के इस्तेमाल के साथ।
2 लेखRedis
HotKV और Redis की तुलनाएँ, प्रोटोकॉल संगतता और डिप्लॉयमेंट के विकल्प, हर बेंचमार्क के पीछे के संस्करणों और शर्तों के साथ।
2 लेखपरफ़ॉर्मेंस
मापे गए वर्कलोड में HotKV का प्रदर्शन, कमांड थ्रूपुट से लेकर वेक्टर क्वेरी तक, हार्डवेयर और कॉन्फ़िगरेशन के संदर्भ के साथ।
4 लेखLLM
भाषा मॉडल एप्लिकेशन में HotKV का उपयोग, यानी मॉडल कॉल, टोकन का हिसाब, जवाबों का दोबारा उपयोग और सिमैंटिक कैशिंग में गुणवत्ता के समझौते।
2 लेखसिमैंटिक कैशिंग
HotKV के साथ सटीक और सिमैंटिक जवाब कैशिंग, जिसमें समानता थ्रेशोल्ड, कैश हिट रेट और जवाबों की गुणवत्ता परखने का हमारा तरीका शामिल है।
2 लेखलागत अनुकूलन
HotKV के साथ मापी गई API लागत और टोकन बचत, जिसमें कीमतों की मान्यताएँ, वर्कलोड के प्रति संवेदनशीलता और अनुमान बढ़ाने की सीमाएँ शामिल हैं।
1 लेखरिलीज़
HotKV की प्रोडक्ट घोषणाएँ और रिलीज़, इंजन, समर्थित क्षमताओं और नवीनतम डॉक्यूमेंटेशन कहाँ मिलेगा, इसके संदर्भ के साथ।
1 लेखआर्किटेक्चर
HotKV के C++ इंजन के पीछे के डिज़ाइन फ़ैसले, कंकरेंट कमांड एक्ज़ीक्यूशन, मेमोरी प्रबंधन और जाने-पहचाने Redis क्लाइंट के साथ संगतता।
2 लेखAI एजेंट
HotKV पर AI एजेंटों के लिए मेमोरी, टूल और कनेक्शन, जिनमें बातचीत और इवेंट का स्टोरेज, MCP सर्वर और एजेंट की स्टेट को सुरक्षित व सीमित रखना शामिल है।
2 लेखप्रॉम्प्ट कैशिंग
LLM ऐप के लिए प्रोवाइडर प्रॉम्प्ट कैशिंग और जवाब कैशिंग, दोनों टोकन और लागत में क्या बचाते हैं, और कहाँ मदद करना बंद कर देते हैं।
2 लेखएजेंट मेमोरी
AI एजेंटों के लिए कन्वर्सेशन, सिमैंटिक, वर्किंग और एपिसोडिक मेमोरी, HotKV कमांड, रिटेंशन नियमों और विफलता के उन तरीकों के साथ जिनसे बचकर डिज़ाइन करना है।
2 लेखMCP
AI असिस्टेंट के लिए Model Context Protocol सर्वर, जिनमें ओपन-सोर्स HotKV MCP सर्वर, उसका निश्चित टूल सेट, रीड-ओनली मोड और नेमस्पेस शामिल हैं।