AI और LLMएजेंटPerformance और Scale प्लान

मेमोरी वाले ऑटोनोमस एजेंट

लंबे समय तक चलने वाले एजेंट को बातचीत का संदर्भ, याद की गई जानकारी, टास्क की स्थिति और ऑडिट ट्रेल एक ही जगह दीजिए।

तरह की मेमोरी
4
स्टोर, सबके लिए
1
एजेंट फ्रेमवर्क
कोई भी
कदम 1 में से 6
बातचीत खोलें

एक सेशन सबसे हाल के turns की रोलिंग विंडो रखता है।

उदाहरण सेशनplaying
# बातचीत खोलें
hotkv> AMEM.CONV.CREATE session:42 WINDOW 20
OK

असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।

समस्या

जो एजेंट हर स्टेप के बीच भूल जाता है, वह लंबे टास्क पूरे नहीं कर सकता। आम तरीका है चैट हिस्ट्री की टेबल, तथ्यों के लिए एक vector store और स्थिति के लिए एक स्क्रैच स्पेस। फिर भी इसका कोई एक रिकॉर्ड नहीं होता कि एजेंट ने क्या किया।

HotKV इसे कैसे संभालता है

HotKV एजेंट मेमोरी की चार किस्में कमांड के रूप में देता है। Conversation window संवाद का संदर्भ रखती हैं, semantic memory प्रासंगिक तथ्यों को अर्थ के आधार पर याद करती है, working memory मौजूदा टास्क की स्थिति पर नज़र रखती है, और episodic log दर्ज करता है कि एजेंट ने क्या किया।

कदम दर कदम

क्या होता है, कमांड दर कमांड

  1. 01

    बातचीत खोलें

    एक सेशन सबसे हाल के turns की रोलिंग विंडो रखता है।

    AMEM.CONV.CREATE session:42 WINDOW 20
  2. 02

    दर्ज करें कि ग्राहक ने क्या कहा

    हर turn उसके role के साथ जोड़ा जाता है।

    AMEM.CONV.APPEND session:42 user "Why was my invoice declined?"
  3. 03

    प्रासंगिक तथ्य याद करें

    AMEM.SEM.CREATE से बनी semantic memory में AMEM.SEM.STORE से पहले रखे गए तथ्य अर्थ के आधार पर मिलते हैं, कीवर्ड से नहीं।

    AMEM.SEM.RECALL billing-agent 3 0.02 0.7 ...
  4. 04

    टास्क पर नज़र रखें

    Working memory रखती है कि एजेंट कहाँ तक पहुँचा है, और टास्क खत्म होने के काफ़ी बाद expire हो जाती है।

    AMEM.WORK.SET session:42 step "checking payment gateway" TTL 600
  5. 05

    एक्शन को लॉग करें

    एजेंट जो भी एक्शन लेता है, ऑडिट और डिबगिंग के लिए दर्ज होता है।

    AMEM.EPIS.LOG billing-agent action "Reissued invoice INV-9921"
  6. 06

    अगले turn के लिए संदर्भ

    हाल के turns अगले prompt में जाते हैं, इसलिए एजेंट कभी सिरा नहीं खोता।

    AMEM.CONV.WINDOW session:42 10
कहां फ़िट बैठता है

असली परिदृश्य

कस्टमर सर्विस एजेंट

रिफंड संभालने वाला एजेंट ग्राहक के पहले के संदेश, स्टोर की नीतियाँ और रिफंड के किस चरण तक पहुँचा है, यह सब याद रखता है।

रिसर्च असिस्टेंट

लंबी जाँच के दौरान निष्कर्ष semantic तथ्यों के रूप में रखे जाते हैं और सारांश लिखते समय याद किए जाते हैं।

ऑपरेशंस बॉट

ऑन-कॉल बॉट का हर एक्शन episodic log में होता है, इसलिए लोग ठीक-ठीक देख सकते हैं कि उसने क्या किया और क्यों।

अंतर्निहित

आपको क्या मिलता है

Conversation memory

हर सेशन के लिए हाल के turns की रोलिंग विंडो।

AMEM.CONV.APPENDAMEM.CONV.WINDOW

Semantic memory

अर्थ के आधार पर याद किए गए तथ्य, वैकल्पिक TTL के साथ।

AMEM.SEM.STOREAMEM.SEM.RECALL

Working memory

टास्क की स्थिति जो अपने आप expire हो सकती है।

AMEM.WORK.SETAMEM.WORK.GET

Episodic log

एक्शन और observations, जिन्हें type और समय से query किया जा सकता है।

AMEM.EPIS.LOGAMEM.EPIS.QUERY

आम सवाल

यह डेटाबेस में चैट हिस्ट्री रखने से कैसे अलग है?

चारों मेमोरी प्रकार एक ही स्टोर और एक ही कनेक्शन साझा करते हैं, इसलिए recall, टास्क की स्थिति और एक्शन लॉग को अलग-अलग सर्विस की ज़रूरत नहीं पड़ती।

क्या एजेंट फ्रेमवर्क से फ़र्क पड़ता है?

नहीं। मेमोरी Redis प्रोटोकॉल पर कमांड के रूप में उपलब्ध है, और MCP सर्वर उसे MCP क्लाइंट तक पहुँचाता है। LangGraph के लिए एक checkpointer और store है।

कौन से प्लान में यह शामिल है?

एजेंट मेमोरी Performance और Scale प्लान का हिस्सा है।

संबंधित उपयोग के मामले

इसे अपने वर्कलोड पर आज़माएं

HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।