AI और LLMएजेंटPerformance और Scale प्लान

मल्टी-एजेंट ऑर्केस्ट्रेशन

Planner, researcher और writer एजेंट जो टिकाऊ task stream से काम सौंपते हैं, नतीजे और मेमोरी साझा करते हैं, और कोई टास्क नहीं खोते।

टास्क गुम, एजेंट क्रैश होने पर भी
0
साझा मेमोरी
1
एजेंट समानांतर में
N
कदम 1 में से 6
टास्क पोस्ट करें

Planner काम को बाँटता है और stream में एक टास्क जोड़ता है।

उदाहरण सेशनplaying
# टास्क पोस्ट करें
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

असली HotKV कमांड और उदाहरण रिस्पॉन्स के साथ एक एनिमेटेड वॉकथ्रू। किसी भी कदम पर क्लिक करके वहां पहुंचें। कमांड और रिस्पॉन्स अंग्रेज़ी में ही रहते हैं, ठीक वैसे जैसे आप HotKV में टाइप करते और देखते हैं।

समस्या

एजेंटों की टीम को एक-दूसरे को काम सौंपने, मिली जानकारी साझा करने और किसी के टास्क के बीच में क्रैश होने पर उबरने का तरीका चाहिए। इसे ad hoc HTTP कॉल से जोड़ने पर टास्क खो जाते हैं, tool कॉल दोहराए जाते हैं और यह रिकॉर्ड नहीं बचता कि किसने क्या किया।

HotKV इसे कैसे संभालता है

Consumer group वाली stream ही टास्क बोर्ड है। हर एजेंट अपने टास्क पढ़ता है, पूरा होने पर उन्हें acknowledge करता है, और क्रैश हुए एजेंट के छोड़े हुए pending टास्क कोई दूसरा एजेंट claim कर सकता है। निष्कर्ष साझा working memory में जाते हैं, tool के नतीजे सभी एजेंट के लिए cache होते हैं, और हर एक्शन लॉग होता है।

कदम दर कदम

क्या होता है, कमांड दर कमांड

  1. 01

    टास्क पोस्ट करें

    Planner काम को बाँटता है और stream में एक टास्क जोड़ता है।

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    एक worker उसे claim करता है

    Consumer group XGROUP CREATE से एक बार बनाया गया था। Researcher उसके सदस्य के रूप में पढ़ता है, और टास्क acknowledge होने तक pending रहता है।

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    tool का नतीजा दोबारा इस्तेमाल करें

    किसी दूसरे एजेंट ने आज यही search पहले ही चला दी है। साझा tool cache उसे लौटा देता है।

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    निष्कर्ष साझा करें

    नतीजे प्रोजेक्ट की working memory में जाते हैं, जहाँ हर एजेंट उन्हें पढ़ सकता है।

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Acknowledge करें

    टास्क पूरा हुआ और pending सूची से हट गया। अगर researcher क्रैश होता, तो XAUTOCLAIM उसे किसी दूसरे एजेंट को सौंप देता।

    XACK tasks agents 1790985600123-0
  6. 06

    Writer उसे उठाता है

    Writer साझा निष्कर्ष पढ़ता है, रिपोर्ट का ड्राफ़्ट बनाता है और एक्शन लॉग करता है।

    AMEM.WORK.GET project:9 findings
कहां फ़िट बैठता है

असली परिदृश्य

रिसर्च और रिपोर्टिंग

Planner एक सवाल को उप-टास्क में तोड़ता है, कई researcher समानांतर में काम करते हैं, और writer साझा मेमोरी से नतीजा जोड़ता है।

सॉफ़्टवेयर एजेंट

कोडिंग, टेस्टिंग और रिव्यू एजेंट stream के ज़रिए काम आगे बढ़ाते हैं, और उनका हर बदलाव episodic log में रहता है।

बैक-ऑफ़िस ऑटोमेशन

इनवॉइस एक्सट्रैक्शन, वैलिडेशन और पोस्टिंग एजेंट दस्तावेज़ों को ऐसी pipeline में आगे बढ़ाते हैं जो रीस्टार्ट के बाद भी चलती रहती है।

अंतर्निहित

आपको क्या मिलता है

टिकाऊ टास्क हैंडऑफ़

Consumer group वाली stream, acknowledgement और छोड़े गए टास्क को claim करने की सुविधा।

XADDXREADGROUPXACKXAUTOCLAIM

साझा working memory

प्रोजेक्ट की स्थिति जिसे हर एजेंट पढ़ और अपडेट कर सकता है।

AMEM.WORK.SETAMEM.WORK.GET

साझा tool cache

Deterministic tool नतीजे सभी एजेंट में दोबारा इस्तेमाल होते हैं।

TOOL.CACHE.GETTOOL.CACHE.SET

किसने क्या किया

ऑडिट और डिबगिंग के लिए हर एजेंट का episodic log।

AMEM.EPIS.LOG

आम सवाल

अगर कोई एजेंट टास्क के बीच में क्रैश हो जाए तो क्या होता है?

टास्क consumer group की pending सूची में रहता है। पर्याप्त देर तक idle रहने के बाद कोई दूसरा एजेंट उसे XAUTOCLAIM से अपने हाथ में ले सकता है।

क्या एजेंट अलग-अलग मशीनों और भाषाओं में चल सकते हैं?

हाँ। उन्हें सिर्फ़ HotKV से कनेक्शन चाहिए। Redis प्रोटोकॉल बोलने वाला कोई भी क्लाइंट चलेगा।

कौन से प्लान में यह शामिल है?

Streams हर प्लान पर चलती हैं। एजेंट मेमोरी और tool cache Performance और Scale प्लान का हिस्सा हैं।

संबंधित उपयोग के मामले

इसे अपने वर्कलोड पर आज़माएं

HotKV Redis प्रोटोकॉल बोलता है, इसलिए आप किसी मौजूदा क्लाइंट को इसकी ओर इंगित करके यही कमांड चला सकते हैं।