AI ו-LLMסוכניםתוכניות Performance ו-Scale

תזמור מרובה סוכנים

סוכני מתכנן, חוקר וכותב שמעבירים עבודה ביניהם דרך זרם משימות עמיד, חולקים תוצאות וזיכרון ואף פעם לא מאבדים משימה.

משימות אבודות כשסוכן קורס
0
זיכרון משותף
1
סוכנים במקביל
N
צעד 1 מתוך 6
מפרסמים משימה

המתכנן מפצל את העבודה ומוסיף משימה לזרם.

סשן לדוגמהplaying
# מפרסמים משימה
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

הדגמה מונפשת עם פקודות HotKV אמיתיות ותשובות לדוגמה. לחצו על כל שלב כדי לעבור אליו. הפקודות והתשובות נשארות באנגלית, בדיוק כפי שמקלידים ורואים ב-HotKV.

הבעיה

צוותי סוכנים צריכים דרך להעביר עבודה זה לזה, לשתף את מה שמצאו ולהתאושש כשאחד מהם קורס באמצע משימה. הדבקה של כל זה בקריאות HTTP אד-הוק מאבדת משימות, משכפלת קריאות כלים ולא משאירה תיעוד של מי עשה מה.

איך HotKV מטפל בזה

זרם עם קבוצת צרכנים הוא לוח המשימות. כל סוכן קורא את המשימות שלו, מאשר אותן כשסיים, וכל מה שסוכן שקרס השאיר ממתין יכול להיתפס על ידי אחר. הממצאים נכנסים לזיכרון עבודה משותף, תוצאות כלים נשמרות במטמון לכל הסוכנים, וכל פעולה נרשמת ביומן.

צעד אחר צעד

מה קורה, פקודה אחר פקודה

  1. 01

    מפרסמים משימה

    המתכנן מפצל את העבודה ומוסיף משימה לזרם.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    עובד תופס אותה

    קבוצת הצרכנים נוצרה פעם אחת עם XGROUP CREATE. החוקר קורא כחבר בה, והמשימה נשארת ממתינה עד שתאושר.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    משתמשים שוב בתוצאת כלי

    סוכן אחר כבר הריץ את החיפוש הזה היום. מטמון הכלים המשותף מחזיר אותו.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    משתפים את הממצאים

    התוצאות נכנסות לזיכרון העבודה של הפרויקט, שבו כל סוכן יכול לקרוא אותן.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    מאשרים

    המשימה הושלמה ויוצאת מרשימת הממתינות. אילו החוקר היה קורס, XAUTOCLAIM היה מעביר אותה לסוכן אחר.

    XACK tasks agents 1790985600123-0
  6. 06

    הכותב לוקח את זה

    הכותב קורא את הממצאים המשותפים, מנסח את הדוח ורושם את הפעולה.

    AMEM.WORK.GET project:9 findings
איפה זה מתאים

תרחישים מהעולם האמיתי

מחקר ודוחות

מתכנן מפרק שאלה למשימות משנה, כמה חוקרים עובדים במקביל, וכותב מרכיב את התוצאה מהזיכרון המשותף.

סוכני תוכנה

סוכני קידוד, בדיקות וסקירה מעבירים עבודה דרך זרם, וכל שינוי שהם עושים נמצא ביומן האפיזודי.

אוטומציה של משרד אחורי

סוכני חילוץ, אימות ורישום של חשבוניות מעבירים מסמכים לאורך צינור ששורד הפעלות מחדש.

מובנה

מה מקבלים

העברת משימות עמידה

זרמים עם קבוצות צרכנים, אישורי קבלה ותפיסה של משימות שננטשו.

XADDXREADGROUPXACKXAUTOCLAIM

זיכרון עבודה משותף

מצב פרויקט שכל סוכן יכול לקרוא ולעדכן.

AMEM.WORK.SETAMEM.WORK.GET

מטמון כלים משותף

תוצאות כלים דטרמיניסטיות נעשות שימוש חוזר בהן בין סוכנים.

TOOL.CACHE.GETTOOL.CACHE.SET

מי עשה מה

יומן אפיזודי לכל סוכן לצורכי ביקורת ואיתור תקלות.

AMEM.EPIS.LOG

שאלות נפוצות

מה קורה אם סוכן קורס באמצע משימה?

המשימה נשארת ברשימת הממתינות של קבוצת הצרכנים. סוכן אחר יכול להשתלט עליה עם XAUTOCLAIM אחרי שהיא הייתה לא פעילה מספיק זמן.

האם סוכנים יכולים לרוץ על מכונות ובשפות שונות?

כן. הם צריכים רק חיבור ל-HotKV. כל לקוח שמדבר את פרוטוקול Redis עובד.

אילו תוכניות כוללות אותו?

זרמים עובדים בכל תוכנית. זיכרון לסוכנים ומטמון הכלים הם חלק מתוכניות Performance ו-Scale.

שימושים קשורים

נסו על עומס העבודה שלכם

HotKV מדבר את פרוטוקול Redis, ולכן אפשר להפנות אליו לקוח קיים ולהריץ את אותן פקודות.