AI และ LLMเอเจนต์แผน Performance และ Scale

การประสานงานหลายเอเจนต์

เอเจนต์ผู้วางแผน นักวิจัย และนักเขียนที่ส่งต่องานผ่านสตรีมงานที่คงทน แบ่งปันผลลัพธ์และหน่วยความจำ และไม่ทำงานหายเลย

งานที่หายเมื่อเอเจนต์ล่ม
0
หน่วยความจำที่ใช้ร่วมกัน
1
เอเจนต์ทำงานขนานกัน
N
ขั้นที่ 1 จาก 6
โพสต์งาน

ผู้วางแผนแบ่งงานและเพิ่มหนึ่งงานเข้าสตรีม

เซสชันตัวอย่างplaying
# โพสต์งาน
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

ตัวอย่างแบบแอนิเมชันพร้อมคำสั่ง HotKV จริงและคำตอบตัวอย่าง คลิกขั้นตอนใดก็ได้เพื่อข้ามไปยังขั้นนั้น คำสั่งและคำตอบยังคงเป็นภาษาอังกฤษ ตรงตามที่คุณพิมพ์และเห็นใน HotKV

ปัญหา

ทีมเอเจนต์ต้องมีวิธีส่งงานให้กัน แบ่งปันสิ่งที่พบ และกู้คืนเมื่อตัวหนึ่งล่มกลางงาน การเย็บสิ่งนั้นเข้าด้วยกันด้วยการเรียก HTTP เฉพาะกิจทำให้งานหาย เรียกเครื่องมือซ้ำซ้อน และไม่เหลือบันทึกว่าใครทำอะไร

HotKV จัดการอย่างไร

สตรีมพร้อม consumer group คือกระดานงาน เอเจนต์แต่ละตัวอ่านงานของตนเอง ตอบรับเมื่อทำเสร็จ และงานที่เอเจนต์ที่ล่มทิ้งไว้ค้างอยู่ให้ตัวอื่นรับไปทำต่อได้ ข้อค้นพบไปอยู่ในหน่วยความจำเพื่อการทำงานที่ใช้ร่วมกัน ผลลัพธ์ของเครื่องมือถูกแคชไว้ให้ทุกเอเจนต์ และทุกการกระทำถูกบันทึก

ทีละขั้นตอน

เกิดอะไรขึ้นบ้าง ทีละคำสั่ง

  1. 01

    โพสต์งาน

    ผู้วางแผนแบ่งงานและเพิ่มหนึ่งงานเข้าสตรีม

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    เวิร์กเกอร์รับงาน

    consumer group ถูกสร้างครั้งเดียวด้วย XGROUP CREATE นักวิจัยอ่านในฐานะสมาชิกของมัน และงานคงสถานะค้างจนกว่าจะถูกตอบรับ

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    ใช้ผลลัพธ์ของเครื่องมือซ้ำ

    เอเจนต์อีกตัวรันการค้นหานี้ไปแล้ววันนี้ แคชเครื่องมือที่ใช้ร่วมกันคืนผลให้

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    แบ่งปันข้อค้นพบ

    ผลลัพธ์ไปอยู่ในหน่วยความจำเพื่อการทำงานของโปรเจกต์ ซึ่งทุกเอเจนต์อ่านได้

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    ตอบรับ

    งานเสร็จและออกจากรายการที่ค้าง หากนักวิจัยล่ม XAUTOCLAIM จะส่งงานให้เอเจนต์ตัวอื่น

    XACK tasks agents 1790985600123-0
  6. 06

    นักเขียนรับช่วงต่อ

    นักเขียนอ่านข้อค้นพบที่ใช้ร่วมกัน ร่างรายงาน และบันทึกการกระทำ

    AMEM.WORK.GET project:9 findings
เหมาะกับงานแบบไหน

สถานการณ์จริง

การวิจัยและการรายงาน

ผู้วางแผนแยกคำถามเป็นงานย่อย นักวิจัยหลายตัวทำงานขนานกัน และนักเขียนประกอบผลจากหน่วยความจำที่ใช้ร่วมกัน

เอเจนต์ซอฟต์แวร์

เอเจนต์เขียนโค้ด ทดสอบ และรีวิวส่งงานต่อกันผ่านสตรีม และทุกการเปลี่ยนแปลงที่พวกมันทำอยู่ในบันทึกเหตุการณ์

ระบบอัตโนมัติหลังบ้าน

เอเจนต์ดึงข้อมูลใบแจ้งหนี้ ตรวจสอบ และบันทึกบัญชีส่งต่อเอกสารไปตามไปป์ไลน์ที่ทนต่อการรีสตาร์ต

อยู่ในตัว

สิ่งที่คุณได้รับ

การส่งต่องานที่คงทน

สตรีมพร้อม consumer group การตอบรับ และการรับงานที่ถูกทิ้งไว้ไปทำต่อ

XADDXREADGROUPXACKXAUTOCLAIM

หน่วยความจำเพื่อการทำงานที่ใช้ร่วมกัน

สถานะของโปรเจกต์ที่ทุกเอเจนต์อ่านและอัปเดตได้

AMEM.WORK.SETAMEM.WORK.GET

แคชเครื่องมือที่ใช้ร่วมกัน

ผลลัพธ์ของเครื่องมือที่ให้ผลคงที่ถูกนำกลับมาใช้ซ้ำข้ามเอเจนต์

TOOL.CACHE.GETTOOL.CACHE.SET

ใครทำอะไร

บันทึกเหตุการณ์ต่อเอเจนต์เพื่อการตรวจสอบและดีบัก

AMEM.EPIS.LOG
ข้อมูลอ้างอิง:XREADGROUPXAUTOCLAIMTOOL.CACHE.GETAMEM.WORK.SET

คำถามที่พบบ่อย

จะเกิดอะไรขึ้นหากเอเจนต์ล่มกลางงาน

งานยังอยู่ในรายการค้างของ consumer group เอเจนต์อีกตัวรับช่วงด้วย XAUTOCLAIM ได้เมื่องานนั้นว่างนานพอ

เอเจนต์รันบนเครื่องและภาษาที่ต่างกันได้ไหม

ได้ แค่ต้องเชื่อมต่อกับ HotKV ได้ ไคลเอนต์ใดก็ตามที่ใช้โปรโตคอลของ Redis ใช้ได้

แผนไหนรวมฟีเจอร์นี้

สตรีมใช้ได้ในทุกแผน หน่วยความจำของเอเจนต์และแคชเครื่องมืออยู่ในแผน Performance และ Scale

กรณีใช้งานที่เกี่ยวข้อง

ลองกับเวิร์กโหลดของคุณเอง

HotKV ใช้โปรโตคอลของ Redis คุณจึงชี้ไคลเอนต์ที่มีอยู่มาที่ HotKV แล้วรันคำสั่งเดียวกันนี้ได้