AI và LLMAgentCác gói Performance và Scale

Điều phối nhiều agent

Các agent lập kế hoạch, nghiên cứu và viết bàn giao công việc qua một stream tác vụ bền vững, chia sẻ kết quả và bộ nhớ, và không bao giờ mất một tác vụ.

tác vụ bị mất khi một agent sập
0
bộ nhớ dùng chung
1
agent song song
N
Bước 1 trên 6
Đăng một tác vụ

Người lập kế hoạch chia công việc và thêm một tác vụ vào stream.

Phiên ví dụplaying
# Đăng một tác vụ
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

Một hướng dẫn minh họa động với các lệnh HotKV thật và phản hồi ví dụ. Nhấn vào bất kỳ bước nào để nhảy tới đó. Lệnh và phản hồi giữ nguyên bằng tiếng Anh, đúng như bạn gõ và thấy trong HotKV.

Vấn đề

Các đội agent cần cách chuyển việc cho nhau, chia sẻ những gì họ tìm thấy và phục hồi khi một agent sập giữa tác vụ. Ghép những thứ đó bằng các lệnh gọi HTTP ngẫu hứng làm mất tác vụ, lặp lại lệnh gọi công cụ và không để lại bản ghi ai đã làm gì.

HotKV xử lý như thế nào

Một stream với nhóm consumer là bảng tác vụ. Mỗi agent đọc các tác vụ của riêng mình, xác nhận khi xong, và bất cứ thứ gì một agent bị sập để lại ở trạng thái chờ đều có thể được agent khác nhận. Các phát hiện đi vào bộ nhớ làm việc dùng chung, kết quả công cụ được cache cho mọi agent, và mỗi hành động đều được ghi nhật ký.

Từng bước một

Điều gì xảy ra, từng lệnh một

  1. 01

    Đăng một tác vụ

    Người lập kế hoạch chia công việc và thêm một tác vụ vào stream.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    Một worker nhận nó

    Nhóm consumer được tạo một lần bằng XGROUP CREATE. Người nghiên cứu đọc với tư cách thành viên của nhóm, và tác vụ ở trạng thái chờ cho đến khi được xác nhận.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    Dùng lại kết quả công cụ

    Một agent khác đã chạy lượt tìm kiếm này hôm nay. Cache công cụ dùng chung trả về nó.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    Chia sẻ các phát hiện

    Kết quả đi vào bộ nhớ làm việc của dự án, nơi mọi agent đều đọc được.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Xác nhận

    Tác vụ xong và rời danh sách chờ. Nếu người nghiên cứu bị sập, XAUTOCLAIM sẽ giao nó cho agent khác.

    XACK tasks agents 1790985600123-0
  6. 06

    Người viết nhận việc

    Người viết đọc các phát hiện chung, soạn báo cáo và ghi nhật ký hành động.

    AMEM.WORK.GET project:9 findings
Phù hợp ở đâu

Các tình huống thực tế

Nghiên cứu và báo cáo

Một người lập kế hoạch chia câu hỏi thành các tác vụ con, nhiều người nghiên cứu làm song song, và một người viết tập hợp kết quả từ bộ nhớ dùng chung.

Agent phần mềm

Các agent lập trình, kiểm thử và rà soát chuyển việc qua một stream, và mọi thay đổi chúng thực hiện đều nằm trong nhật ký tình tiết.

Tự động hóa hậu cần

Các agent trích xuất, xác thực và hạch toán hóa đơn chuyển tài liệu dọc theo một pipeline sống sót qua các lần khởi động lại.

Tích hợp sẵn

Bạn nhận được gì

Bàn giao tác vụ bền vững

Stream với nhóm consumer, xác nhận và nhận lại các tác vụ bị bỏ dở.

XADDXREADGROUPXACKXAUTOCLAIM

Bộ nhớ làm việc dùng chung

Trạng thái dự án mà mọi agent đều đọc và cập nhật được.

AMEM.WORK.SETAMEM.WORK.GET

Cache công cụ dùng chung

Kết quả công cụ mang tính xác định được dùng lại giữa các agent.

TOOL.CACHE.GETTOOL.CACHE.SET

Ai đã làm gì

Một nhật ký tình tiết cho mỗi agent để kiểm toán và gỡ lỗi.

AMEM.EPIS.LOG

Câu hỏi thường gặp

Điều gì xảy ra nếu một agent sập giữa tác vụ?

Tác vụ ở lại trong danh sách chờ của nhóm consumer. Một agent khác có thể tiếp quản nó bằng XAUTOCLAIM khi nó đã nhàn rỗi đủ lâu.

Các agent có thể chạy trên máy và ngôn ngữ khác nhau không?

Có. Chúng chỉ cần một kết nối tới HotKV. Mọi client nói giao thức Redis đều hoạt động.

Gói nào bao gồm nó?

Stream hoạt động trên mọi gói. Bộ nhớ agent và cache công cụ là một phần của các gói Performance và Scale.

Trường hợp sử dụng liên quan

Thử trên khối lượng công việc của chính bạn

HotKV nói giao thức Redis, nên bạn có thể trỏ một client hiện có tới nó và chạy chính những lệnh này.