ШІ та LLMАгентиПлани Performance і Scale

Оркестрація кількох агентів

Агенти-планувальник, дослідник і автор, що передають роботу через надійний потік завдань, діляться результатами та пам'яттю й ніколи не втрачають завдання.

втрачених завдань, коли агент падає
0
спільна пам'ять
1
агентів паралельно
N
Крок 1 з 6
Опублікуйте завдання

Планувальник розбиває роботу й додає завдання до потоку.

Приклад сесіїplaying
# Опублікуйте завдання
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

Анімований покроковий розбір з реальними командами HotKV і прикладами відповідей. Натисніть будь-який крок, щоб перейти до нього. Команди та відповіді залишаються англійською, так само, як ви вводите й бачите їх у HotKV.

Проблема

Командам агентів потрібен спосіб передавати роботу одне одному, ділитися знайденим і відновлюватися, коли хтось із них падає посеред завдання. Склеювання цього довільними HTTP-викликами губить завдання, дублює виклики інструментів і не лишає запису про те, хто що робив.

Як це вирішує HotKV

Потік із групою споживачів є дошкою завдань. Кожен агент читає свої завдання, підтверджує їх після виконання, а все, що залишив у черзі впалий агент, може забрати інший. Висновки потрапляють у спільну робочу пам'ять, результати інструментів кешуються для кожного агента, а кожна дія записується в журнал.

Крок за кроком

Що відбувається, команда за командою

  1. 01

    Опублікуйте завдання

    Планувальник розбиває роботу й додає завдання до потоку.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    Виконавець бере його

    Групу споживачів створено один раз через XGROUP CREATE. Дослідник читає як її учасник, а завдання лишається в очікуванні, доки його не підтверджено.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    Використайте результат інструмента повторно

    Інший агент уже виконав цей пошук сьогодні. Спільний кеш інструментів повертає його.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    Поділіться висновками

    Результати потрапляють у робочу пам'ять проєкту, де їх може прочитати кожен агент.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Підтвердіть

    Завдання виконано, і воно залишає список очікування. Якби дослідник упав, XAUTOCLAIM передав би його іншому агентові.

    XACK tasks agents 1790985600123-0
  6. 06

    Автор підхоплює його

    Автор читає спільні висновки, складає звіт і записує дію в журнал.

    AMEM.WORK.GET project:9 findings
Де це доречно

Реальні сценарії

Дослідження та звітність

Планувальник розбиває запитання на підзавдання, кілька дослідників працюють паралельно, а автор збирає результат зі спільної пам'яті.

Програмні агенти

Агенти кодування, тестування й рев'ю передають роботу через потік, а кожна їхня зміна лишається в епізодичному журналі.

Автоматизація бек-офісу

Агенти вилучення, перевірки й проведення рахунків передають документи по конвеєру, який переживає перезапуски.

Вбудовано

Що ви отримуєте

Надійна передача завдань

Потоки з групами споживачів, підтвердженнями та перехопленням покинутих завдань.

XADDXREADGROUPXACKXAUTOCLAIM

Спільна робоча пам'ять

Стан проєкту, який може читати й оновлювати кожен агент.

AMEM.WORK.SETAMEM.WORK.GET

Спільний кеш інструментів

Детерміновані результати інструментів використовуються повторно різними агентами.

TOOL.CACHE.GETTOOL.CACHE.SET

Хто що робив

Епізодичний журнал для кожного агента для аудиту й налагодження.

AMEM.EPIS.LOG

Поширені запитання

Що буде, якщо агент упаде посеред завдання?

Завдання залишається в списку очікування групи споживачів. Інший агент може забрати його через XAUTOCLAIM, коли воно простоїть достатньо довго.

Чи можуть агенти працювати на різних машинах і мовами?

Так. Їм потрібне лише з'єднання з HotKV. Працює будь-який клієнт, що розмовляє протоколом Redis.

Які плани це містять?

Потоки працюють на кожному плані. Пам'ять агентів і кеш інструментів входять до планів Performance і Scale.

Пов'язані сценарії використання

Спробуйте на власному навантаженні

HotKV розмовляє протоколом Redis, тож ви можете направити на нього наявний клієнт і виконувати ті самі команди.