AI i LLMAgenciplany Performance i Scale

Orkiestracja wielu agentów

Agenci planista, badacz i autor, którzy przekazują sobie pracę przez trwały strumień zadań, współdzielą wyniki i pamięć i nigdy nie gubią zadania.

utraconych zadań po awarii agenta
0
wspólna pamięć
1
agentów równolegle
N
Krok 1 z 6
Opublikuj zadanie

Planista dzieli pracę i dodaje zadanie do strumienia.

Przykładowa sesjaplaying
# Opublikuj zadanie
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

Animowany przegląd z prawdziwymi poleceniami HotKV i przykładowymi odpowiedziami. Kliknij dowolny krok, aby do niego przejść. Polecenia i odpowiedzi pozostają po angielsku, dokładnie tak, jak je wpisujesz i widzisz w HotKV.

Problem

Zespoły agentów potrzebują sposobu przekazywania sobie pracy, dzielenia się ustaleniami i odzyskiwania po awarii jednego z nich w trakcie zadania. Sklejanie tego doraźnymi wywołaniami HTTP gubi zadania, duplikuje wywołania narzędzi i nie zostawia zapisu, kto co zrobił.

Jak radzi sobie z tym HotKV

Strumień z grupą konsumentów jest tablicą zadań. Każdy agent czyta własne zadania, potwierdza je po wykonaniu, a wszystko, co po awarii agenta zostało oczekujące, może przejąć inny. Ustalenia trafiają do wspólnej pamięci roboczej, wyniki narzędzi są buforowane dla każdego agenta, a każde działanie jest zapisywane.

Krok po kroku

Co się dzieje, polecenie po poleceniu

  1. 01

    Opublikuj zadanie

    Planista dzieli pracę i dodaje zadanie do strumienia.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    Worker je przejmuje

    Grupę konsumentów utworzono raz poleceniem XGROUP CREATE. Badacz czyta jako jej członek, a zadanie pozostaje oczekujące do potwierdzenia.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    Użyj ponownie wyniku narzędzia

    Inny agent już dziś uruchomił to wyszukiwanie. Wspólny cache narzędzi je zwraca.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    Podziel się ustaleniami

    Wyniki trafiają do pamięci roboczej projektu, gdzie każdy agent może je czytać.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Potwierdź

    Zadanie jest wykonane i opuszcza listę oczekujących. Gdyby badacz uległ awarii, XAUTOCLAIM przekazałby je innemu agentowi.

    XACK tasks agents 1790985600123-0
  6. 06

    Autor je podejmuje

    Autor czyta wspólne ustalenia, pisze raport i zapisuje działanie w dzienniku.

    AMEM.WORK.GET project:9 findings
Gdzie się sprawdza

Scenariusze z życia

Badania i raportowanie

Planista dzieli pytanie na podzadania, kilku badaczy pracuje równolegle, a autor składa wynik ze wspólnej pamięci.

Agenci programistyczni

Agenci kodowania, testowania i przeglądu przekazują pracę przez strumień, a każda ich zmiana jest w dzienniku epizodycznym.

Automatyzacja back office

Agenci wyodrębniania, walidacji i księgowania faktur przekazują dokumenty wzdłuż potoku, który przetrwa restarty.

Wbudowane

Co dostajesz

Trwałe przekazywanie zadań

Strumienie z grupami konsumentów, potwierdzeniami i przejmowaniem porzuconych zadań.

XADDXREADGROUPXACKXAUTOCLAIM

Wspólna pamięć robocza

Stan projektu, który każdy agent może czytać i aktualizować.

AMEM.WORK.SETAMEM.WORK.GET

Wspólny cache narzędzi

Deterministyczne wyniki narzędzi są używane ponownie przez wielu agentów.

TOOL.CACHE.GETTOOL.CACHE.SET

Kto co zrobił

Dziennik epizodyczny dla każdego agenta do audytu i debugowania.

AMEM.EPIS.LOG

Częste pytania

Co się stanie, jeśli agent ulegnie awarii w trakcie zadania?

Zadanie pozostaje na liście oczekujących grupy konsumentów. Inny agent może je przejąć przez XAUTOCLAIM, gdy będzie bezczynne dostatecznie długo.

Czy agenci mogą działać na różnych maszynach i w różnych językach?

Tak. Potrzebują tylko połączenia z HotKV. Działa każdy klient mówiący protokołem Redis.

Które plany to zawierają?

Strumienie działają w każdym planie. Pamięć agentów i cache narzędzi są częścią planów Performance i Scale.

Powiązane przypadki użycia

Wypróbuj na własnym obciążeniu

HotKV mówi protokołem Redis, więc możesz skierować na niego istniejącego klienta i uruchomić te same polecenia.