AI és LLMÜgynökökPerformance és Scale csomagok

Többügynökös orkesztráció

Tervező, kutató és író ügynökök, amelyek tartós feladatfolyamon adják át a munkát, megosztják az eredményeket és a memóriát, és soha nem veszítenek el egy feladatot sem.

elveszett feladat, ha egy ügynök összeomlik
0
közös memória
1
ügynök párhuzamosan
N
Lépés 1 / 6
Feladat feladása

A tervező felbontja a munkát, és hozzáad egy feladatot a streamhez.

Példa munkamenetplaying
# Feladat feladása
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

Animált bemutató valódi HotKV-parancsokkal és példa-válaszokkal. Kattintson bármelyik lépésre, hogy odaugorjon. A parancsok és a válaszok angolul maradnak, pontosan úgy, ahogy begépeli és látja őket a HotKV-ban.

A probléma

Az ügynökcsapatoknak módra van szükségük arra, hogy átadják egymásnak a munkát, megosszák, amit találtak, és helyreálljanak, ha egyikük feladat közben összeomlik. Ha ezt alkalmi HTTP-hívásokkal ragasztják össze, a feladatok elvesznek, az eszközhívások duplikálódnak, és nem marad feljegyzés arról, ki mit csinált.

Hogyan kezeli a HotKV

Egy fogyasztói csoporttal rendelkező stream a feladattábla. Minden ügynök a saját feladatait olvassa, kész állapotban visszaigazolja őket, és amit egy összeomlott ügynök függőben hagyott, azt egy másik átveheti. A megállapítások a közös munkamemóriába kerülnek, az eszközeredmények minden ügynök számára gyorsítótárazódnak, és minden művelet naplózva van.

Lépésről lépésre

Mi történik, parancsról parancsra

  1. 01

    Feladat feladása

    A tervező felbontja a munkát, és hozzáad egy feladatot a streamhez.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    Egy munkavégző átveszi

    A fogyasztói csoportot egyszer hozták létre az XGROUP CREATE-tel. A kutató ennek tagjaként olvas, és a feladat visszaigazolásig függőben marad.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    Eszközeredmény újrafelhasználása

    Egy másik ügynök már lefuttatta ezt a keresést ma. A közös eszköz-gyorsítótár visszaadja.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    A megállapítások megosztása

    Az eredmények a projekt munkamemóriájába kerülnek, ahol minden ügynök elolvashatja őket.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Visszaigazolás

    A feladat kész, és elhagyja a függő listát. Ha a kutató összeomlott volna, az XAUTOCLAIM egy másik ügynöknek adta volna át.

    XACK tasks agents 1790985600123-0
  6. 06

    Az író átveszi

    Az író elolvassa a közös megállapításokat, megírja a jelentés vázlatát, és naplózza a műveletet.

    AMEM.WORK.GET project:9 findings
Hol használható

Valós helyzetek

Kutatás és jelentéskészítés

Egy tervező részfeladatokra bontja a kérdést, több kutató párhuzamosan dolgozik, egy író pedig összeállítja az eredményt a közös memóriából.

Szoftverügynökök

A kódoló, tesztelő és felülvizsgáló ügynökök streamen keresztül adják át a munkát, és minden általuk végzett módosítás az epizodikus naplóban van.

Back-office automatizálás

A számlakinyerő, ellenőrző és könyvelő ügynökök egy újraindításokat túlélő folyamaton adják tovább a dokumentumokat.

Beépítve

Amit kap

Tartós feladatátadás

Streamek fogyasztói csoportokkal, visszaigazolásokkal és az elhagyott feladatok átvételével.

XADDXREADGROUPXACKXAUTOCLAIM

Közös munkamemória

Projektállapot, amelyet minden ügynök olvashat és frissíthet.

AMEM.WORK.SETAMEM.WORK.GET

Közös eszköz-gyorsítótár

A determinisztikus eszközeredmények újra felhasználhatók az ügynökök között.

TOOL.CACHE.GETTOOL.CACHE.SET

Ki mit csinált

Ügynökönkénti epizodikus napló auditra és hibakeresésre.

AMEM.EPIS.LOG

Gyakori kérdések

Mi történik, ha egy ügynök feladat közben összeomlik?

A feladat a fogyasztói csoport függő listáján marad. Egy másik ügynök átveheti az XAUTOCLAIM-mel, ha már elég ideje tétlen.

Futhatnak az ügynökök különböző gépeken és nyelveken?

Igen. Csak kapcsolatra van szükségük a HotKV-hoz. Bármely, a Redis protokollt beszélő kliens működik.

Mely csomagok tartalmazzák?

A streamek minden csomagon működnek. Az ügynökmemória és az eszköz-gyorsítótár a Performance és a Scale csomag része.

Kapcsolódó felhasználási esetek

Próbálja ki a saját munkaterhelésén

A HotKV a Redis protokollt beszéli, így egy meglévő klienst ráirányíthat, és lefuttathatja ugyanezeket a parancsokat.