IA și LLMAgențiPlanurile Performance și Scale

Orchestrarea mai multor agenți

Agenți planificator, cercetător și redactor care își predau munca printr-un flux durabil de sarcini, partajează rezultate și memorie și nu pierd niciodată o sarcină.

sarcini pierdute când un agent se oprește brusc
0
memorie partajată
1
agenți în paralel
N
Pasul 1 din 6
Postați o sarcină

Planificatorul împarte jobul și adaugă o sarcină în stream.

Sesiune de exempluplaying
# Postați o sarcină
hotkv> XADD tasks * type research topic "EU AI Act obligations"
"1790985600123-0"

O demonstrație animată cu comenzi HotKV reale și răspunsuri de exemplu. Faceți clic pe orice pas pentru a sări la el. Comenzile și răspunsurile rămân în engleză, exact așa cum le tastați și le vedeți în HotKV.

Problema

Echipele de agenți au nevoie de o cale de a-și pasa munca, de a partaja ce au găsit și de a se redresa când unul dintre ei se oprește brusc în mijlocul sarcinii. Dacă legați toate astea cu apeluri HTTP ad hoc, pierdeți sarcini, dublați apeluri de unelte și nu rămâne nicio evidență a cine ce a făcut.

Cum o rezolvă HotKV

Un stream cu un grup de consumatori este panoul de sarcini. Fiecare agent își citește sarcinile, le confirmă când termină, iar tot ce a lăsat în așteptare un agent oprit brusc poate fi preluat de altul. Descoperirile intră în memoria de lucru partajată, rezultatele uneltelor sunt puse în cache pentru toți agenții, iar fiecare acțiune este înregistrată.

Pas cu pas

Ce se întâmplă, comandă cu comandă

  1. 01

    Postați o sarcină

    Planificatorul împarte jobul și adaugă o sarcină în stream.

    XADD tasks * type research topic "EU AI Act obligations"
  2. 02

    Un worker o preia

    Grupul de consumatori a fost creat o dată cu XGROUP CREATE. Cercetătorul citește ca membru al lui, iar sarcina rămâne în așteptare până este confirmată.

    XREADGROUP GROUP agents researcher COUNT 1 BLOCK 5000 STREAMS tasks >
  3. 03

    Reutilizați un rezultat de unealtă

    Un alt agent a rulat deja astăzi această căutare. Cache-ul partajat de unelte o returnează.

    TOOL.CACHE.GET web "search:EU AI Act obligations"
  4. 04

    Partajați descoperirile

    Rezultatele intră în memoria de lucru a proiectului, unde le poate citi fiecare agent.

    AMEM.WORK.SET project:9 findings "Providers of high-risk systems must ..."
  5. 05

    Confirmați

    Sarcina este încheiată și iese din lista de așteptare. Dacă cercetătorul s-ar fi oprit brusc, XAUTOCLAIM ar fi dat-o altui agent.

    XACK tasks agents 1790985600123-0
  6. 06

    Redactorul o preia

    Redactorul citește descoperirile partajate, redactează raportul și înregistrează acțiunea.

    AMEM.WORK.GET project:9 findings
Unde se potrivește

Scenarii din lumea reală

Cercetare și raportare

Un planificator împarte o întrebare în subsarcini, mai mulți cercetători lucrează în paralel, iar un redactor asamblează rezultatul din memoria partajată.

Agenți software

Agenții de codare, testare și revizuire își pasează munca printr-un stream, iar fiecare schimbare pe care o fac se află în jurnalul episodic.

Automatizare de back-office

Agenții de extragere, validare și înregistrare a facturilor transmit documente de-a lungul unui pipeline care supraviețuiește repornirilor.

Integrat

Ce primiți

Predare durabilă a sarcinilor

Streamuri cu grupuri de consumatori, confirmări și preluarea sarcinilor abandonate.

XADDXREADGROUPXACKXAUTOCLAIM

Memorie de lucru partajată

Starea proiectului, pe care o poate citi și actualiza fiecare agent.

AMEM.WORK.SETAMEM.WORK.GET

Cache partajat de unelte

Rezultatele deterministe ale uneltelor sunt reutilizate între agenți.

TOOL.CACHE.GETTOOL.CACHE.SET

Cine ce a făcut

Un jurnal episodic pe agent, pentru audit și depanare.

AMEM.EPIS.LOG
Referință:XREADGROUPXAUTOCLAIMTOOL.CACHE.GETAMEM.WORK.SET

Întrebări frecvente

Ce se întâmplă dacă un agent se oprește brusc în mijlocul unei sarcini?

Sarcina rămâne în lista de așteptare a grupului de consumatori. Alt agent o poate prelua cu XAUTOCLAIM după ce a stat suficient de mult inactivă.

Pot agenții să ruleze pe mașini și în limbaje diferite?

Da. Au nevoie doar de o conexiune la HotKV. Orice client care vorbește protocolul Redis funcționează.

Ce planuri îl includ?

Streamurile funcționează în fiecare plan. Memoria pentru agenți și cache-ul de unelte fac parte din planurile Performance și Scale.

Cazuri de utilizare înrudite

Agenți

Agenți autonomi cu memorie

Oferiți agenților care rulează mult timp un context al conversației, cunoștințe regăsite, starea sarcinii și o urmă de audit, toate într-un singur loc.

Explorați
Agenți

Caching pentru apelurile de unelte ale agenților

Agenții apelează aceleași unelte cu aceleași argumente iar și iar. Memoizați rezultatele și nu mai plătiți de două ori același apel API.

Explorați
Lucru în fundal

Streaming de evenimente cu grupuri de consumatori

Streamuri de evenimente append-only, cu grupuri de consumatori, confirmări și recuperare automată a mesajelor lăsate în urmă de un consumator oprit brusc.

Explorați

Încercați pe propria sarcină de lucru

HotKV vorbește protocolul Redis, așa că puteți îndrepta spre el un client existent și rula aceleași comenzi.

Obțineți acces anticipatUrmătorul: Caching de unelte