AI és LLMÜgynökök

LangGraph ellenőrzőpontok és hosszú távú memória

Tartósítsa a LangGraph-ügynököket a HotKV-n. Szüneteltesse, folytassa és járja be időben a gráf állapotát, és tartsa a hosszú távú memóriát jelentés alapján kereshetően.

sikeres megfelelőségi teszt
81
mentők
Szinkron + aszinkron
használható
Licenc nélkül
Lépés 1 / 6
Telepítés

Egyetlen csomag az ellenőrzőpont-kezelőhöz és a tárolóhoz. Python 3.10 vagy újabb.

Példa munkamenetplaying
# Telepítés
$ pip install langgraph-checkpoint-hotkv
Successfully installed langgraph-checkpoint-hotkv

Animált bemutató valódi HotKV-parancsokkal és példa-válaszokkal. Kattintson bármelyik lépésre, hogy odaugorjon. A parancsok és a válaszok angolul maradnak, pontosan úgy, ahogy begépeli és látja őket a HotKV-ban.

A probléma

Az a LangGraph-ügynök, amely az állapotát a folyamat memóriájában tartja, újraindításkor mindent elveszít. A humán jóváhagyás nem várhat egy éjszakát, a megszakadt futtatások nem folytathatók, és semmi, amit az ügynök megtanult, nem éli túl a következő beszélgetést.

Hogyan kezeli a HotKV

A langgraph-checkpoint-hotkv az egyes gráfok ellenőrzőpontjait a HotKV-ban tárolja. Egy gráf megszakítható és folytatható, vagy visszatekerhető bármely korábbi lépésre, és onnan el lehet ágaztatni. A kísérő tároló szálakon átívelő hosszú távú memóriát tart, amelyet névtér, szűrő vagy, embedding modellel, jelentés alapján lehet megtalálni.

Lépésről lépésre

Mi történik, parancsról parancsra

  1. 01

    Telepítés

    Egyetlen csomag az ellenőrzőpont-kezelőhöz és a tárolóhoz. Python 3.10 vagy újabb.

    pip install langgraph-checkpoint-hotkv
  2. 02

    Fordítás HotKV-ellenőrzőpont-kezelővel

    A gráf minden lépése mostantól a HotKV-ban mentődik.

    graph = builder.compile(checkpointer=HotKVSaver(hotkv.from_url("hotkv://localhost:6379")), interrupt_before=["refund"])
  3. 03

    Futtatás jóváhagyásig

    A gráf végighalad a lépésein, mindegyik után ellenőrzőpontot mentve, és a visszatérítés előtt megáll.

    graph.invoke({"messages": [("user", "Refund order 1182")]}, {"configurable": {"thread_id": "t-81"}})
  4. 04

    Órákkal később, újraindítás után

    A folyamat éjszaka újraindult. Az állapot még mindig a HotKV-ban van, ugyanazon a lépésen várakozva.

    graph.get_state({"configurable": {"thread_id": "t-81"}}).next
  5. 05

    Jóváhagyás és folytatás

    A jóváhagyó igent mond, és a gráf a mentett ellenőrzőpontról folytatódik.

    graph.invoke(None, {"configurable": {"thread_id": "t-81"}})
  6. 06

    Emlékezés szálakon át

    A hosszú távú memória a tárolóban él, és bármely későbbi beszélgetésben újra megtalálható.

    store.put(("users", "42"), "prefs", {"refunds": "prefers store credit"})
Hol használható

Valós helyzetek

Humán jóváhagyásos munkafolyamatok

A visszatérítések, a szerződésmódosítások és az éles telepítések perceken vagy napokon át várnak egy ember jóváhagyására, anélkül hogy egy folyamatot nyitva kellene tartani.

Hosszan futó kutatási ügynökök

A 40. lépésnél megszakadt futtatás a 40. lépéstől folytatódik, nem kezdődik elölről.

Hibakeresés és kiértékelés

Menjen vissza bármely korábbi ellenőrzőpontra, módosítsa a bemenetet, és ágaztassa el, hogy lássa, hogyan viselkedett volna az ügynök.

Beépítve

Amit kap

Ellenőrzőpont-kezelő

A HotKVSaver és az AsyncHotKVSaver a gráf állapotát futtatások között őrzi, megszakítással, folytatással és időutazással.

Hosszú távú tároló

A HotKVStore elemeket őriz szálakon át, névtér, szűrő vagy jelentés szerint kereshetően, opcionális lejárattal.

Megfelelőségi tesztekkel ellenőrizve

Átmegy a LangGraph saját ellenőrzőpont-kezelő megfelelőségi tesztkészletén, 81 tesztet 8 képességben, mindkét mentőre.

Nincs modul, nincs licenc

A HotKV alap adattípusait és vektorindexét használja, és enterprise licenccel vagy anélkül is működik.

Ellenőrzőpont-kezelő és tároló

python
from langgraph.checkpoint.hotkv import HotKVSaver

with HotKVSaver.from_conn_string("hotkv://localhost:6379") as checkpointer:
    graph = builder.compile(checkpointer=checkpointer)
    graph.invoke({"messages": [("user", "hi")]}, {"configurable": {"thread_id": "1"}})

Gyakori kérdések

Szükségem van enterprise licencre?

Nem. Az ellenőrzőpont-kezelő és a tároló a HotKV alap adattípusait és vektorindexét használja, és licenccel rendelkező vagy anélküli szerveren is működik.

Támogatott az aszinkron működés?

Igen. Az AsyncHotKVSaver és az AsyncHotKVStore az ainvoke-kal és az astream-mel működik.

Használhat több alkalmazás egy szervert?

Igen. Minden egy kulcselőtag alatt tárolódik, alapértelmezés szerint langgraph, amelyet alkalmazásonként vagy környezetenként megváltoztathat.

Kapcsolódó felhasználási esetek

Próbálja ki a saját munkaterhelésén

A HotKV a Redis protokollt beszéli, így egy meglévő klienst ráirányíthat, és lefuttathatja ugyanezeket a parancsokat.